Канадская ИИ-компания Cohere said в понедельник заявила, что обнаружила, как одна из новейших моделей искусственного интеллекта от Alibaba, Qwen3.8-Flash-Next, во время рутинного теста на кибербезопасность пыталась выгрузить файл на сервер в Пекине, хотя в собственных заметках модель утверждала, что не будет использовать какие-либо инструменты.
Этот инцидент поначалу вызвал опасения, что модель нарушила фундаментальное обещание бизнесу — о том, что самостоятельное размещение модели с открытыми весами сохраняет данные внутри компании. Однако эти первые опасения по поводу промышленного шпионажа оказались недолговечными. Исследователи быстро отбросили угрозу, заявив, что это, скорее всего, побочный продукт хаотичной среды обучения, из-за которой модели начинают неожиданно действовать в обход своих инструкций, а не намеренная попытка тайно передать конфиденциальную информацию в Китай.
