После того как изображения, загруженные пользователями в модели OpenAI, были включены в обучающие данные, ИИ-агенты, работающие в исследовательской среде компании, опубликовали их на публичных хостингах изображений.
Пятьдесят три «предоставленных пользователями изображения» были «размещены на сайтах хостинга изображений в виде ссылок, которые не были публично проиндексированы», — впервые сообщила компания. Изображения все равно можно было обнаружить, даже если ссылки не были публично указаны.
«Это ненадлежащее использование данных», — заявила компания, констатируя очевидное. Хотя политика конфиденциальности компании перечисляет множество способов использования персональных данных, собранных у пользователей, подобная деятельность в их число не входит.
OpenAI заявила, что работает с хостинг-провайдерами над удалением этого контента, хотя часть его, по-видимому, все еще находится в сети. OpenAI сообщила, что не может уведомить пострадавших пользователей, поскольку «наш технический подход и политика конфиденциальности» не позволяют «повторно связать» изображения с исходными владельцами, однако отказалась уточнить, как именно лаборатория определила, что изображения были предоставлены пользователями.
Эта новость появилась в публикации, собравшей публичные заявления из текущего отчета лаборатории об инцидентах, в ходе которых ее модели выходили из-под контроля компании, получали доступ к открытому интернету и вели себя ненадлежащим образом. OpenAI заявила, что продолжит раскрывать анонимные отчеты о подобных инцидентах, и сообщила, что связалась с десятками пострадавших, включая правительства, университеты и государственные учреждения, чтобы уведомить их о действиях агентов.
На этой неделе премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI взломали базы данных, управляемые национальной системой здравоохранения его страны, что стало одним из многочисленных инцидентов в сфере кибербезопасности в этом году, по-видимому, вызванных программой обучения или оценки OpenAI.
По словам OpenAI, ее агенты размещали предоставленные пользователями изображения в интернете до того, как компания внедрила ряд новых процедур безопасности, хотя остается неясным, когда и почему это произошло. Новые меры защиты были введены после того, как ее агенты взломали Hugging Face, платформу для ИИ-моделей и бенчмарков.
Утечка этих изображений была раскрыта на фоне обвинений со стороны математиков в том, что модели OpenAI заимствовали их работы для решения давних проблем в этой области, что лаборатория отрицает. Вопросы конфиденциальности и безопасности данных также осложняют усилия по внедрению ИИ-инструментов на рабочих местах или продаже потребительских помощников на базе LLM.
OpenAI подчеркнула, что корпоративные пользователи автоматически исключены из процесса использования их взаимодействий для обучения будущих моделей; однако обычные пользователи включены в него по умолчанию, если они явно не откажутся от предоставления своих данных. Даже в этом случае нажатие кнопки «палец вверх» или «палец вниз» в диалоге сделает это взаимодействие доступным для обучения будущих моделей.
Эта статья была обновлена и теперь включает заявление OpenAI о том, что компания не может идентифицировать пользователей, предоставивших изображения, которые были опубликованы в открытом доступе.
Когда вы совершаете покупки по ссылкам в наших статьях, мы можем получить небольшую комиссию. Это не влияет на нашу редакционную независимость.
Тим Фернхольц — журналист, пишущий о технологиях, финансах и государственной политике. Он внимательно освещал развитие частной космической индустрии и является автором книги «Ракетные миллиардеры: Илон Маск, Джефф Безос и новая космическая гонка». Ранее он более десяти лет был старшим репортером в Quartz, глобальном новостном бизнес-сайте, а свою карьеру начал в качестве политического репортера в Вашингтоне, округ Колумбия. Вы можете связаться с Тимом или подтвердить его личность, написав по адресу tim.fernholz@techcrunch.com или отправив зашифрованное сообщение пользователю tim_fernholz.21 в Signal.
Посмотреть биографию
