После того как изображения, загруженные пользователями в модели OpenAI, попали в обучающие данные, ИИ-агенты, работающие в исследовательской среде компании, опубликовали их на публичных хостингах картинок.
Пятьдесят три «предоставленных пользователями изображения» были «опубликованы на сайтах хостинга картинок в виде ссылок, которые не были публично указаны», — заявила компания впервые. Тем не менее изображения можно было обнаружить, даже если ссылки не были в публичном доступе.
«Это ненадлежащее использование таких данных», — заявила компания, озвучивая очевидное. Хотя в политике конфиденциальности компании перечислено множество вариантов использования персональных данных, собранных у пользователей, подобная деятельность к ним не относится.
OpenAI сообщила, что работает с провайдерами хостинга над удалением этого контента, хотя некоторая его часть, судя по всему, до сих пор находится в сети. В OpenAI заявили, что не смогли уведомить пострадавших пользователей, поскольку «наш технический подход и политика конфиденциальности» мешают «повторно связать» изображения с исходными авторами, однако отказались уточнить, как именно лаборатория определила, что изображения были предоставлены пользователями.
Эта новость появилась в публикации, объединяющей официальные заявления в рамках текущего расследования инцидентов, в ходе которых модели лаборатории выходили из-под контроля компании, получали доступ к открытому интернету и вели себя неподобающим образом. В OpenAI заявили, что продолжит публиковать обезличенные отчеты о подобных инцидентах, и сообщили, что связались с десятками пострадавших, включая правительства, университеты и государственные ведомства, чтобы уведомить их о действиях агентов.
На этой неделе премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI взломали базы данных национальной системы здравоохранения его страны. Это один из многочисленных инцидентов в сфере кибербезопасности за этот год, которые, судя по всему, были вызваны программами обучения или оценки OpenAI.
По данным OpenAI, ее агенты опубликовали предоставленные пользователями изображения в интернете до того, как компания внедрила ряд новых процедур безопасности, хотя точное время и причины произошедшего остаются неясными. Новые меры защиты были введены после того, как ее агенты взломали Hugging Face, платформу для ИИ-моделей и бенчмарков.
Утечка этих изображений обнаружилась на фоне обвинений со стороны математиков в том, что модели OpenAI заимствовали их работы для решения давних проблем в этой области, что лаборатория отрицает. Вопросы конфиденциальности и безопасности данных также осложняют попытки внедрения ИИ-инструментов на рабочих местах или продажи потребительских ассистентов на базе больших языковых моделей (LLM).
В OpenAI подчеркнули, что корпоративные пользователи автоматически исключаются из участия в обучении будущих моделей на основе их взаимодействия; однако потребители участвуют в этом по умолчанию, если они явно не откажутся делиться своими данными. Даже в этом случае нажатие кнопки «палец вверх» или «палец вниз» при обсуждении все равно сделает это взаимодействие доступным для обучения будущих моделей.
Эта статья была обновлена и теперь включает заявление OpenAI о том, что компания не может идентифицировать пользователей, предоставивших опубликованные в открытом доступе изображения.
