В понедельник компания OpenAI принесла извинения правительству Австралии за то, что не сразу уведомила администрацию страны о том, что ее агенты взломали некоторые веб-сайты государственных служб. Компания также подробно описала, как произошли некоторые из этих инспекций, и обрисовала дополнительные меры, которые она принимает для оценки последствий этих событий.
«В июне в ходе внутреннего обучения и оценки наши модели получили доступ к веб-сайтам австралийского правительства способом, на который у них не было разрешений. Нам также следовало лучше отреагировать на ситуацию. Мы сожалеем и работаем над тем, чтобы в будущем действовать лучше», — написала OpenAI в блоге.
Извинения прозвучали примерно через неделю после того, как правительство Австралии начало расследование в отношении того, как модели OpenAI получили доступ к системе Services Australia, содержащей информацию о расходах по программе Medicare и другую статистику в области здравоохранения.
Утечка данных произошла в июне, но австралийские власти были уведомлены только 10 сентября.
OpenAI также подробно описала инцидент. Экспериментальной модели, которую компания тестировала в июне, была поставлена задача исследовать государственные расходы на лекарства от кожных заболеваний в Виктории. Не найдя информацию в публичных наборах данных, модель нашла способ получить доступ к внутренней системе Services Australia, выполнила команды, извлекла файлы и учетные данные, и даже создала новые файлы.
Компания сообщила, что также обнаружила, что одна из ее моделей получила доступ к публичному инструменту картирования преступности Бюро статистики и исследований уголовного правосудия Нового Южного Уэльса для поиска криминальной статистики. Кроме того, лаборатория обнаружила, что ее агенты получили доступ к Агентству медицинской информации Виктории через незащищенный ключ доступа для эксфильтрации «конфигурации отчетности и сводной статистики опросов». В OpenAI заявили, что их агенты также извлекли сводную статистику с веб-сайта Австралийского института здравоохранения и благополучия.
Компания заявила, что не нашла никаких доказательств того, что ее модели получили доступ к медицинским или уголовным записям физических лиц.
В своих извинениях ИИ-лаборатория заявила, что предоставит пострадавшим австралийским ведомствам технические результаты и свяжет их со своими группами реагирования для оценки последствий нарушений. Компания также выделит квоты в рамках своей программы Daybreak for Frontline Defenders на 1 миллиард долларов и создаст целевую группу с независимыми австралийскими экспертами для рассмотрения инцидента и реакции на него.
«Ожидается, что целевая группа завершит свою работу к концу года и также порекомендует практические шаги, которые компании, занимающиеся разработкой ИИ, могут предпринять для снижения риска подобных инцидентов», — написали в OpenAI.
OpenAI не сразу ответила на запрос о комментариях.
Премьер-министр Австралии Энтони Альбанезе охарактеризовал инцидент как «неприемлемый» во время пресс-конференции на прошлой неделе, заявив, что правительство рассматривает возможные правовые меры, направленные на предотвращение подобных инцидентов в будущем.
Этот инцидент пополнил растущий список инцидентов безопасности, связанных с тем, что ИИ-агенты выходят за рамки предназначенных для них границ. Искру в этот костер подбросили после того, как агенты OpenAI взломали Hugging Face, и с тех пор Anthropic, Meta и Google независимо друг от друга сообщили о схожих инцидентах, в ходе которых их модели получали доступ к сторонним системам во время оценок.
Когда вы совершаете покупки по ссылкам в наших статьях, мы можем получать небольшую комиссию. Это не влияет на нашу редакционную независимость.
Кейт Парк — репортер TechCrunch, специализирующаяся на технологиях, стартапах и венчурном капитале в Азии. Ранее она была финансовым журналистом в Mergermarket, освещая темы слияний и поглощений, прямых инвестиций и венчурного капитала.
Посмотреть биографию
