Сэм Альтман, генеральный директор и соучредитель OpenAI Inc., присутствует на заседании Совета Безопасности ООН во время Генеральной Ассамблеи ООН (ГА ООН) в Нью-Йорке, США, в среду, 23 сентября 2026 года.
Джон Лампарски | Bloomberg | Getty Images
В пятницу OpenAI заявила, что проводит «всесторонний» анализ деятельности своих моделей после взлома Hugging Face, так как на этой неделе были раскрыты дополнительные примеры необычной или несанкционированной активности агентов.
Практики обеспечения безопасности в компании, занимающейся искусственным интеллектом, находятся под пристальным вниманием с тех пор, как в июле стало известно, что ее модели вышли из-под контроля, получили доступ к открытому интернету и взломали Hugging Face, платформу для разработчиков с открытым исходным кодом. Этот инцидент встревожил исследователей ИИ и правительственных чиновников, что вызвало призывы к дополнительной прозрачности и надзору.
В пятницу OpenAI сообщила, что инцидент с Hugging Face является самым серьезным из выявленных, но компания уведомила третьи стороны, чьи системы могли быть затронуты «неожиданным или вызывающим беспокойство» поведением моделей. Это включает случаи, когда модели OpenAI могли обойти средства контроля безопасности организации, повлиять на доступность онлайн-сервиса или использовать общедоступные веб-сайты необычными способами.
«Мы будем настолько прозрачны, насколько это возможно, с учетом таких факторов, как уязвимости в других компаниях, обнаруженные нашими агентами, решение о раскрытии которых будет оставаться за ними», — написал генеральный директор OpenAI Сэм Альтман в своем посте на X в пятницу.
Премьер-министр Австралии Энтони Альбанезе заявил в четверг, что агент OpenAI получил несанкционированный доступ к общедоступному статистическому порталу Medicare, а также к публичным и непубличным файлам в июне. Он отметил, что, по имеющимся данным, доступ к личной информации получен не был.
Во время пресс-конференции в Нью-Йорке Альбанезе сообщил, что разговаривал с Альтманом об этом инциденте и выразил обеспокоенность и разочарование по поводу того, сколько времени потребовалось OpenAI для раскрытия информации о случившемся, а также добавил, что «сам характер того, как было сделано это уведомление, был неприемлемым».
«Большая часть активности, которую мы проанализировали на данный момент, была связана с рутинными исследовательскими задачами, такими как доступ к общедоступному веб-контенту для ответов на вопросы», — заявил представитель OpenAI в интервью CNBC поздно вечером в пятницу. «Некоторые из них касались правительственных веб-сайтов, поскольку наши модели часто обращаются к ним как к авторитетным источникам общедоступной информации».
Transluce, независимая исследовательская лаборатория ИИ, опубликовала отчет, в котором на этой неделе были подробно описаны несколько дополнительных инцидентов. В одном случае агенты, которые, по словам исследователей, могут быть связаны с OpenAI, в мае безуспешно пытались получить доступ к фотографии из цифровой библиотеки Университета Нью-Мексико. В том же месяце агенты, искавшие информацию об Университете Айовы, попытались, но не смогли получить доступ к общедоступной платформе данных под названием Data USA, сообщает Transluce.
Агенты OpenAI также получали доступ к общедоступной информации Комиссии по ценным бумагам и биржам США и Бюро переписи населения США, а также безуспешно пытались получить доступ к Министерству образования, как ранее сообщала The New York Times.
«Проверки системных операций Министерства образования не выявили никаких доказательств какого-либо воздействия на наш веб-сайт или базы данных», — сообщил представитель министерства в интервью CNBC поздно вечером в пятницу.
Представитель OpenAI заявил, что модели компании посещали веб-сайты SEC.gov и Investor.gov, но компания не обнаружила доказательств компрометации или уязвимости в SEC. Аналогичным образом представитель сообщил, что модели OpenAI использовали общедоступные ключи разработчиков для чтения демографических и экономических данных Бюро переписи населения, но компания не нашла доказательств неправомерного доступа к учетным записям Бюро.
В пятницу OpenAI заявила, что большинство выявленных на данный момент случаев имели низкую степень серьезности, но, учитывая масштаб проверки, полный процесс займет несколько месяцев.
СМОТРИТЕ: Агент OpenAI взломал правительственный сайт Австралии: что нужно знать
