Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Usilenie borby s seksualnoy ekspluatatsiey detey v internete s pomoschyu novyh i
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Усиление борьбы с сексуальной эксплуатацией детей в интернете с помощью новых инструментов и поддержки

Источник: OpenAI•16 ноября 2026 г. в 18:07

Усиление борьбы с сексуальной эксплуатацией детей в интернете с помощью новых инструментов и поддержки

Новые инструменты, практические рекомендации и партнерства помогут предотвращать, выявлять и реагировать на случаи сексуальной эксплуатации и насилия над детьми в интернете.

Сегодня мы выпускаем новый инструмент для обнаружения материалов с сексуальным насилием над детьми (CSAM), механизмы вмешательства, которые прерывают вредоносное поведение и направляют пользователей к специалистам за помощью, практические ресурсы для разработчиков, а также поддержку для сотрудников правоохранительных органов, занимающихся вопросами безопасности детей. Эти усилия дополняют наш «План обеспечения безопасности детей» (Child Safety Blueprint) и нашу постоянную работу по обнаружению, блокировке и сообщению о случаях насилия. Для родителей цель проста: технологии должны помогать обеспечивать безопасность детей, оставаясь под контролем людей.

Хорошо⁠(opens in a new window) известно⁠(opens in a new window), что борьба с онлайн-хищниками, охотящимися на детей, требует координации между множеством организаций. Отдельные компании, такие как OpenAI, несут ответственность за то, чтобы наши технологии не использовались преступниками для причинения вреда детям. Мы также должны работать вместе с представителями отрасли, организациями по защите детей и правоохранительными органами, чтобы продвигать наши общие усилия по защите детей в интернете.

Помощь большему числу организаций в обнаружении вредоносных материалов

Мы расширяем наши текущие меры защиты, выпуская новый классификатор изображений, способный обнаруживать потенциальные материалы CSAM, включая контент, созданный искусственным интеллектом. Этот новый классификатор ищет визуальные признаки насилия, помогая командам выявлять новые изображения, которые ранее могли не встречаться. Он возвращает оценки, помогающие специалистам по проверке контента определить, какие изображения требуют первоочередного внимания. Это первый классификатор CSAM с широкой доступностью, который имеет специфический сигнал, указывающий на то, что материалы CSAM могут быть созданы ИИ.

Наши команды разработали, обучили и протестировали классификатор для реального использования при содействии National Center for Missing and Exploited Children (NCMEC)⁠(opens in a new window) — некоммерческой организации, управляющей CyberTipline, централизованным узлом для сообщений о случаях сексуальной эксплуатации детей в интернете.

Мы предоставляем доступ к классификатору проверенным организациям через API OpenAI на бесплатной основе, делая обнаружение CSAM более доступным для организаций по защите детей и всей отрасли в целом, включая команды разного масштаба.

Безопасность детей — это общеотраслевая проблема, требующая тесного сотрудничества между организациями и применения разнообразных решений. Мы привлекли Tech Coalition⁠(opens in a new window) и ROOST⁠(opens in a new window), чтобы они помогли нам предоставить доступ к этому новому инструменту. Мы также активно поддерживаем инструменты, разработанные другими компаниями, например, систему обнаружения CSAM Thorn’s Safer⁠(opens in a new window). Кроме того, мы недавно начали участвовать в программе Lantern program⁠(opens in a new window) от Tech Coalition, в рамках которой мы будем обмениваться сигналами, касающимися сексуальной эксплуатации и насилия над детьми в интернете, для укрепления межплатформенного сотрудничества.

Мы протестировали классификатор внутри компании и с первыми партнерами, чтобы оценить, какой объем вредоносных материалов он обнаруживает, как часто он помечает другие изображения и как он может помочь командам безопасности. Их отзывы помогли нам выявить слабые места и улучшить систему.

Результаты

Первые тесты показывают, что классификатор помогает специалистам сосредоточиться на вредоносных изображениях, сокращая при этом количество ложных срабатываний. В ходе оценки изображений, загруженных пользователями, мы сравнили новый классификатор с нашими текущими средствами защиты и обнаружили следующее:

  • Новый классификатор может сократить объем работы по проверке: по нашим оценкам, он помечает на 48% меньше изображений, обнаруживая при этом примерно такое же количество вредоносных материалов, как и существующий инструмент.

Новый классификатор может сократить объем работы по проверке: по нашим оценкам, он помечает на 48% меньше изображений, обнаруживая при этом примерно такое же количество вредоносных материалов, как и существующий инструмент.

  • Изображения, помеченные новым классификатором, примерно в два раза чаще содержали признаки насилия.

Изображения, помеченные новым классификатором, примерно в два раза чаще содержали признаки насилия.

Партнеры, получившие ранний доступ, также оценили, как классификатор помогает их командам безопасности. В ходе тестирования fal⁠(opens in a new window) на реальных изображениях, проверяемых людьми, специалисты подтвердили, что 72% помеченных классификатором случаев с высокой степенью уверенности являются новыми материалами CSAM. Тестирование invideo AI⁠(opens in a new window) показало, что каждый четвертый помеченный случай привел к блокировке пользователя. В ходе оценок SafetyKit⁠(opens in a new window), включавших рисунки или анимацию, сексуализирующие детей, классификатор обнаружил 90% случаев.

Более подробная информация о классификаторе доступна в карточке модели классификатора CSAM⁠(opens in a new window). Организации, заинтересованные в использовании классификатора, смогут запросить доступ через нашу форму заявки⁠. Мы продолжим совершенствовать классификатор, опираясь на отзывы тех, кто его использует.

Пресечение вредоносного поведения и направление к специалистам за помощью

Мы уже запрещаем CSAM, обучаем наши модели отказывать в запросах на создание таких материалов и принимаем меры против учетных записей, нарушающих наши правила. Мы дополняем эти меры защиты новыми предупреждениями в ChatGPT, которые прерывают попытки поиска вредоносных материалов, объясняют последствия и направляют пользователей к специалистам за помощью, чтобы остановить вредоносное поведение.

Предупреждение четко дает понять, что сексуализация детей причиняет вред, в том числе когда запрашиваемый материал создан ИИ. Наряду с предупреждением мы удалим помеченный диалог и приостановим доступ к ChatGPT на 24 часа, при этом предоставив доступ к специализированной поддержке, чтобы помочь людям прекратить вредоносное поведение. Повторные нарушения могут привести к более длительным ограничениям и, в конечном итоге, к закрытию учетной записи или сообщению в правоохранительные органы.

Мы разработали этот подход с учетом рекомендаций организаций и научных консультантов, которые исследуют и разрабатывают программы по предотвращению сексуального насилия над детьми, включая Protect Children⁠(opens in a new window), Lucy Faithfull Foundation⁠(opens in a new window), доктора Койлте О'Кирда, исследователя и почетного ридера по судебной психологии в Кентском университете, и Джоэла Скэнлана из Университета Тасмании, которые независимо оценили пробное использование⁠(opens in a new window) сдерживающих сообщений.

Практическая поддержка для разработчиков

Защита детей в интернете не заканчивается на обнаружении. Мы опубликовали руководство по CSAM⁠(opens in a new window), чтобы предоставить разработчикам практические шаги по предотвращению насилия, обнаружению вредоносного контента и реагированию на него. Руководство, разработанное при участии Tech Coalition⁠(opens in a new window), Thorn⁠(opens in a new window), NCMEC⁠(opens in a new window) и Internet Watch Foundation⁠(opens in a new window), предназначено для организаций, находящихся на разных этапах построения своих систем безопасности.

Руководство содержит четкие правила, способы сообщения пользователями о проблемах, инструменты обнаружения и процессы проверки и сообщения о подозрениях на насилие. В нем также объясняется, как идентификаторы безопасности могут помочь разработчикам связать факты злоупотребления с конкретными пользователями и как поддерживать людей, проверяющих конфиденциальный контент. Разработчики могут использовать его вместе с такими инструментами, как наш новый классификатор изображений, Moderation API⁠(opens in a new window), ROOST’s self-hosted review console Coop⁠(opens in a new window) и специализированные службы обнаружения CSAM, такие как Thorn’s Safer⁠(opens in a new window).

Наша приверженность сотрудничеству и поддержке более широкой экосистемы разработчиков также находит отражение в нашей совместной работе с Anthropic и Google по подготовке новых рекомендаций по реагированию на случаи раскрытия информации о сексуальной эксплуатации и насилии над детьми в системах ИИ. Это руководство, недавно опубликованное Tech Coalition⁠(opens in a new window), предоставляет разработчикам практические рекомендации по решению этих деликатных ситуаций.

Мы уже видим, что это руководство привело к увеличению числа разработчиков, использующих инструменты обеспечения безопасности детей и регистрирующихся для сообщения о CSAM в NCMEC.

Поддержка подразделений правоохранительных органов по обеспечению безопасности детей

Защита детей также означает поддержку специализированных следователей по безопасности детей, работающих над поиском жертв и пресечением насилия. Как мы публично обсуждали с Thorn⁠(opens in a new window), ИИ может помочь следователям систематизировать и приоритизировать информацию, а также сократить ненужный контакт с оскорбительными материалами.

Мы также поддерживаем подразделения правоохранительных органов по обеспечению безопасности детей с помощью новых инструментов и тренингов по использованию ИИ в их расследованиях, включая специализированные плагины, инструменты для расследований и комплексный анализ данных, доступ к которым управляется администраторами программы. На этапе запуска первый инструмент поможет следователям просматривать длинные журналы чатов и ответы на юридические запросы, выявлять потенциальные связи и создавать хронологию событий со ссылками на исходные материалы.

Первоначальное обучение планируется как обзор и демонстрация, подкрепленные практическим полевым руководством, к которому команды смогут обращаться впоследствии. Оно познакомит с инструментами и тем, как они вписываются в следственную работу. Доступ будет зависеть от авторизации агентства и требований программы. Будущие итерации обучения будут предложены на региональных, национальных и международных конференциях.

Продолжение совместной работы

Все эти усилия объединяет одна цель: предотвращение вреда детям и усиление мер реагирования в случаях насилия. Мы продолжим совершенствовать наши механизмы защиты, одновременно предоставляя организациям по защите детей, разработчикам, исследователям и следователям инструменты, ресурсы и опыт, необходимые им для защиты детей, борьбы с эксплуатацией и привлечения преступников к ответственности. Работая вместе, мы сможем использовать возможности ИИ, чтобы добиться значимых изменений в борьбе с сексуальной эксплуатацией и насилием над детьми.

← Все статьи

О чём эта статья

Ещё в разделе «AI и машинное обучение»

Все →
OpenAI внедрити исследователей Apollo для изучения попыток саботажа со стороны ИИПресса
OpenAI

OpenAI внедрити исследователей Apollo для изучения попыток саботажа со стороны ИИ

Tesla делает ставку на Cybercab в рамках предстоящего расширения Gigafactory в Берлине стоимостью 3 млрд евроПресса
Tesla

Tesla делает ставку на Cybercab в рамках предстоящего расширения Gigafactory в Берлине стоимостью 3 млрд евро

Представляем Baseten Voice Agent Stack: полный контроль и оптимизация голосовых агентов
Baseten

Представляем Baseten Voice Agent Stack: полный контроль и оптимизация голосовых агентов

Наш первый этап встроенных оценок
OpenAI

Наш первый этап встроенных оценок

Наука на переднем крае: как ученые используют ChatGPT
OpenAI

Наука на переднем крае: как ученые используют ChatGPT

Расширение доступа ученых к ИИ
OpenAI

Расширение доступа ученых к ИИ

Ещё от OpenAI

OpenAI внедрити исследователей Apollo для изучения попыток саботажа со стороны ИИПресса
OpenAI

OpenAI внедрити исследователей Apollo для изучения попыток саботажа со стороны ИИ

Наш первый этап встроенных оценок
OpenAI

Наш первый этап встроенных оценок

Наука на переднем крае: как ученые используют ChatGPT
OpenAI

Наука на переднем крае: как ученые используют ChatGPT

Расширение доступа ученых к ИИ
OpenAI

Расширение доступа ученых к ИИ

Развитие агентов компьютерного взаимодействия для медицинских команд
OpenAI

Развитие агентов компьютерного взаимодействия для медицинских команд

The King’s Trust и OpenAI запускают партнерство на сумму 1 млн фунтов стерлингов
OpenAI

The King’s Trust и OpenAI запускают партнерство на сумму 1 млн фунтов стерлингов