Комментируя указ президента США о передовых моделях искусственного интеллекта и необходимость создания более надежных систем управления, Кэт Соммер, руководитель отдела по связям с государственными органами и аналитиками в NCC Group, отметила:
«Когда речь заходит о мерах безопасности ИИ для снижения рисков, создаваемых новыми передовыми моделями, такими как Mythos, существует ряд аспектов, которые плохо охвачены существующими международными стандартами и на которых должен быть сосредоточен указ президента:
- Оценка рисков с учетом контекста: многие реальные уязвимости ИИ проистекают из того, как системы интегрируются в более широкие ИТ-среды, а не только из результатов работы самой модели.
- Методы тестирования системных и эмерджентных рисков по мере того, как организации интегрируют память, автономные агенты и оркестрацию в различных системах.
- Надежные рекомендации для сред развертывания моделей, включая разграничение прав доступа, элементы управления доступом к данным и мониторинг шлюзов ИИ.
- И более четкие границы между вредом, вызванным ИИ, и вредом, вызванным системой, для формирования нормативно-правовой базы.
Указу президента необходимо найти правильный баланс между ускорением инноваций в сфере ИИ в США и обеспечением того, чтобы передовые модели проходили проверку на риски перед их широким внедрением. Это предполагает:
- Безопасность как не подлежащая обсуждению основа: должны быть предусмотрены меры предосторожности для предотвращения системных уязвимостей, которые могут подорвать доверие.
- Пропорциональность и гибкость: следует избегать жестких, излишне предписывающих правил на ранних этапах и вместо этого внедрять подходы, основанные на оценке рисков, которые могут развиваться вместе с технологиями.
- Содействие инновациям за счет минимизации правовой неопределенности: четкие промежуточные руководства и добровольное соответствие глобальным стандартам позволяют избежать паралича в вопросах комплаенса.
- Планирование с учетом динамики: закладывать циклы итеративного пересмотра для обновления правил по мере изменения рисков и возможностей, а не жестко кодировать требования, которые быстро устаревают.
Короче говоря, нельзя жертвовать безопасностью ради скорости, но в то же время следует избегать регуляторного «застоя» за счет использования поэтапных или адаптивных обязательств, подкрепленных передовыми мировыми практиками.
Самих по себе добровольных рекомендаций недостаточно. Текущие уровни рисков в сочетании с ускорением развития передовых моделей означают, что опора исключительно на необязательные советы оставит системные уязвимости без контроля.
Вместо этого необходимы обязательные требования, основанные на оценке рисков, но они должны быть поэтапными и адаптируемыми. Требования должны применяться пропорционально, уделяя первостепенное внимание системам ИИ с высоким уровнем риска, влияющим на безопасность, критическую инфраструктуру или национальную безопасность. Обязательные предписания должны ссылаться на устоявшиеся стандарты (например, NIST AI RMF, ISO), чтобы обеспечить согласованность и глобальную совместимость.
Правильный подход заключается в том, чтобы выпустить высокоуровневые промежуточные рекомендации сейчас, пока технические стандарты дорабатываются, а затем перейти к обязательным требованиям после публикации стандартов, с регулярными циклами пересмотра для предотвращения устаревания и поддержки инноваций».
