Крис Анли (Chris Anley), главный научный сотрудник NCC Group, отметил:
"Международный отчет о безопасности ИИ — это очень подробный и полезный документ. Хотя в нем подчеркивается нынешняя неопределенность, он также проливает свет на несколько новых тенденций: системы ИИ демонстрируют явные улучшения в возможностях.
Как организация, мы реагируем на огромное количество инцидентов. Хотя мы наблюдаем использование генеративного ИИ в социальной инженерии, в настоящее время мы видим мало свидетельств использования ИИ для координации и проведения атак, хотя ожидаем, что это произойдет в какой-то момент. В данных об инцидентах это, вероятно, проявится как увеличение скорости и квалификации злоумышленников, однако этот сигнал может быть сложно обнаружить поначалу.
Безопасность — это всегда гонка вооружений. Постоянно обнаруживаются и исправляются новые уязвимости в программном обеспечении; открываются и минимизируются новые классы атак. ИИ может немного ускорить и улучшить все процессы, но он также по-разному меняет ситуацию для атакующих и защищающихся. Злоумышленники получают генеративный ИИ для социальной инженерии, и по мере того, как технические атаки становятся немного быстрее и качественнее, защитники улучшают методы обнаружения, анализа и автоматизации.
У защитников есть несколько фундаментальных преимуществ:
- Злоумышленники должны уделять большое внимание собственной операционной безопасности, в то время как защитники могут более свободно использовать наиболее мощные передовые модели. В целом защитники имеют доступ к более качественному ИИ, который может усилить все преимущества
Злоумышленники должны уделять большое внимание собственной операционной безопасности, в то время как защитники могут более свободно использовать наиболее мощные передовые модели. В целом защитники имеют доступ к более качественному ИИ, который может усилить все преимущества
- Модели хороши ровно настолько, насколько хороши их обучающие данные. Защитная информация передается, а передовые инструменты и методы атак — нет
Модели хороши ровно настолько, насколько хороши их обучающие данные. Защитная информация передается, а передовые инструменты и методы атак — нет
- Улучшения в области автоматизированных исследований уязвимостей применимы как к злоумышленникам, так и к защитникам, но защитники устраняют и сообщают об уязвимостях, сокращая поле для атак
Улучшения в области автоматизированных исследований уязвимостей применимы как к злоумышленникам, так и к защитникам, но защитники устраняют и сообщают об уязвимостях, сокращая поле для атак
Время покажет, перевесят ли эти преимущества чашу весов в пользу защитников."
«Хотя обнадеживает тот факт, что системы ИИ пока не могут запускать полностью автономные кибератаки, это не снимает риски, которые они все еще представляют. Злоумышленники уже используют ИИ-технологии для поиска уязвимостей и разработки эксплойтов, что позволяет проводить больший объем атак проще и с меньшими требованиями к технической квалификации людей.
«Автоматизируя большие части цепочки атак, ИИ позволяет преступникам и государственным акторам действовать с такими масштабами и скоростью, которые были бы невозможны только силами человеческих команд. Даже при условии сохранения участия людей в проведении атак, барьеры для осуществления сложных атак быстро снижаются.
«Организации должны осознавать, что атаки с использованием ИИ — это новая норма, поэтому им следует инвестировать в более быстрое обнаружение, надежные средства контроля и защитный ИИ, чтобы не отставать от масштабов и скорости современных угроз. Хотя ИИ представляет собой угрозу, он также является мощным инструментом, позволяющим организациям прогнозировать атаки и реагировать на них в больших масштабах, опережая киберпреступников. Поэтому крайне важно, чтобы организации активно внедряли возможности ИИ в свои стратегии безопасности для защиты своего цифрового будущего».
Отказ от ответственности: Эти комментарии отражают информацию и мнения, доступные на момент публикации, и с тех пор могли измениться.
