Президент Microsoft Брэд Смит призывает к срочному регулированию ИИ, аргументируя это тем, что потребительские товары, такие как молоко и стиральные машины, подвергаются большему контролю, чем компании, создающие искусственный интеллект.
В недавнем подкасте BBC Смит назвал ИИ одновременно «оружием и инструментом», который ставит под угрозу кибербезопасность во всем мире, и заявил, что «настал момент» для введения глобальных правил безопасности.
Смит также отметил, что Великобритания, а не США или Европейский союз, лучше всего подходит для того, чтобы возглавить процесс разработки глобальных правил безопасности. Британский Институт безопасности ИИ (AISI), запущенный в 2023 году, получает доступ к основным моделям от передовых американских лабораторий до их развертывания и быстро стал лидером в области тестирования безопасности ИИ.
Эта роль оказалась под угрозой в последние недели, когда президент США Дональд Трамп выступил против «глобалистских» организаций, которые, по его утверждению, вмешиваются в работу американских компаний. В прошлом месяце он попросил Anthropic и OpenAI не предоставлять новые модели британским тестировщикам, но AISI подтвердил в понедельник, что по-прежнему имеет доступ к новейшим моделям и может их тестировать.
Тем не менее, несмотря на противодействие президента, Смит утверждает, что Великобритания может регулировать ИИ такими способами, которые недоступны для США.
«В Вашингтоне, округ Колумбия, люди не смотрят на Великобританию и Лондон так, как они смотрят на Брюссель», — сказал он в интервью BBC. — «Это преимущество».
Его комментарии прозвучали на фоне призывов технологических лидеров, включая Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI, замедлить темпы развития ИИ после нескольких инцидентов, когда агенты ИИ выходили из-под контроля.
В прошлом месяце Трамп принял в Белом доме руководителей технологических компаний, включая OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta и Google, для обсуждения безопасности ИИ. Они подписали «морально обязывающий» документ, в котором согласились сотрудничать с «независимыми аудиторами» для оценки безопасности и возможностей своих моделей ИИ.
Смит говорит, что этот документ — «хороший шаг», но он не дотягивает до того уровня регулирования, который необходим. Проблема добровольного саморегулирования, по его словам, заключается в том, что его будут соблюдать только «хорошие компании».
«Беспокоиться нужно о тех компаниях, которые не столь ответственны», — сказал он.
Смит обрисовал несколько правил безопасности ИИ, которые он хотел бы видеть внедренными, например, юридическое обязательство уведомлять организацию, если ее система была взломана недобросовестными агентами ИИ. Он также, по-видимому, выступает за то, чтобы лаборатории ИИ получали одобрение внешних оценщиков перед выпуском продукта ИИ, и положительно отозвался о «аварийных выключателях» для приостановки или замедления работы ИИ, если люди теряют над ним контроль.
«Давайте говорить спокойно, может быть, даже тихо, но твердо, и начнем объединять людей», — сказал Смит. — «Я надеюсь, что это та роль, которую мы можем сыграть как компания. Я надеюсь, что это та роль, которую Великобритания может сыграть как страна».
При совершении покупок по ссылкам в наших статьях мы можем получать небольшую комиссию. Это не влияет на нашу редакционную независимость.
Ребекка Беллан — старший репортер TechCrunch, где она освещает бизнес, политику и новые тенденции, формирующие искусственный интеллект. Ее работы также публиковались в Forbes, Bloomberg, The Atlantic, The Daily Beast и других изданиях.
Вы можете связаться с Ребеккой или проверить ее контакты, написав по адресу [email protected] или отправив зашифрованное сообщение пользователю rebeccabellan.491 в Signal.
Посмотреть биографию
