Сегодня генеральный директор OpenAI Сэм Альтман выступил перед Советом Безопасности ООН по вопросам искусственного интеллекта. Он рассказал о потенциале ИИ в расширении возможностей, важности сохранения мощных систем под контролем человека и необходимости международного сотрудничества в сфере безопасности ИИ.
Текст выступления
Спасибо, господин Председатель, вашему превосходительству. Для меня большая честь находиться здесь и иметь возможность выступить перед всеми вами в это важное время.
Мы говорим об искусственном интеллекте уже много лет, но в последние недели и месяцы ситуация ощущается иначе. Стремительный прогресс в создании моделей сократил временные горизонты, сделав потенциальные преимущества более осязаемыми, а ставки и риски — более близкими.
Перед нами стоит выбор. ИИ может стать либо новым Ренессансом творчества и открытий, либо новой Промышленной революцией, несущей потрясения и хаос.
Эпоха Возрождения была временем, когда новые инструменты, новые идеи и новые институты расширяли представления людей о том, чего они могут достичь. ИИ может сыграть ту же роль в наше время. Я верю, что люди способны на гораздо большее, чем они себе представляют, но их сдерживали ограниченные технологии, которые должны были расширять возможности, но вместо этого отвлекают внимание и часто крадут его.
Лучшая версия ИИ заключается не в том, чтобы превратить людей в винтики гигантской машины или оптимизировать каждую часть жизни до тех пор, пока человеческое не исчезнет. Она заключается в том, чтобы дать людям больше свободы действий в постоянно усложняющемся мире: больше возможностей учиться, творить, совершать открытия, созидать, участвовать. Есть много вещей, которые ИИ не может — и не должен — автоматизировать.
ИИ должен создаваться для людей, а не просто для того, чтобы быстрее крутить шестеренки машин ради них самих. Некоторые вещи, сказанные разработчиками ИИ, настолько дистопичны, что звучат как сюжеты плохих научно-фантастических фильмов.
Все, что обладает такой мощью, также пугает. Этот момент сложен, поскольку мы одновременно ощущаем колоссальный потенциал и вполне понятную тревогу.
Эти модели могут помочь людям открывать новые знания: новые лекарства, лучшее здравоохранение, более качественное образование и создавать более продуктивные экономики. Они могут стать новыми инструментами для людей, преследующих мечты и амбиции, которые сегодня кажутся недосягаемыми. Сложность жизни среднего человека возросла драматически. ИИ может стать защитным инструментом против этой сложности в той же степени, в какой он может быть инструментом беспрецедентных открытий и инноваций.
С другой стороны, по мере того как системы ИИ становятся все более способными и автономными, они могут развиваться быстрее наших институтов, концентрировать власть в слишком немногих руках или принимать решения, которые люди больше не понимают или не контролируют.
Эта озабоченность приобретает особую важность по мере приближения к системам, способным улучшать себя и свои будущие версии, что часто называют рекурсивным самосовершенствованием. По мере того как процесс создания ИИ становится все более автоматизированным, темпы прогресса ИИ могут стремительно ускоряться. Этот момент требует предельной осторожности.
Я в основном согласен с профессором Бенджо. Хотя я назову два пути вместо трех — я считаю, что есть два сценария, по которым прогресс ИИ может пойти по очень плохому пути, и мы должны их избежать.
Во-первых, мы можем потерять контроль над будущим, уступив его ИИ. Риск заключается в том, что он будет развиваться так быстро, что люди больше не смогут следить за происходящим или вмешиваться, когда это необходимо. Это, очегодно, было бы ужасно.
Индустрия не должна принимать на себя слишком большие технологические риски только потому, что выгоды кажутся огромными, а замедляться якобы слишком поздно. Победа над компаниями в конкурентной гонке — не повод принимать опрометчивые решения. И мы не считаем, что оказались в гонке, в которой не можем этого сделать. Мы уже замедлялись в прошлом в одностороннем порядке. Мы сделаем это и в будущем. Мы не хотим создавать системы — и считаем важным, чтобы все избегали создания систем, — в отношении которых мы не можем дать гарантии согласованности, отслеживаемости и безопасности, которые нам необходимы.
Нам нужно понимать, что делают эти системы, и иметь веские доказательства того, что они будут действовать так, как задумали люди, даже когда они станут очень-очень умными. На самом деле, особенно когда они станут очень, очень умными. Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12% или 0,1%. Ни один из этих уровней неприемлем даже отдаленно. И мы не должны обучать модели, если у нас нет чрезвычайно веских оснований полагать, что мы сможем удерживать их под контролем человека.
Итак, это один из путей, по которым все может пойти не так. С другой стороны, эти системы могут сконцентрировать слишком много власти в слишком немногих руках. Ни один человек, компания или страна не должны иметь возможности использовать самые мощные модели ИИ для навязывания своего мировоззрения всем остальным. Компания или страна, которая считает, что только ей можно доверять эту технологию, может использовать это убеждение для оправдания практически всего остального. Мы должны отвергнуть эту логику, даже когда она выгодна какому-то одному актору.
Я верю, что существует прагматичный путь между этими двумя крайностями. В OpenAI мы подходим к этим вопросам с четкой целью: ИИ должен давать людям больше власти над их собственными судьбами. Больше свободы жить так, как они хотят. Больше возможностей решать проблемы, большие или маленькие, и улучшать свои сообщества. Мы не хотим впадать в ловушку слепого оптимизма. Мы также не хотим впадать в ловушку алармизма. Попадание в любую из крайностей не поможет нам успешно справиться с стоящими перед нами вызовами, особенно в то время, когда мир и его жители сталкиваются со столь огромными проблемами, которые эта технология может помочь решить. Поэтому мы стараемся идти средним путем между этими двумя полюсами.
Для нас это означает следование трем принципам.
Во-первых, по мере того как ИИ становится все более способным, люди должны оставаться в центре принятия решений ИИ. Выравнивание (согласование) — это не абстрактный исследовательский вопрос. Это работа по обеспечению того, чтобы эти системы надежно оставались под контролем человека, отражали человеческие ценности и помогали людям направлять следующие этапы развития. Мы не пытаемся и не должны автоматизировать человеческое суждение или человеческие ценности.
Во-вторых, преимущества научного прогресса и экономического роста должны достигаться людьми и для людей. ИИ должен помогать исследователям совершать открытия, врачам — лечить пациентов, учителям — обучать студентов, предпринимателям — создавать компании, сообществам — решать казавшиеся недосягаемыми проблемы и многому другому. Непрерывная история человеческого прогресса заключается не в том, что инструменты заменяют человеческую волю. Она заключается в том, что правильные инструменты делают людей более способными, и я верю, что это зайдет гораздо дальше, чем мы считаем возможным.
В-третьих, эта технология должна расширять возможности каждого человека в отдельности. Великое будущее наступит благодаря тому, что люди реализуют свой потенциал и создадут ценность для себя, своих сообществ, своих стран и всего мира в целом. Мы можем быть одними из создателей этой технологии, но мы не герои этой истории. Наша роль — дать возможности людям по всему миру и довериться магии человеческих навыков и способностей.
У нас появились модели, способные открывать знания, которых у нас никогда раньше не было. Подумайте о прогрессе в математике. Три года назад наши модели были неплохи в решении задач по математике для начальной школы. Два года назад они довольно хорошо справлялись со школьными математическими олимпиадами. Прошлым летом мы достигли уровня золотой медали на самой престижной международной математической олимпиаде. А всего несколько недель назад одна из наших моделей решила одну из задач тысячелетия — уравнения Навье — Стокса.
Эти уравнения используются при проектировании самолетов, прогнозировании погоды и изучении кровотока. Мы решаем математические задачи не ради них самих, а чтобы дать людям возможность открывать новые знания и использовать их для улучшения здравоохранения, повышения уровня жизни и расширения потенциала каждого человека во всем мире. Предстоит открыть еще так много всего.
Но очень важно, чтобы компании не подменяли собой демократический процесс.
Если ИИ должен быть демократичным, самые важные решения не могут приниматься только лабораториями в Сан-Франциско. Они должны формироваться посредством демократических процессов и правительствами, подотчетными людям, которым они служат.
На международном уровне это потребует сотрудничества. В нашей истории бывали времена, когда страны, которые конкурируют и не всегда сильно любят друг друга, все же объединялись ради общих интересов и всеобщего блага перед лицом мощной новой технологии. Мы верим, что это должно стать одним из таких моментов.
Нам необходим механизм взаимодополняющих национальных и международных стандартов для передовых систем ИИ: стандартов измерения возможностей, оценки рисков, определения достаточности средств защиты и сохранения значимого контроля со стороны человека по мере того, как системы становятся все более автономными.
Нам нужны общие стандарты, чтобы страны могли сопоставлять данные, проверять соблюдение требований и иметь общий язык и понимание того, что происходит.
Нам необходимы точная и оперативная отчетность об инцидентах, протоколы их классификации и информирования, чтобы мир мог извлекать уроки из сбоев до того, как они перерастут в катастрофы.
И нам нужны безопасные каналы связи между правительствами, операторами критической инфраструктуры и техническими экспертами для обмена информацией о возникающих уязвимостях и новых угрозах.
Очевидно, что эти стандарты не должны консервировать позиции лидеров рынка или отдавать предпочтение какой-то одной бизнес-модели. Они должны поддерживать разработчиков открытых и закрытых моделей, новых участников и устоявшиеся лаборатории, национальный суверенитет и международное сотрудничество. Каждое правительство должно самостоятельно решать, как внедрить стандарты в свою правовую систему. Но всем нам будет лучше, если мы сможем договориться о том, как выглядят надежные доказательства, эффективная защита и качественный контроль на мировой арене.
У нас нет готовых ответов на все вопросы, и мы очень открыты для любых лучших идей. Мы готовы работать со всеми вами и изо всех сил стараться найти путь вперед.
Мы находимся на распутье. Один путь ведет в мир, где власть сосредоточена в одних руках, решения непрозрачны, а люди чувствуют, что важнейшая технология их жизни — это нечто, что навязывается им извне. Другой путь ведет в мир, где ИИ работает на благо людей, потому что люди через демократические институты помогают определять направление его развития и направляют его; где научный прогресс улучшает реальную жизнь; где больше людей могут участвовать в формировании будущего; и где эта технология продолжает давать людям и сообществам больше возможностей жить так, как они сами выбирают. Это будущее реализованного потенциала, воодушевления и чуда.
И это будущее, которое, как мы верим, стоит построить. Большое спасибо.
