Сегодня генеральный директор OpenAI Сэм Альтман выступил перед Советом Безопасности ООН по вопросам искусственного интеллекта. Он рассказал о потенциале ИИ в расширении возможностей, важности сохранения мощных систем под контролем человека и необходимости международного сотрудничества в области безопасности ИИ.
Текст выступления
Спасибо, господин Председатель и вашему превосходительству. Для меня большая честь находиться здесь и иметь возможность выступить перед всеми вами в это важное время.
Мы говорим об искусственном интеллекте уже много лет, но в последние недели и месяцы ситуация ощущается иначе. Стремительный прогресс моделей сократил временные рамки, сделал практическую пользу более осязаемой, а ставки и риски — более близкими.
Перед нами стоит выбор. ИИ может стать либо новым Ренессансом творчества и открытий, либо новой Промышленной революцией, несущей потрясения и беспорядок.
Эпоха Возрождения была временем, когда новые инструменты, новые идеи и новые институты расширяли то, что люди считали возможным для себя. ИИ может сыграть ту же роль в наше время. Я верю, что люди способны на гораздо большее, чем они себе представляют, но их сдерживали ограниченные технологии, которые должны были расширять возможности, а вместо этого отвлекают и часто переключают на себя внимание.
Лучшая версия ИИ заключается не в том, чтобы превратить людей в винтики гигантской машины или оптимизировать каждую часть жизни до тех пор, пока в ней не исчезнет все человеческое. Она заключается в том, чтобы дать людям больше возможностей для действий в постоянно усложняющемся мире: больше возможностей учиться, творить, открывать, созидать, участвовать. Есть много вещей, которые ИИ не может — и не должен — автоматизировать.
ИИ должен быть создан для людей, а не просто для того, чтобы быстрее крутить колеса машин ради них самих. Некоторые вещи, сказанные разработчиками ИИ, настолько дистопичны, что звучат как сюжеты плохих научно-фантастических фильмов.
Все, что обладает такой мощью, также пугает. Этот момент сложен, поскольку мы одновременно ощущаем колоссальный потенциал и вполне понятную тревогу.
Эти модели могут помочь людям открывать новые знания: новые лекарства, лучшее здравоохранение, более качественное образование и создавать более продуктивные экономики. Они могут стать новыми инструментами для людей, позволяющими воплощать мечты и амбиции, которые сегодня кажутся недосягаемыми. Сложность жизни невероятно возросла для среднестатистического человека. ИИ может стать защитным инструментом против этой сложности в той же мере, в какой он может быть инструментом беспрецедентных открытий и инноваций.
С другой стороны, по мере того как системы ИИ становятся все более способными и автономными, они могут развиваться быстрее наших институтов, концентрировать власть в слишком немногих руках или принимать решения, которые люди больше не понимают или не контролируют.
Эта озабоченность приобретает особую важность по мере того, как мы приближаемся к системам, способным улучшать самих себя и свои будущие версии, что часто называют рекурсивным самосовершенствованием. По мере того как процесс создания ИИ становится все более автоматизированным, темпы прогресса ИИ могут стремительно ускоряться. Этот момент требует предельной осторожности.
Я в целом согласен с профессором Бенжио. Хотя я назову два пути вместо трех — я считаю, что есть два сценария развития ИИ, которые могут пойти очень плохо и которых мы должны избежать.
Во-первых, мы можем потерять контроль над будущим, отдав его ИИ. Риск заключается в том, что все будет развиваться настолько быстро, что люди больше не смогут следить за происходящим или вмешиваться при необходимости. Это, очевидно, было бы ужасно.
Индустрия не должна принимать на себя излишние технологические риски только потому, что выгоды слишком велики, а замедляться кажется слишком важным. Опережение компаний в конкурентной гонке — не повод принимать опрометчивые решения. И мы не считаем, что оказались в гонке, в которой не способны этого избежать. Мы уже замедлялись в прошлом в одностороннем порядке. Мы сделаем это и в будущем. Мы не хотим создавать системы — и считаем важным, чтобы каждый избегал создания систем, — в которых мы не можем гарантировать согласованность, контролируемость и безопасность, как это необходимо.
Нам необходимо понимать, что делают эти системы, и иметь веские доказательства того, что они будут действовать так, как задумали люди, даже когда они станут очень-очень умными. На самом деле, особенно когда они станут очень-очень умными. Неважно, оценивают ли люди риск катастрофы в 10%, 1%, 12% или 0,1%. Ни один из этих уровней неприемлем ни в какой степени. И мы не должны обучать модели, если у нас нет крайне веских оснований полагать, что мы сможем держать их под контролем человека.
Итак, это один из путей, по которым все может пойти не так. С другой стороны, эти системы могут сконцентрировать слишком много власти в слишком немногих руках. Ни один человек, компания или страна не должны иметь возможности использовать самые мощные модели ИИ для навязывания своего мировоззрения всем остальным. Компания или страна, которая считает, что только ей можно доверять эту технологию, может использовать это убеждение для оправдания практически любых других действий. Мы должны отвергнуть эту логику, даже когда она удобна для какого-то отдельного участника.
Я считаю, что существует прагматичный путь между этими крайностями. В OpenAI мы подходим к этим вопросам с четкой целью: ИИ должен давать людям больше власти над их собственной жизнью. Больше свободы жить так, как они хотят. Больше возможностей решать проблемы, большие или маленькие, и улучшать свои сообщества. Мы не хотим впадать в ловушку слепого оптимизма. Мы также не хотим впадать в ловушку апокалиптических настроений. Попадание в любую из крайностей не поможет нам успешно разобраться с стоящими перед нами вызовами, особенно в то время, когда мир и его жители сталкиваются со столь огромными проблемами, которые эта технология может помочь решить. Поэтому мы стараемся идти средним путем между этими двумя полюсами.
Для нас это означает следование трем принципам.
Во-первых, по мере того как ИИ становится все более мощным, люди должны оставаться в центре принятия решений. Выравнивание (alignment) — это не абстрактный исследовательский вопрос. Это работа по обеспечению того, чтобы эти системы надежно оставались под контролем человека, отражали человеческие ценности и помогали людям направлять следующие этапы развития. Мы не пытаемся и не должны автоматизировать человеческое суждение или человеческие ценности.
Во-вторых, плоды научного прогресса и экономического роста должны создаваться людьми и для людей. ИИ должен помогать исследователям совершать открытия, врачам — лечить пациентов, учителям — обучать студентов, предпринимателям — создавать компании, сообществам — решать проблемы, которые казались недосягаемыми, и многое другое. Непрерывная история человеческого прогресса заключается не в том, что инструменты заменяют человеческую волю. А в том, что правильные инструменты делают людей более способными, и я верю, что это зайдёт гораздо дальше, чем мы считаем возможным.
В-третьих, эта технология должна расширять возможности каждого отдельного человека. Великое будущее наступит благодаря тому, что люди реализуют свой потенциал и создадут ценность для себя, своих сообществ, своих стран и всего остального мира. Мы можем быть одним из создателей этой технологии, но мы не герои этой истории. наша роль заключается в том, чтобы дать возможности людям по всему миру и верить в магию человеческих навыков и способностей.
Теперь у нас есть модели, способные открывать новые знания, которых у нас никогда раньше не было. Подумайте о прогрессе, которого мы достигли в математике. Три года назад наши модели были неплохи в решении задач по математике для начальной школы. Два года назад они довольно хорошо справлялись со школьными математическими олимпиадами. Прошлым летом мы достигли уровня золотой медали на самой престижной международной математической олимпиаде. А всего несколько недель назад одна из наших моделей решила одну из задач тысячелетия — уравнения Навье — Стокса.
Эти уравнения используются для проектирования летательных аппаратов, прогнозирования погоды и изучения кровотока. Мы решаем математические задачи не ради них самих, а для того, чтобы дать людям возможность открывать новые знания и использовать их для улучшения здравоохранения, повышения уровня жизни и расширения возможностей каждого человека по всему миру. Предстоит открыть еще очень многое.
Но крайне важно, чтобы компании не подменяли собой демократический процесс.
Если Искусственный Интеллект должен быть демократичным, самые важные решения не могут приниматься одними лишь лабораториями в Сан-Франциско. Они должны формироваться посредством демократических процессов и правительствами, подотчетными людям, которым они служат.
На международном уровне это потребует сотрудничества. В нашей истории бывали случаи, когда страны, которые конкурируют и не всегда особенно любят друг друга, все же объединялись ради общих интересов и коллективного блага перед лицом новой мощной технологии. Мы верим, что это должно стать одним из таких моментов.
Нам нужен механизм взаимодополняющих национальных и международных стандартов для передовых систем ИИ: стандартов для измерения возможностей, оценки рисков, определения того, являются ли средства защиты достаточными, и сохранения значимого контроля со стороны человека по мере того, как системы становятся все более автономными.
Нам нужны общие стандарты, чтобы страны могли сопоставлять данные, проверять соблюдение требований, а также иметь общий язык и понимание происходящего.
Нам необходимы точное и оперативное информирование об инцидентах, протоколы их классификации и отчетности, чтобы мир мог извлекать уроки из сбоев до того, как они перерастут в катастрофы.
И нам нужны защищенные каналы связи между правительствами, операторами критической инфраструктуры и техническими экспертами для обмена данными о возникающих уязвимостях и новых угрозах.
Очевидно, что эти стандарты не должны консервировать позиции доминирующих игроков или отдавать предпочтение одной бизнес-модели перед другой. Они должны поддерживать разработчиков открытых и закрытых моделей, новых участников и устоявшиеся лаборатории, национальные полномочия и международное сотрудничество. Каждое правительство должно само решить, как внедрять стандарты в свою правовую систему. Но всем нам будет лучше, если мы сможем прийти к согласию относительно того, как выглядят надежные доказательства, эффективные средства защиты и надлежащий контроль на мировой арене.
У нас нет ответов на все вопросы, и мы крайне открыты для любых лучших идей. Мы готовы работать со всеми вами и приложить максимум усилий, чтобы найти путь вперед.
Мы находимся на распутье. Один путь ведет в мир, где власть сосредоточена в одних руках, решения непрозрачны, а люди чувствуют, что важнейшая технология их жизни — это нечто, что навязывается им извне. Другой путь ведет в мир, где ИИ работает на людей, потому что люди через демократические институты помогают решать, как он должен развиваться, и направляют его; где научный прогресс улучшает реальную жизнь; где больше людей могут участвовать в формировании будущего; и где эта технология продолжает давать отдельным людям и сообществам больше возможностей жить так, как они сами того желают. Это будущее реализованного потенциала, восторга и изумления.
И это будущее, которое, как мы верим, стоит построить. Большое спасибо.