Тридцать лет назад сотрудник службы поддержки клиентов Cisco по имени Грег Экерс поднял трубку, чтобы помочь клиенту, чей маршрутизатор вел себя странно. Никто тогда не знал, что он принимает один из первых звонков в службу кибербезопасности в истории коммерческого интернета. В то время Cisco уже десять лет занималась созданием интернет-инфраструктуры. У нас не было команды безопасности. У нас не было процесса обеспечения безопасности. Кибербезопасности на самом деле еще не существовало. Мы не могли предсказать масштаб или изощренность атак, которые сегодня стали рутиной. Мы были сосредоточены на создании того, чего мир еще не видел, а люди, пытавшиеся это взломать, еще не успели адаптироваться.
Этот разрыв между тем, что мы создаем, и тем, что можем защитить, не нов и не является доказательством безрассудства. Это доказательство новизны. Готового сценария нет. Если бы новаторы создавали только то, что уже могли защитить, они бы не занимались инновациями; они бы занимались поддержкой существующего. Безопасность всегда отставала от изобретений: от лампочки до автомобиля и самого интернета. Вопрос никогда не заключался в том, появится ли этот разрыв. Вопрос был в том, как быстро мы его преодолеем и чему научимся в процессе.
Это программное обеспечение, а не новый вид
В последнее время я слышу много опасений по поводу искусственного интеллекта или суперинтеллекта, страх того, что мы выпустили нечто категорически новое и неконтролируемое. Я понимаю эту тревогу, но предложил бы взглянуть на историю, чтобы дать людям более прагматичный взгляд. ИИ — это не новый вид; это программное обеспечение. Мощное, быстро развивающееся, временами непредсказуемое программное обеспечение, но все же программное обеспечение, и мы уже делали это раньше. Мы научились защищать мейнфреймы, эпоху клиент-серверных технологий, широкополосный доступ и облака — не полностью и не сразу, но достаточно хорошо, чтобы обеспечить огромный экономический рост и реальную пользу для миллиардов людей. Мы научимся достаточно хорошо защищать и это. Не потому, что это будет легко, а потому, что у нас как у индустрии есть тридцать лет с трудом наработанной мышечной памяти именно для такого рода проблем.
При этом я хочу быть осторожным, чтобы не показаться легкомысленным, потому что в безопасности не бывает окончательных побед. Это фиксированный ответ на вопрос, который постоянно меняется. Система, которая безопасна сегодня, может стать уязвимой завтра, не потому что кто-то совершил ошибку, а потому что люди на другой стороне тоже внедряют инновации. А с ИИ этот противник не всегда является человеком извне. Иногда это сама система, ведущая себя так, как мы не планировали или не могли полностью предвидеть. Это существенно иная проблема, и она заслуживает собственного строгого подхода, а не просто использования старого сценария.
Уроки авиационной индустрии
Неприятная правда о безопасности заключается в том, что она фундаментально смиряет. Это верно для каждой отрасли, компании любого размера и каждой команды безопасности. Коммерческая авиация — яркий пример того, где инновации и безопасность должны быть согласованы. Хотя коммерческая авиация удивительно безопасна, отрасль относится к безопасности как к обязательству, которое никогда не заканчивается. У нас не всегда были системы, на которые мы полагаемся сегодня; мы достигли текущих стандартов, осознав, при значительных затратах времени и ресурсов, что безопасность не может зависеть только от индивидуального мастерства. Она должна была быть спроектирована как система. Надежность современных авиаперелетов проистекает не из непогрешимости человека, а из этого продуманного, системного дизайна.
Если самолет не проходит предполётную проверку, он не летит, независимо от того, насколько хорошо он летал вчера. И если авиакомпания внедряет совершенно новый самолет, она не сразу сажает в него пассажиров — она испытывает его в незаселенном воздушном пространстве, оснащенном датчиками и под пристальным наблюдением, чтобы узнать то, чего они еще не знают, прежде чем чья-либо безопасность будет зависеть от ответа. Необычайным технологиям в кабине пилота никогда не доверяют в одиночку. Управление воздушным движением следит за каждым самолетом с земли, независимо от того, что видит пилот на своих приборах, и это о чем-то говорит, когда самолет отклоняется от своего курса. Следователи изучают каждую аварию, опасное сближение и механическую неисправность, и эти выводы становятся правилами, которые применяются во всей отрасли, а не только к одной авиакомпании. Ни одна авиакомпания не оценивает свою работу самостоятельно.
Это та модель, которую я хотел бы видеть вокруг ИИ. Лучшие технологии, которые могут создать компании, в сочетании с независимым мониторингом (не только разработчиков моделей, но и ИИ в эксплуатации), прозрачным расследованием сбоев и правилами, которые применяются во всей отрасли, а не варьируются от компании к компании. Это не тормоз для инноваций. Это причина, по которой люди вообще готовы сесть в самолет — и доверять системе, которую они не контролируют полностью.
Культура, которая нам нужна сейчас
Каждый серьезный специалист по безопасности, которого я знаю, обладает долей этого смирения — тихим знанием того, что ваша лучшая работа по определению невидима, и в тот единственный день, когда это не так, все это увидят. Правильная реакция на чужой взлом — не бросаться камнями. Это признание того, что та же игра ведется против вас прямо сейчас, и помощь там, где вы можете. Это борьба, в которой наша индустрия участвует каждый божий день, и это борьба, в которой мы не всегда побеждаем.
Это означает быть честными в том, где мы терпим неудачу. Как и многие технологические компании, мы регулярно раскрываем информацию, когда в наших собственных продуктах обнаруживаются активные уязвимости, используемые в реальных условиях. Я твердо верю, что прозрачность — это то, как индустрия становится лучше. Но мы также должны быть дисциплинированными и уравновешивать наш долг делиться критически важными уроками с реальностью того, что в чужих руках слишком много деталей, предоставленных слишком рано, действуют как дорожная карта для противника. Речь идет о достаточной точности для обеспечения безопасности, не передавая оружие тем, кто пытается взломать систему. Я бы также предостерег от культуры, в которой самые громкие голоса — это те, кто пытается доказать, что компания или модель глупы. Эта динамика никого не делает безопаснее. Она просто заставляет людей меньше говорить о своих проблемах, что является противоположностью того, что нам нужно. Прозрачность требует доверия к тому, что раскрытие информации не будет использовано как оружие.
Итак, что нам делать с этим смирением? Мы не можем точно предсказать, где ИИ создаст риск в следующий раз — любой, кто говорит вам, что может, пытается вам что-то продать. Что мы можем сделать, так это применить то же самое многоуровневое системное мышление, которое превратило авиацию в один из самых безопасных способов передвижения для человека.
Регуляторы и правительства играют здесь важную роль, ту же роль, которую играет управление воздушным движением — не управлять самолетом, а наблюдать за всем небом и подавать сигнал в тот момент, когда что-то отклоняется от курса.
Что дальше?
Мы должны поставить себя в наилучшее возможное положение, используя то, что мы знаем сегодня, и корректировать действия по мере того, как мы будем учиться завтра. ИИ движется с такой скоростью, которую мы никогда раньше не видели, и это требует намерения, стратегии и вдумчивости, работающих вместе в равной мере. Это также требует честного взгляда на то, как другие отрасли решали эту же самую головоломку раньше.
Я говорю это не со стороны. Cisco тридцать лет была той компанией, которая оказывалась в центре событий, когда в интернете что-то шло не так, и следующие тридцать лет мы посвятим тому, чтобы помочь обеспечить безопасность того, во что превратится ИИ. Я с оптимизмом смотрю на то, к чему это приведет. Но я также знаю по тридцатилетнему опыту, что оптимизм и бдительность никогда не противоречили друг другу. Это одна и та же работа.
