В рассказе Алана Трефлера о его знакомстве с искусственным интеллектом есть что-то удивительно человеческое.
Он поступил в Дартмут в 1973 году с намерением изучать английскую литературу и страстью к спортивным шахматам. Шахматы привели его в компьютерный центр, где исследователи экспериментировали с обучением компьютеров игре. Они разбирались в вычислениях. Алан разбирался в шахматах. Его путь изменился.
Слушая размышления Алана об этом опыте на конференции AI@70 в Дартмуте, я постоянно возвращался к вопросу, ставшему центральным на этом мероприятии:
По мере того как возможности ИИ расширяются, что должно оставаться человеческим?
Семьдесят лет назад главным вопросом было то, что способны делать компьютеры.
Сегодня этот список становится довольно длинным.
ИИ умеет интерпретировать, создавать, рекомендовать, прогнозировать и, всё чаще, действовать. Тем не менее, компании, внедряющие весь этот интеллект в работу, не стали внезапно проще. Они по-прежнему держатся на людях, процессах, решениях, правилах, системах и множестве исключений.
Поэтому, пожалуй, сегодня гораздо интереснее спрашивать не о том, что может ИИ, а о том, что мы должны просить его сделать.
Интеллекту по-прежнему нужен замысел
Для предприятий ИИ редко работает изолированно.
Кто-то по-прежнему должен решать, где ИИ должен действовать, какую информацию использовать, какие границы соблюдать и когда человеку следует вмешаться. И самое главное — кто-то должен определить, какой результат должен быть достигнут с помощью ИИ.
Это не недостаток ИИ. Именно поэтому человеческое суждение по-прежнему имеет значение.
Здесь прослеживается интересная перекличка с историей Алана в Дартмуте. У исследователей была вычислительная мощность. Алан понимал проблему, которую они пытались решить. Прогресс возник благодаря объединению этих двух составляющих.
С тех пор машины существенно изменились. Потребность в человеческом замысле — нет.
«Одно дело — работать в паре или сотрудничать с ИИ, чтобы получить дополнительные взгляды и идеи, но окончательное решение о том, каково ваше мнение, должно оставаться за вами».
«Одно дело — работать в паре или сотрудничать с ИИ, чтобы получить дополнительные взгляды и идеи, но окончательное решение о том, каково ваше мнение, должно оставаться за вами».
Структура делает интеллект предсказуемым
По мере того как ИИ становится мощнее, добавлять его всё проще. Больше моделей. Больше агентов. Больше решений. Больше действий в рамках и без того непростых бизнес-процессов.
Без структуры больший объем ИИ может означать большее число решений и действий при отсутствии четкого направления или управления.
В Pega мы знаем, что именно структура делает ИИ предсказуемым. Она связывает интеллект с контекстом, процессами и защитными барьерами бизнеса, обеспечивая ясность в том, где действует ИИ, что им руководит, где важна человеческая оценка и какой результат необходимо получить.
В этом суть концепции предсказуемого ИИ.
Предсказуемый ИИ не означает предсказание каждого ответа, который выдаст модель. Это создание структуры, контекста и защитных механизмов, которые определяют, как ИИ работает внутри компании, где он может действовать и когда требуется человеческое суждение.
Структура не ограничивает возможности ИИ. Она дает компаниям инструмент для целенаправленного использования этой мощи.
Это становится еще более важным по мере того, как ИИ приобретает всё большую автономность. Предприятиям не нужно нагромождать новый интеллект на и без того сложный технологический ландшафт. Им нужен способ обуздать его, обладая структурой для действий, адаптации и уверенного движения вперед.
«Вы не создаете нечто столь [мощное], просто чтобы отпустить это на волю. Люди должны понимать: если вы отправляете этих автономных маленьких роботов выполнять задачи, инструкции, которые вы им даете, имеют чрезвычайно важное значение».
«Вы не создаете нечто столь [мощное], просто чтобы отпустить это на волю. Люди должны понимать: если вы отправляете этих автономных маленьких роботов выполнять задачи, инструкции, которые вы им даете, имеют чрезвычайно важное значение».
Так что же должно оставаться человеческим?
Наверное, на этот вопрос нет единого ответа. Но слушая Алана, я выделил несколько важных моментов.
Замысел. Суждение. Контекст. Подотчетность.
И, пожалуй, самый базовый вопрос из всех: какую проблему вообще стоит решать?
ИИ будет становиться всё умнее. То, что сегодня кажется экстраординарным, со временем станет обычным.
Куда более сложный вопрос заключается в том, что мы решим делать со всем этим интеллектом.
Семьдесят лет назад мы спрашивали, на что компьютеры смогут быть способны в будущем. Сегодня в нашем распоряжении имеется экстраординарный интеллект.
Человеческим остается решение о том, что именно мы хотим с ним сделать.
Если сделать это правильно, мы сможем заставить ИИ работать с еще большей уверенностью, продолжая строить будущее.
Справедливости ради, я создал этот пост при небольшой помощи друга-ИИ. Он помог отточить мысли. А что именно стоило сказать — решил я.
