Это второй блог из серии, состоящей из трех частей, в которой рассматривается то, как Cisco Crisis Response сотрудничает с некоммерческими организациями, использующими возможности ответственного ИИ в гуманитарной сфере. От оценки потребностей на местах до соединения пострадавших людей с информацией и услугами — каждый выпуск посвящен отдельному этапу жизненного цикла гуманитарного реагирования и принципам ответственного ИИ, которые должны направлять эту работу на каждом шаге.
Когда случается катастрофа, выживание часто сводится к получению правильных ответов на простые, но потенциально жизненно важные вопросы: где я могу найти безопасное место для ночлега сегодня? Как я могу получить медицинскую помощь? Откуда будет мой следующий прием пищи?
Для гуманитарных организаций ИИ обладает потенциалом помочь ответить на эти вопросы в экспоненциальном масштабе. Он может помочь напрямую и быстро передать информацию в руки тех, кто ищет услуги, необходимые им для восстановления. Но когда люди на другом конце провода находятся в наиболее уязвимом положении, ставки слишком высоки, чтобы ИИ мог дать неверные ответы.
Общая приверженность принципам ответственного ИИ
В Cisco мы считаем обязательным балансировать усилия по максимальному раскрытию потенциала ИИ с ответственностью за минимизацию рисков при его создании и развертывании. Мы стремимся сотрудничать с организациями, готовыми соответствовать той же планке, которую мы установили для себя посредством нашего подхода к ответственному ИИ, опирающегося на шесть основных принципов.
Более десяти лет International Rescue Committee (IRC) является одним из таких партнеров. IRC возглавляет консорциум, стоящий за Signpost, цифровой информационной службой, которая помогла 20 миллионам людей по всему миру получить своевременную и проверенную информацию о том, где и как получить помощь во время кризиса.
Поддержка Cisco восходит к самым ранним дням Signpost, когда финансирование от Cisco Foundation помогло запустить его предшественник в 2015 году. В последующие годы наша поддержка помогла IRC расширить программу и создать инфраструктуру — включая доступные в автономном режиме карты сервисов и унифицированную аналитику данных — на которой она работает сегодня, охватывая людей в более чем 20 странах на 12 языках.
Новейшая глава, которую мы рады поддержать, — это SignpostChat, инициатива IRC по внедрению ответственного ИИ непосредственно в платформу, что позволяет социальным работникам успевать за растущим объемом запросов и одновременно расширять сервис.
Как IRC связывает людей с гуманитарной помощью с помощью SignpostChat
Для людей, переживающих непосредственные последствия кризиса, незнание того, куда обратиться за помощью, само по себе представляет опасность. Они часто оказываются в незнакомом месте, без сетей или местных знаний, на которые они обычно полагаются. Поиск жилья, еды и безопасности просто не может ждать.
В течение многих лет сотрудники Signpost с личным опытом и подготовкой лично отвечали на каждый вопрос, поступавший через платформу, предоставляя заслуживающую доверия информацию тем, кто ищет поддержки. Эта модель хорошо работает для тех, до кого она доходит, но ее влияние ограничено размером стоящей за ней команды. «Есть предел тому, на какое количество вопросов социальный работник может ответить за рабочий день», — сказала Бриана Орр (Briana Orr), старший советник по оперативной информации в IRC.
Интеграция ИИ в платформу таит в себе очевидный потенциал для повышения эффективности и возможности масштабирования. Но когда люди, задающие вопросы, находятся в эпицентре кризиса, автоматический ответ, который является неверным или неполным, может подвергнуть их еще большему вреду в моменты уязвимости. Это требует проектирования системы с предохранителями, которые могут помочь агенту определить не только то, как реагировать, но и когда не реагировать и передать разговор социальному работнику — что является более безопасным и ответственным выбором.
В одном из мобильных подразделений IRC в Мексике сотрудник делится ценной информацией о доступных услугах с людьми, нуждающимися в помощи. Фото: Эверардо Эскивель (Everardo Esquivel) для IRC
Использование ИИ в качестве инструмента и напарника
При разработке SignpostChat IRC приняла осознанное решение, основанное на подходе с участием человека в контуре/на связи (human-in/on-the-loop): использовать ИИ для расширения охвата своих социальных работников, а не для замены их суждений. Целью было создание системы, которая могла бы обрабатывать больше запросов самостоятельно, сохраняя при этом человека главным во всем, что является слишком чувствительным для агента, чтобы справляться с этим без надзора человека.
Достижение этой цели потребовало тщательного, поэтапного процесса сборки. Команда IRC начала с симуляций, прогнав систему через поддерживаемую ИИ оценку и упражнения по моделированию угроз (red teaming), чтобы установить первоначальный набор защитных механизмов. Затем они разработали и протестировали методологию триажирования, пока система не стала вести себя надежно в тестовой среде.
Специалисты изучили и усовершенствовали то, как ИИ общается, вплоть до выбора языка, обучая агентов распознавать признаки бедствия и переводить этот разговор на человека, вместо того чтобы пытаться справиться с ним в одиночку.
«Мы создали ИИ-агентов, которые могут отвечать на вопросы, когда это безопасно для них, и передавать управление человеку, когда это не так», — сказала Орр. На практике входящие сообщения попадают в одну общую очередь, где агент помечает поднимаемую тему и одновременно оценивает риск. «Иногда агент дает первоначальный ответ, но также поднимает флаг для проверки кем-то другим позже. В других случаях, например, когда дело слишком деликатное, чтобы агент мог им заниматься, он помечает запрос как требующий немедленного вмешательства человека».
С помощью SignpostChat ИИ-агенты могут мгновенно отвечать в текстовом и голосовом форматах, в том числе на малораспространенных языках, в то время как человеческие модераторы сосредоточены на наиболее деликатных случаях. В результате получается система, созданная для работы в четких границах, где агенты действуют как часть гибридной команды человека и ИИ, а не как замена специализированных социальных работников, которые ею руководят.
Первые уроки пилотного проекта SignpostChat в Мексике
В июле 2026 года IRC начала пилотный запуск SignpostChat в Мексике, где он работает под названием InfoDigna. С момента запуска ИИ-агента он помогал небольшой мексиканской команде Signpost обрабатывать постоянный поток запросов от людей, нуждающихся в жилье, еде и другой помощи.
«Одним из самых очевидных изменений стала скорость первог ответа», — сказал Луис Альберто Техеда Карраско (Luis Alberto Tejeda Carrasco), руководивший начальным этапом пилотного проекта InfoDigna с мексиканской командой Signpost в IRC. «До пилотного проекта ответ на все сообщения мог занимать у нас часы, а иногда и дни. Теперь люди могут получать первоначальный ответ на большинство запросов от ИИ-агента менее чем за 10 секунд». Инструмент отмечает случаи повышенной уязвимости, поэтому «люди в контуре» могут расставить приоритеты там, где они нужнее всего.
«На каждом этапе наше использование ИИ основано на принципе «не навреди»: ИИ должен укреплять — но ни в коем случае не подрывать — равенство, безопасность и достоинство людей, которым мы служим». — Луис Альберто Техеда Карраско, бывший старший сотрудник Signpost в IRC Mexico
«На каждом этапе наше использование ИИ основано на принципе «не навреди»: ИИ должен укреплять — но ни в коем случае не подрывать — равенство, безопасность и достоинство людей, которым мы служим»
— Луис Альберто Техеда Карраско, бывший старший специалист программы Signpost в IRC Mexico
Команда уже отметила случаи, когда внедрение ИИ приносило немедленные положительные результаты. «У нас была одна семья — мать, бабушка и ребенок, — которая только что прибыла в Мехико, опасаясь за свою безопасность и сталкиваясь с риском оказаться на улице без каких-либо ресурсов, на которые можно было бы опереться», — вспоминает Карраско. «Благодаря своевременной информации от ИИ-агента они смогли связаться с одним из крупнейших и самых безопасных приютов Мехико в тот же самый день». Позже семья оставила отзыв через сервис, выразив облегчение и благодарность за то, что им больше не придется спать на улице.
«Цель состояла в том, чтобы создать гибридную модель гуманитарной поддержки, объединяющую человека и ИИ, которая могла бы помочь нам обрабатывать больше запросов, сохраняя при этом фокус на потребностях и безопасности людей», — сказал Карраско.
Что ждет SignpostChat в будущем
По мере продолжения пилотного проекта в Мексике IRC документирует полученный опыт, и эти уроки уже используются при планировании будущего развертывания SignpostChat, а также других инициатив IRC с поддержкой ИИ. Команда изучает возможности интеграции расширенного ред-тиминга и стресс-тестирования моделей на более ранних этапах цикла разработки, чтобы создать систему, способную масштабироваться без ущерба для ориентированного на человека подхода, который определяет этот инструмент. «То, что мы узнали к настоящему моменту, может помочь сформировать подходы к разработке и ответственному использованию инструментов с поддержкой ИИ в других гуманитарных контекстах», — отметил Карраско.
В Cisco мы верим, что ИИ может стать подлинной силой добра во время кризиса, если принципы, лежащие в основе его проектирования, столь же надежны, как и сама технология, и мы гордимся партнерством с такими организациями, как IRC, которые разделяют эту веру. По мере того как инструменты с поддержкой ИИ, такие как Signpost, масштабируются для охвата большего числа людей, именно наша общая приверженность принципам ответственного использования ИИ поможет нам снизить риски, максимизировать возможности для достижения результатов и оставить людей — как специалистов, участвующих в процессе, так и тех, кому мы служим, — в самом центре всего происходящего.
Далее в серии: Мы увидели, как ответственные инструменты на базе ИИ могут облегчить сбор, оценку и распространение информации во время чрезвычайной ситуации, но могут ли они также повлиять на разработку более безопасных и устойчивых вариантов жилья для общин, восстанавливающихся после кризиса?
Как ответственный ИИ меняет подход организаций к оценке гуманитарных потребностей
Пропустили Часть 1 серии? Перейдите по ссылке ниже, чтобы узнать, как партнер Cisco компания Kobo использует ответственный ИИ, чтобы помогать полевым командам быстро и безопасно собирать гуманитарные данные.
Читать блог
