14 октября 2026 г. Ответственность и безопасность

JJ Geewax и Miguel de Andrés

Сотрудничество предоставляет модель обнаружения мошенничества на устройстве, которая помогает защищать граждан, не нарушая конфиденциальность.

Мошенничество составляет более половины зарегистрированных преступлений в Сингапуре и приводит к потерям свыше 4 млрд SGD с 2019 года. В то же время тактики мошенничества перешли от простого фишинга к сложной социальной инженерии, при которой злоумышленники манипулируют жертвами убедительными разговорами, прежде чем просить деньги. Такие мошенничества теперь составляют до 80 % всех потерь.

Для решения этой проблемы Google DeepMind и Агентство технологий правительства Сингапура (GovTech) работают совместно в рамках нашего Национального партнерства по ИИ с правительством Сингапура. Это позволило нам предоставить модель обнаружения мошенничества на устройстве — оптимизированную для работы на типичных смартфонах Сингапура — чтобы решить насущную задачу безопасности, сохраняя при этом конфиденциальность граждан.

Защита ИИ на устройстве без нарушения конфиденциальности

Общие модели часто испытывают трудности с локализованными техниками обмана, что усложняет обнаружение мошенничества. Чтобы решить эту проблему, легкая модель Gemma от Google DeepMind была дообучена на локальных мошеннических разговорах. Они включали подделки публичных институтов, банков и местных фигур, а также популярные региональные схемы, гарантируя, что модель может отличать безобидный социальный чат от настоящей манипуляции.

Эта новая модель также обрабатывает данные разговора на устройстве. Традиционно обнаружение угроз основывается на сканировании сообщений на сервере в облаке, но многие мессенджеры используют сквозное шифрование — что означает, что они не могут просматривать частные разговоры. Люди нуждаются в способе оставаться в безопасности от мошенничества, одновременно сохраняя приватность разговоров, и наше решение — перенести анализ угроз на устройство. Это позволяет быстрее анализировать паттерны разговоров, чтобы выявить манипулятивные намерения и дать гражданам возможность действовать до того, как произойдет финансовый ущерб или раскрытие данных.

Под капотом: локальный контекст и эффективность на краю сети

Когда модель обнаруживает манипулятивные разговорные паттерны, она запускает предупреждение в реальном времени прямо на устройстве пользователя, советуя ему приостановиться и проявить осторожность перед тем, как делиться конфиденциальной информацией или средствами.

Запуск сложной модели классификатора мошенничества на современных смартфонах — не простая задача, и эффективность батареи является критическим аспектом. Для этого мы используем двухступенчатую конвейерную схему:

Этап 1: Легкий, эффективный классификатор сканирует входящие сообщения, потребляя минимум энергии, сосредоточенный на обнаружении потенциальных угроз.
Этап 2: Контекстуальная оценка с нашей дообученной моделью Gemma, где мы анализируем более крупный фрагмент разговора, чтобы подтвердить угрозу или отклонить ложный сигнал.

Строгий контроль

Представлено на Международной неделе кибербезопасности Сингапура (SICW 2026), это сотрудничество предоставляет модель для мессенджеров, балансирующих защиту пользователей с сквозным шифрованием. Строгий контроль соблюдался на протяжении всего развития:

Суверенный песочница: дообучение проводилось в управляемой и поддерживаемой среде GCP GovTech, изолируя данные обучения.

Без данных граждан: обучение строго исключало частную или персонально идентифицируемую информацию, используя анонимизированные наборы данных, полученные из отчетов о мошенничестве и разведывательных потоков.

Тестирование на стресс: модель была протестирована на синтетических диалогах и локальных корпусах, чтобы покрыть разнообразные категории мошенничества и развивающиеся тактики подделки.

Будущее безопасности на устройстве

Проект демонстрирует, как ИИ может помочь мессенджерам противостоять преступности и показывает, что безопасность и конфиденциальность не требуют компромиссов, если защитный ИИ работает непосредственно на устройстве. Он также показывает, как правительства и поставщики моделей могут совместно разрабатывать технологии для общественного блага. Платформы обмена сообщениями и поставщики операционных систем могут напрямую интегрировать эти легкие модели, чтобы защищать пользователей локально, обеспечивая безопасные чат‑взаимодействия без раскрытия частных данных.