Конфиденциальность — это наша миссия, ради которой мы существуем, и мы делаем все возможное для ее защиты.
Это означает, что мы ограничиваем новейшие ИИ-агенты, встроенные в мобильные операционные системы, от потенциального перехвата и хранения ваших данных Signal.
Нам уже приходилось сталкиваться с этим в случае с Windows. В прошлом году мы использовали блокировку скриншотов, чтобы предотвратить создание и сохранение Microsoft Recall AI снимков экрана с вашими сообщениями Signal в операционных системах Windows 11 по умолчанию. Теперь мы предпринимаем аналогичные меры для ограничения агентных систем, встроенных в iOS 27 и в те версии Android, где мы можем обнаружить попытку ИИ-ассистента прочитать экран Signal.
Проблема похожа на Microsoft Recall в Windows: Google и Apple глубоко интегрируют в свои операционные системы агентные возможности, такие как Gemini Intelligence с Google Gemini и Onscreen Awareness со Siri AI. Это важный шаг. Google (Android), Apple (iOS/macOS) и Microsoft (Windows) создают три основные потребительские операционные системы (ОС), которые формируют среду, в которой сторонние разработчики, такие как Signal, создают и запускают свои приложения. Иными словами, эти три операционные системы — это океаны, в которых Signal и другие приложения должны плавать; они диктуют условия жизни для экосистемы приложений. Прямо сейчас эти интеграции агентного ИИ меняют эту среду таким образом, что она становится все более враждебной по отношению к конфиденциальности. Это экзистенциальная угроза для Signal и нашей способности ответственно выполнять нашу миссию.
Чтобы получить доступ к информации о вас, эти ИИ-агенты ОС «сканируют» информацию на вашем экране. При этом ваши данные Signal перехватываются, а затем передаются этим агентным системам, чтобы они могли отвечать на ваши вопросы и выполнять ваши поручения.
В конечном итоге эти возможности ИИ в операционной системе подрывают способность Signal самостоятельно гарантировать конфиденциальность. Более десяти лет эта гарантия подкреплялась нашей проверенной и надежной базой с открытым исходным кодом и формально верифицированным протоколом шифрования. Они прошли тщательную проверку у лучших экспертов по безопасности и хакеров по всему миру и доказали свою надежность. Теперь, в угоду возможностям ИИ-агентов, ваши конфиденциальные данные перехватываются, сохраняются и становятся доступными любой локальной базе данных или удаленному серверу, которые ИИ-агент уровня ОС использует в данный момент. Все это оказывается вне контроля Signal после того, как данные были перехвачены, и ставит под угрозу конфиденциальность всех участников разговора.
Поэтому мы блокируем такой перехват, предотвращая создание скриншотов в приложении на iOS 27 и в случаях, когда ИИ-ассистенты пытаются перехватить данные экрана на Android.
Люди, которым нужна возможность делать скриншоты, могут отключить эту защиту в настройках приложения Signal. Однако это потенциально подвергнет ваше содержимое Signal (и содержимое ваших контактов) воздействию этих ИИ-агентов и нарушит наши гарантии конфиденциальности. Наше средство также несовершенно: хотя мы делаем все возможное, ограничение скриншотов не решает проблему других, более скрытных способов, с помощью которых ИИ-агенты потенциально могут получить доступ к данным приложений, таких как извлечение контента, уже присутствующего на устройстве пользователя через файловую систему.
Мы хотим внести полную ясность: это серьезная проблема, что у Signal и других разработчиков приложений отсутствуют надежные инструменты для предотвращения подрыва конфиденциальности на уровне приложений со стороны ИИ-агентов. Даже там, где мы можем обнаружить и заблокировать доступ ИИ к данным, Google, Apple, Microsoft и другие компании не предоставляют разработчикам способов легко ограничить такой доступ к данным ИИ без серьезных компромиссов в отношении основного пользовательского опыта. По этой же причине мы в настоящее время не можем реализовать эти средства защиты на macOS.
Мы также боремся со значительной нехваткой документации о том, как на самом деле работают эти ИИ-агенты. За последние несколько месяцев мы потратили значительное время и энергию разработчиков на проведение экспертных исследований на Android и iOS, пытаясь выяснить, что на самом деле происходит, когда эти ИИ-системы получают доступ к данным приложений. Без лучшей документации и четких технических спецификаций Signal будет все труднее обеспечивать надежную конфиденциальность и безопасность для многих миллионов людей, которые полагаются на нас.
Мы продолжаем призывать крупные компании, создающие потребительские операционные системы — Apple, Google и Microsoft — предоставить простые технические инструменты и точную документацию, которые позволят таким разработчикам, как Signal, предотвращать доступ ИИ-агентов к конфиденциальным данным приложений. В частности, мы призываем эти компании предоставить два разумных средства правовой защиты, которые могут защитить конфиденциальность, на которую полагаются многие миллионы людей:
- У разработчиков должен быть простой и хорошо документированный способ отказаться от доступа ИИ к данным и их обработки для своего приложения, включая (но не ограничиваясь) чтение экрана, доступ к файловой системе, уведомления, API и другие инфраструктуры ОС, и все это без ущерба для основной полезности приложения.
- Компании, создающие операционные системы, должны создать лучшую документацию и технические спецификации относительно того, как функционируют эти ИИ-агенты, особенно в отношении доступа к данным и их обработки. Подходы конфиденциальных вычислений (Confidential Computing) не являются полным решением и не затрагивают эти основные проблемы. В частности, эти подходы по-прежнему оставляют полномочия по определению степени гарантий конфиденциальности (если таковые имеются) в руках этих провайдеров.
Мы также видим растущую потребность в инструментах, которые могут помешать сторонним агентам, таким как Meta’s Muse, получать доступ к данным приложений с помощью глубоких разрешений, которые пользователям рекомендуется предоставлять им во время настройки. Во многих случаях эти агенты используют настройки специальных возможностей, которые должны были помочь реальным людям получать максимум от своих приложений и сервисов, а не служить универсальным ключом, предоставляющим доступ ИИ-агентам.
В дополнение к принятию этих технических мер по блокировке перехвата мы ведем переговоры по всей экосистеме, чтобы четко обозначить ставки. В отрасли предстоит проделать большую работу по улучшению того, как ИИ-агенты работают в операционной системе, а также как и перехватывают ли и обрабатывают ли они личные данные. Мы с осторожным оптимизмом смотрим на то, что некоторые крупные провайдеры ОС, такие как Google и Apple, ведут с нами диалог о том, как эти системы должны лучше взаимодействовать с чувствительными к конфиденциальности приложениями, такими как Signal. Мы надеемся вскоре поделиться новыми подробностями по этой теме и надеемся, что эти компании осознают опасность для экосистемы и будут работать с нами и другими сторонами над созданием стандартизированных подходов, которые надежно защищают конфиденциальность по всей отрасли.
Наконец, мы хотим отметить, что мы не единственные, кто осознает эти риски, и мы признательны нашим союзникам за продвижение аналогичных changes. Всем нам необходимо признать, что текущая интеграция агентов ИИ в операционную систему без этих здравых мер предосторожности представляет собой экзистенциальную угрозу для конфиденциальности на уровне приложений и для способности независимых разработчиков, таких как Signal, защищать ваши конфиденциальные данные. Signal — это канарейка в угольной шахте, но это затрагивает всю экосистему и должно сплотить каждого, кто заботится об этих фундаментальных правах.
Signal Technology Foundation — это некоммерческий дом для приложения Signal, которому доверяют миллионы людей по всему миру. Мы защищаем свободу выражения мнений и обеспечиваем безопасную глобальную связь с помощью открытых технологий конфиденциальности. Signal Technology Foundation является некоммерческой организацией, освобожденной от налогов по статье 501(c)(3) США.
- Microsoft Recall делает снимки вашего экрана каждые несколько секунд, извлекает текст с них с помощью оптического распознавания символов, а затем заполняет этими персональными данными доступную для поиска локальную базу данных, чтобы позволить системе ИИ делать к ней запросы, что потенциально может привести к раскрытию и бессрочному сохранению ваших данных из Signal, включая исчезающие сообщения. ↩
Microsoft Recall делает снимки вашего экрана каждые несколько секунд, извлекает текст с них с помощью оптического распознавания символов, а затем заполняет этими персональными данными доступную для поиска локальную базу данных, чтобы позволить системе ИИ делать к ней запросы, что потенциально может привести к раскрытию и бессрочному сохранению ваших данных из Signal, включая исчезающие сообщения. ↩
- Существует множество версий Android, помимо поставляемых Google дистрибутивов для устройств Pixel. У многих производителей у нас нет надежного способа обнаружить попытку создания скриншота, если создание скриншотов уже отключено. Вместо того чтобы ухудшать пользовательский опыт (когда скриншоты просто перестают работать, запутывая пользователей), мы решили сосредоточиться на обнаружении моментов, когда ИИ-ассистент пытается получить доступ к экрану. Мы автоматически включаем параметр «Безопасность экрана» в Signal Android при обнаружении доступа такого типа. ↩ ↩
Существует множество версий Android, помимо поставляемых Google дистрибутивов для устройств Pixel. У многих производителей у нас нет надежного способа обнаружить попытку создания скриншота, если создание скриншотов уже отключено. Вместо того чтобы ухудшать пользовательский опыт (когда скриншоты просто перестают работать, запутывая пользователей), мы решили сосредоточиться на обнаружении моментов, когда ИИ-ассистент пытается получить доступ к экрану. Мы автоматически включаем параметр «Безопасность экрана» в Signal Android при обнаружении доступа такого типа. ↩ ↩
- Внимательные читатели заметит, что помимо невозможности охватить все устройства Android, мы также не блокируем Siri AI на macOS. Это связано с тем, что мы не можем надежно блокировать скриншоты на macOS. Столкнувшись с нехваткой четко документированных API, позволяющих реализовать защиту от скриншотов, мы не располагаем инструментами для выполнения этой работы. Хотя на macOS существуют средства защиты от непрерывной записи экрана, мы не можем применить их к скриншотам (с помощью которых большинство агентских систем получают данные из таких приложений, как Signal). Попытка реализовать блокировку скриншотов на macOS открыла для нас минное поле ошеломляющих решений, подвергающих риску конфиденциальность пользователей, включая API, которые были устаревшими в пользу решений для защиты экрана, которые работают только для потокового мультимедиа и другого контента, защищенного DRM. Мы надеемся, что Apple срочно исправит эту ситуацию. На данный момент единственная рекомендация для пользователей macOS 27 — добавить Signal в раздел «Исключенные приложения» в Системных настройках > Siri, чтобы защитить содержимое сообщений от проактивного доступа со стороны Siri AI. ↩
Внимательные читатели заметит, что помимо невозможности охватить все устройства Android, мы также не блокируем Siri AI на macOS. Это связано с тем, что мы не можем надежно блокировать скриншоты на macOS. Столкнувшись с нехваткой четко документированных API, позволяющих реализовать защиту от скриншотов, мы не располагаем инструментами для выполнения этой работы. Хотя на macOS существуют средства защиты от непрерывной записи экрана, мы не можем применить их к скриншотам (с помощью которых большинство агентских систем получают данные из таких приложений, как Signal). Попытка реализовать блокировку скриншотов на macOS открыла для нас минное поле ошеломляющих решений, подвергающих риску конфиденциальность пользователей, включая API, которые были устаревшими в пользу решений для защиты экрана, которые работают только для потокового мультимедиа и другого контента, защищенного DRM. Мы надеемся, что Apple срочно исправит эту ситуацию. На данный момент единственная рекомендация для пользователей macOS 27 — добавить Signal в раздел «Исключенные приложения» в Системных настройках > Siri, чтобы защитить содержимое сообщений от проактивного доступа со стороны Siri AI. ↩












