Meta опровергает утверждение журналиста о том, что ее ИИ-агент Muse читал личные сообщения пользователя без разрешения. После предыдущего отчета обозревателя Inc. Джейсона Атена, в котором подробно описывалась эта проблема, вице-президент Meta по коммуникациям Энди Стоун выступил с опровержением, дав понять, что компания не считает, что ее продукт сделал это без согласия пользователя.
«Интеграция сообщений в приложении Muse для Mac полностью основана на добровольном выборе пользователя», — написал Стоун в X в ответ на заявления, сделанные в статье. — «Вы должны включить как полный доступ к диску (Full Disk Access), так и коннектор сообщений, чтобы Muse могла читать содержимое ваших сообщений. Она не может читать ваши сообщения, если вы этого не сделаете».
Несмотря на отрицание со стороны Meta, многие люди по-прежнему подозревают, что компания говорит не всю правду.
Это неудивительно, учитывая многолетнее ненадлежащее обращение технологического гиганта с потребительскими данными, которое привело к судебным искам, нарушениям правил FTC и штрафам. Например, всего несколько дней назад присяжные в Нью-Мексико постановили, что технологический гигант вводил пользователей в заблуждение относительно своей практики обработки данных в деле, возникшем в результате скандала с утечкой данных Cambridge Analytica в 2018 году.
Смогут ли пользователи доверять Muse, станет решающим фактором в том, выиграет ли Meta рынок потребительского ИИ. Хотя сейчас ее приложение чувствует себя хорошо и остается номером 1 в App Store, репутация Meta может не восстановиться, если появятся новые подобные сообщения, независимо от того, правдивы они или нет. Во всяком случае, компании следовало бы напрямую взаимодействовать с журналистом, чтобы определить, как это могло произойти, вместо того чтобы просто отрицать сам факт.
Официальное заявление Стоуна от лица Meta последовало за более техническим ответом руководителя Meta Superintelligence Labs Дэвида Синглтона, который ответил Атену напрямую в Threads, объяснив, что набор разрешений, которые пользователь должен предоставить, чтобы позволить Muse читать сообщения на Mac, включает «три отдельных этапа разрешений на уровне приложения и встроенных системных защит macOS». Он заявил, что их «невозможно обойти, даже если бы в приложении Muse была ошибка».
Эти шаги включают явный выбор предоставления Muse полного доступа к диску, что затем позволяет пользователю выбрать уровень доступа, предоставляемый Muse к приложению «Сообщения» (например, «Нет», «Только чтение» или «Чтение»). Если полный доступ к диску не включен, эти параметры неактивны.
Кроме того, при предоставлении полного доступа к диску диалоговое окно вызывает пользовательский интерфейс настроек macOS, где пользователь должен снова вручную подтвердить, что он намерен выполнить это действие. Выполнение этого действия инициирует полную перезагрузку приложения Muse, написал Синглтон, что делает еще менее вероятным, что такой выбор мог быть сделан случайно без ведома пользователя.
Однако в отчете Атена утверждалось, что, когда Muse читала его сообщения, полный доступ к диску был отключен. Он также сказал, что когда он попросил Muse объяснить, как это произошло, ИИ ответил, что синхронизировал «уведомления устройства». Это означает, как полагает Атен, что Muse передавала текст его входящих баннерных уведомлений на Mac ИИ-агенту.
Синглтон оспорил и это, заявив, что ИИ «запутался» и дал неверное объяснение произошедшего. Затем он указал на страницу Meta о архитектуре безопасности Muse и процессе выплаты вознаграждений за найденные ошибки.
Короче говоря, ответ компании по сути сводится к тому, что то, о чем рассказал Атен, не происходило и не могло произойти.
Это не единственный инцидент, когда Muse якобы превысила свои полномочия, и, вероятно, не последний. Другой пользователь, ютубер Мэтт Робб, недавно заявил, что Muse некорректно обработала задачу, в рамках которой он продавал вещи на Facebook Marketplace, что привело к тому, что его адрес был раскрыт, а покупатель появился, когда его даже не было дома. Синглтон, судя по его ответу в Threads, изучает этот случай, что позволяет предположить, что компания допускает, что по крайней мере здесь могла быть ее вина.
Когда вы совершаете покупки по ссылкам в наших статьях, мы можем получать небольшую комиссию. Это не влияет на нашу редакционную независимость.
Сара работает репортером в TechCrunch с августа 2011 года. Она присоединилась к компании после того, как до этого проработала более трех лет в ReadWriteWeb. До работы репортером Сара работала в сфере ИТ в ряде отраслей, включая банковское дело, розничную торговлю и разработку программного обеспечения.
Вы можете связаться с Сарой или проверить подлинность запроса от нее, написав по адресу sarahp@techcrunch.com или через зашифрованное сообщение пользователю sarahperez.01 в Signal.
Посмотреть биографию
