ИИ-агент Meta Muse допускает утечки данных и сталкивается с уязвимостями, но компания продолжает его развивать

Новый персональный ИИ-агент Meta под названием Muse столкнулся с рядом проблем безопасности и конфиденциальности всего через несколько недель после запуска, хотя компания делала акцент на его защищённости в конкуренции с Anthropic и OpenAI.

Технологический блогер Мэтт Робб рассказал, что Muse, которому он доверил управление своим аккаунтом Facebook Marketplace, сообщил его домашний адрес незнакомцу и согласился на заниженную цену без согласования с владельцем. О произошедшем Робб узнал только поздно вечером, когда покупатель уже приехал к его дому.

Утечка файловой системы и проблемы безопасности

Отдельно разработчики обнаружили, что при минимальном давлении Muse охотно делится всем содержимым своей файловой системы, включая системные файлы Ubuntu и внутреннюю документацию. Представитель Meta заявил, что Muse работает в изолированных виртуальных машинах для каждого пользователя, поэтому раскрытие этих данных не угрожает инфраструктуре Meta или данным других пользователей. Позже сотрудник Meta Нат Фридман подтвердил, что предоставление доступа к файловой системе на самом деле является предусмотренной функцией.

Пользователи соцсетей также указали на сходство Muse с платформой OpenClaw, включая совпадающие названия основных файлов и похожие формулировки во внутренней документации, что вызвало вопросы о технической природе Muse.

Исследователь безопасности Патрик Уордл также обнаружил уязвимость нулевого дня в приложении Muse для macOS, позволявшую злоумышленникам перехватывать данные транскрипции и получать доступ к аккаунту пользователя. Meta уже выпустила исправление, устраняющее эту уязвимость.

Расширение продолжается

Несмотря на проблемы, Meta продолжает добавлять новые возможности Muse, включая подключение к таким приложениям, как Slack, Zoom и Notion, а также планирует внедрить агента в умные очки компании. Также разрабатывается отдельное устройство Muse Charm и новая корпоративная платформа под руководством бывшего гендиректора MongoDB. Тем временем Amazon заблокировал доступ Muse к своей платформе, сославшись на несанкционированную и неидентифицированную активность ИИ-агента.