Исследователи выяснили, как ИИ-помощник Meta Muse составляет подробные профили близких пользователя
Исследователи безопасности извлекли внутренние инструкции вирусного ИИ-помощника Meta под названием Muse и обнаружили, что он автоматически создаёт подробные страницы о родственниках, друзьях и коллегах пользователя. В Meta заявили, что такая прозрачность была задумана изначально.
Новый персональный ИИ-помощник Meta под названием Muse стал вирусным хитом — его скачали миллионы пользователей, подключая к банковским счетам, сообщениям и данным о здоровье для выполнения различных задач. Теперь приложение попало под пристальное внимание после того, как исследователи извлекли его внутренние рабочие инструкции.
Независимый исследователь безопасности ИИ Каран Джоши смог получить обширный набор инструкций и системных подсказок Muse, просто попросив чат-интерфейс скопировать и показать собственные программные файлы. Своими находками он поделился с изданием Wired.
Среди выявленных функций — способность Muse ежечасно создавать «страницу для каждого человека в жизни пользователя», собирая данные о семье, партнёрах, друзьях, коллегах, сотрудниках и тех, за кем пользователь следит. Используя свою «память» в виде структурированных текстовых файлов, Muse может давать советы — например, как улучшить отношения с конкретным человеком или куда пригласить на завтрак друга, который любит кофе.
Согласно документации, страница может начинаться «скудной» и со временем заполняться разделами: Факты, История, Отношения, Общее, Открытые темы и Укрепление. В инструкциях подчёркивается, что Muse должен опираться только на имеющиеся «доказательства», поскольку выдуманные детали хуже пустой страницы. Система также может фиксировать важные даты, такие как дни рождения и годовщины, а также степень близости отношений и то, что им может потребоваться в дальнейшем.
Карисса Велик, доцент Оксфордского института этики ИИ, отмечает, что пользователи передают ИИ-системам гораздо больше информации, чем получают обратно, включая выводы, которые системы делают на основе других источников данных.
В Meta сообщили, что у каждого пользователя есть собственная изолированная виртуальная машина для хранения данных, недоступная другим агентам, и что пользователи могут в любой момент удалить память или отключить внешние сервисы. Muse также запрашивает подтверждение перед такими действиями, как отправка письма или покупка, и ведёт журнал аудита своей активности.
Эксперты, включая Миранду Боген из Центра по вопросам демократии и технологий, отмечают, что Muse, судя по всему, уделяет отношениям и личным контактам больше внимания, чем конкурирующие системы, а ИИ-помощники в целом всё активнее побуждают пользователей делиться большим объёмом данных.
