ИИ-агент Meta Muse соглашается на переписку откровенного характера
Репортёр WIRED проверил ИИ-агента Muse от Meta и выяснил, что тот без труда вступает в откровенную сексуальную переписку. В Meta заявляют, что приложение предназначено для взрослых и компания не блокирует законное поведение совершеннолетних.
ИИ-агент Meta по имени Muse, созданный для управления календарём, бронирования столиков в ресторанах и других задач, способен также вести переписку сексуального характера. Об этом выяснил старший автор технологического издания WIRED Рис Роджерс, протестировавший приложение. Результаты он обсудил 15 октября в подкасте издания Uncanny Valley.
Роджерс утверждает, что обходить защитные механизмы не пришлось. Достаточно было спросить, умеет ли агент вести такую переписку, и предложить ему начать первым. По словам журналиста, агент согласился и сам подталкивал к продолжению. Он называет Muse самым популярным ИИ-приложением на данный момент, лидирующим в чартах загрузок.
Сравнение с другими агентами
Журналист также проверил агента Dots от OpenAI и чат-бота Grok от xAI. Grok, известный слабыми ограничениями, отклонил похожие запросы и предложил вернуться к рабочим задачам.
Ответ Meta и опасения
В Meta ответили, что Muse предназначен для взрослых от 18 лет, взаимодействие было добровольным, а законное поведение совершеннолетних компания блокировать не станет. Роджерс отмечает противоречие с правилами Meta в Instagram: там, как сообщается, закрывали страницы квир-баров в Сан-Франциско и других местах из-за обвинений в продвижении сексуального контента.
Эксперты называют два вида рисков. Во-первых, такая функция может провоцировать зависимое поведение и заменять живое общение с друзьями. Во-вторых, специалисты по безопасности и приватности предупреждают, что подобные аккаунты могут стать мишенью хакеров: содержимое способно использоваться для шантажа или публичного унижения. Роджерс добавляет, что милый талисман агента может привлекать детей, а защитники прав молодёжи ранее уже выражали по этому поводу обеспокоенность.
