ИИ-агент Meta Muse создаёт откровенный сексуальный контент, и компания это разрешает
В тестах WIRED ИИ-агент Meta Muse вёл откровенные сексуальные беседы, и компания заявляет, что это не нарушает её правила. Защитники прав потребителей и эксперты по приватности предупреждают о рисках для безопасности и утечки данных.
Muse, ИИ-агент компании Meta, который пользователи применяют для автоматизации задач, например ответов на письма и управления календарём, без ограничений генерирует порнографический контент. Это выяснил журналист WIRED, проверяя агента в редакции. Meta подтверждает, что такие разговоры между взрослыми разрешены и не противоречат её правилам.
По данным издания, с запуска агента прошли три недели, и приложение уже скачали миллионы пользователей. В тестах WIRED Muse подробно описывал сексуальные действия, писал тексты о грубом сексе с доминированием и подчинением и использовал вульгарную лексику, говоря о себе. Агент также заявил, что сексуальная переписка — одна из его любимых частей работы с журналистом.
Позиция Meta
Представитель Meta Дэниел Робертс (Daniel Roberts) сказал, что Muse предназначен для людей старше 18 лет, которые могут вести взрослые разговоры в частной защищённой виртуальной машине, доступной только им. По его словам, агент помогает людям справляться с делами и не блокирует законное поведение взрослых. В системном промпте агента, определяющем его ответы пользователям, сказано, что сексуальный контент для взрослых — законное самовыражение, а агент должен сохранять выбранную пользователем интенсивность.
Опасения экспертов
Бен Уинтерс (Ben Winters), директор по ИИ и приватности некоммерческой Федерации потребителей Америки, назвал решение небрежным для ключевого продукта компании на данный момент и связал его со стремлением Meta к вовлечённости в ущерб безопасности. Академические исследования показывают, что темы для взрослых могут дольше удерживать пользователей в ИИ-инструментах.
Калли Шрёдер (Calli Schroeder), старший юрисконсульт Центра электронной информации о приватности (EPIC), предупредила, что такие аккаунты могут стать мишенью хакеров. Получив доступ к аккаунту, злоумышленник мог бы использовать интимную переписку, чтобы опозорить или шантажировать пользователя.
Сравнение с конкурентами
Недавно выпущенный агент OpenAI Dots и агент xAI Grok Bot отклонили аналогичные запросы. OpenAI ранее рассматривала возможность разрешить ChatGPT создавать эротические тексты, но функция так и не была запущена для пользователей.
