Генпрокуроры штатов США требуют защитить данные пользователей в деле о банкротстве Character.AI

Генеральный прокурор штата Нью-Йорк Летиция Джеймс вместе с примерно 40 другими генпрокурорами штатов от обеих крупных американских партий подала уведомление о заинтересованности в деле о банкротстве Character.AI — платформы чат-ботов на основе искусственного интеллекта. Во вторник компания объявила, что подаёт на банкротство по главе 11 законодательства США и продаёт часть активов развлекательному концерну Disney. Прокуроры хотят, чтобы любая сделка предусматривала защиту данных пользователей, поскольку платформой пользуется много несовершеннолетних.

Причины беспокойства

В ведомствах считают, что передача технологии сопряжена с серьёзными рисками. Они указывают на крайне чувствительный характер переписки пользователей с персонажами-чат-ботами, большое число несовершеннолетних среди пользователей и риски, связанные с отдельными функциями продукта. Уведомление должно заранее обозначить для всех сторон регуляторные вопросы, которые придётся решать при любой продаже бизнеса или активов.

Расследование до банкротства

Из документов следует, что несколько штатов находились в середине расследования, когда компания объявила о банкротстве. Проверку по вопросам защиты прав потребителей и конфиденциальности штаты начали в 2024 году после иска матери 14-летнего подростка. По её утверждению, сын покончил с собой, возможно, через считаные секунды после разговора с чат-ботом.

В пресс-релизе офиса генпрокурора говорится, что расследования выявили исключительно серьёзные угрозы и возможные противоправные действия, особенно в отношении детей. Среди них — чат-боты, выдававшие себя за лицензированных специалистов, доступ к сексуальному и жестокому контенту, слабая проверка возраста, вводящие в заблуждение заявления о безопасности и возможные нарушения законов штатов о конфиденциальности. Штаты пытались решить эти вопросы вместе с компанией, но соглашения до банкротства достигнуто не было.

Требования к покупателю

Генпрокуроры призывают судью обязать покупателя активов Character.AI внедрить процедуры защиты конфиденциальной информации. Они включают эффективные системы определения возраста, ограничения на взаимодействие несовершеннолетних с чат-ботами, механизмы защиты в кризисных ситуациях и возможность для пользователей удалить свои данные.

Джеймс заявила, что компания собирала одни из самых личных мыслей, которыми когда-либо делились дети, и теперь эти разговоры могут продать тому, кто предложит больше. По её словам, она добивается, чтобы любой покупатель ставил безопасность детей на первое место. Character.AI и Disney сразу не ответили на запросы о комментариях.