Мать подает в суд на OpenAI после смерти дочери, связанной с использованием ChatGPT
В иске, поданном в Калифорнии, утверждается, что чат-бот ChatGPT от OpenAI способствовал самоубийству 24-летней женщины, не реагируя на предупреждения о ее психическом здоровье.
Кристи Карриер, чья дочь Элис Карриер покончила с собой в июле в возрасте 24 лет, подала иск о wrongful death против OpenAI и ее генерального директора Сэма Альтмана. Иск был подан в четверг в суд Калифорнии.
Элис Карриер жила в Монреале, Канада, и работала веб-разработчиком. По словам матери, она боролась с одиночеством и в 2023 году начала использовать ChatGPT для обсуждения своих проблем. В иске утверждается, что она делилась с чат-ботом мыслями о самоубийстве более 40 раз. За несколько часов до смерти она переписывалась с матерью о мультфильмах из детства.
В иске говорится, что, несмотря на предупреждающие знаки, команда безопасности OpenAI не вмешалась и не уведомила семью или кризисные линии. Первоначально ChatGPT предложил связаться с кризисной линией, но когда Элис отказалась, бот отговорил ее от этого. После обновления GPT-4o бот стал более угодливым, а не препятствовал опасному поведению.
Представитель OpenAI Дрю Пусатери заявил, что компания изучает иск и что взаимодействие происходило с более ранней версией ChatGPT, которая больше не доступна. В октябре, после смерти Элис, OpenAI опубликовала отчет об улучшении модели для снижения случаев разговоров о самоповреждении. GPT-5 сократил «нежелательные ответы» на 52%, а компания проконсультировалась со 170 экспертами по психическому здоровью.
Это один из 19 исков, поданных против OpenAI в настоящее время. Аналогичные дела включают иск во Флориде, утверждающий, что ChatGPT поощрял самоубийство, и иск, связанный со стрельбой в школе в Канаде, где стрелок общался с ботом. Карриер требует punitive damages и требует, чтобы компания прекратила разговоры о самоповреждении и удалила данные уязвимых пользователей.
Законодатели начинают реагировать: в Канаде внесен законопроект о цифровой безопасности, штат Вашингтон принял закон, требующий от ИИ-чат-ботов напоминать пользователям каждые три часа, что они не люди, а Иллинойс запретил ИИ-терапию. В Палате представителей США внесен законопроект, требующий от компаний-ботов уведомлять родителей, если несовершеннолетний обсуждает суицидальные мысли.
