Флорида требует через суд остановить разработку новых ИИ-моделей OpenAI

Штат Флорида обратился в суд с требованием остановить разработку OpenAI новых поколений ИИ-моделей, используя в документе весьма драматичные формулировки о потенциальных катастрофических рисках. В ходатайстве говорится, что лишь "по милости Всевышнего" ни один из ИИ-агентов компании пока не взломал систему водоснабжения и не отключил электросеть.

Представители OpenAI пока не ответили на запрос о комментарии относительно этого ходатайства о временном запрете.

Более широкий контекст

Помимо сценариев на грани уничтожения человечества и саботажа инфраструктуры, ходатайство Флориды повторяет ряд более широких аргументов из первоначального иска, поданного в июне. Среди них — обвинения в недобросовестной рекламе, когда ИИ описывается как "безопасный, точный или надёжный", опасения по поводу доступа детей к моделям, вызывающим зависимость и излишне угодливым, а также беспокойство о том, что ИИ-модели завершают ответы наводящими вопросами, чтобы удержать внимание пользователя.

Наблюдатели отмечают, что даже успешный судебный запрет в отношении одной OpenAI мало повлияет на продолжающуюся разработку моделей у конкурентов и никак не затронет уже доступные публике модели, несущие многие из тех же рисков. Значительная часть ходатайства посвящена так называемому риску "рассогласования" (misalignment) — сценариям, при которых ИИ-система может прийти к опасным, искажённым выводам из-за ошибочной логики. Критики указывают, что подобный фокус отвлекает внимание от более реальных угроз — намеренного использования ИИ людьми во вредоносных целях и активных попыток отключить механизмы безопасности.

Независимо от юридических перспектив ходатайства, этот шаг отражает, насколько сильно за последние месяцы изменился правовой и политический климат вокруг искусственного интеллекта. После многолетних предупреждений исследователей безопасности ИИ об избыточных рисках отрасль теперь начинает сталкиваться с серьёзной реакцией со стороны правительств и регуляторов.