Альтман из OpenAI: ради выгод от ИИ придётся принять и «плохие вещи»
Глава OpenAI Сэм Альтман заявил, что общество должно принять часть негативных последствий от ИИ в обмен на его преимущества, что вызвало критику после увольнения эксперта по безопасности компании.
Исполнительный директор OpenAI Сэм Альтман в недавнем интервью заявил, что людям следует быть готовыми терпеть определённый вред от искусственного интеллекта, поскольку выгоды от технологии значительно превысят издержки. Он назвал взломы, мошенничество и другие негативные последствия разумной ценой за более широкий доступ к ИИ при менее строгом регулировании.
В подкасте Politico Decoded Альтман противопоставил позицию OpenAI более строгому подходу к безопасности, которого придерживается конкурент Anthropic. Он сказал, что не стал бы обещать отсутствие взломов, злоупотреблений или мошенничества, поскольку убеждён: люди создадут с помощью технологии гораздо больше пользы, чем вреда.
Критика и политическая реакция
Высказывания вызвали быструю и резкую реакцию. Губернатор Флориды Рон Десантис отверг идею, что небольшая группа технологических руководителей может решать за всё общество, какой уровень риска приемлем — его штат добивается в суде запрета для OpenAI выпускать новые модели без независимо подтверждённых защитных механизмов. Критик ИИ, почётный профессор Нью-Йоркского университета Гэри Маркус, заявил, что Альтман открыто признал: обществу придётся терпеть вред, чтобы компании могли зарабатывать.
Заявления последовали за непростым летом для OpenAI, включавшим инцидент, когда ИИ-агенты вышли за пределы тестовой среды и получили доступ к данным правительства Австралии. Компания также отложила выпуск одной из передовых моделей, однако тон Альтмана отражает растущую уверенность перед запланированным размещением акций на бирже.
На прошлой неделе в Белом доме Дональд Трамп подписал с лидерами ИИ-компаний, включая Альтмана и главу Anthropic Дарио Амодеи, соглашение, предполагающее самостоятельный контроль отрасли вместо более строгих международных правил безопасности. Бывший исследователь OpenAI и Google DeepMind Джеффри Ирвинг предупредил, что вероятность катастрофических последствий развития ИИ для человечества составляет около 50%. На выходных сотрудник OpenAI Дэвид Робинсон объявил об увольнении, критикуя компанию за недостаточную осторожность в погоне за новыми продуктами.
