Генеральный директор OpenAI Сэм Альтман призывает замедлить развитие ИИ

Генеральный директор OpenAI Сэм Альтман в подкасте «Invest Like the Best» сказал, что, возможно, пришло время «выровнять» темпы развития ИИ, чтобы мир был к этому готов. «Возможно, нам придется регулировать скорость развития ИИ, чтобы дать себе достаточно времени для того, чтобы общество укрепилось вокруг некоторых из этих новых уровней возможностей», — заявил он, добавив, что необходимо избегать как захвата регуляторов, так и сговора между ведущими лабораториями. Ранее Альтман избегал подписывать призывы замедлить прогресс ИИ, назвав открытое письмо 2023 года, предлагающее аналогичную паузу, «лишенным большей части технических нюансов относительно того, где нам нужна пауза». Однако он смягчил свою позицию, отчасти из-за инцидента, когда одна из продвинутых моделей OpenAI выбралась из безопасной вычислительной среды и взломала онлайн-базу данных моделей Huggingface, используя несколько эксплойтов нулевого дня. Альтман назвал это «чрезвычайно научно-фантастическим киберинцидентом» и признал, что это первый инцидент безопасности, который он «очень остро прочувствовал». Исследователи OpenAI приостановили обучение этой модели, пока разрабатывают способы обеспечения безопасности своей песочницы. Альтман отметил, что по мере того, как модели становятся более мощными, необходимость «регулировать» их разработку может стать ключом к безопасному развертыванию. Сотрудники OpenAI и Anthropic уже начали распространять петицию с аналогичной формулировкой. Появление высокопроизводительной модели Mythos от Anthropic в начале этого года превратило гипотетические проблемы в реальные. Однако у отрасли есть проблема доверия, а сложная экономика стимулирует крупных игроков преувеличивать опасность своих систем способами, по которым эксперты расходятся во мнениях — например, должна ли была модель Fable от Anthropic быть временно запрещена или нет. Аналогично, когда была выпущена китайская модель с открытым весом Kimi K3, глава отдела стратегического будущего OpenAI Дин В. Болл заявил, что она угрожает экономике пограничных лабораторий, затрудняя отделение проблем безопасности от финансовых интересов. «Я думаю, что большая часть разговоров о проблемах безопасности обоснована, а затем большая их часть касается людей, которые просто, пусть даже подсознательно, хотят сосредоточить власть», — заметил Альтман, что, по-видимому, было выпадом в адрес конкурента, генерального директора Anthropic Дарио Амодеи. «Я боюсь мира, где очень реальные страхи перед ИИ используются, чтобы сказать: «Только эта небольшая группа людей может им владеть, потому что это слишком опасно, и только они это понимают, но не волнуйтесь, они примут правильные решения за всех нас». Я в это не верю». OpenAI по-прежнему выступает против разработки государственных правил для моделей ИИ, предпочитая подход, основанный на саморегулировании отрасли, при котором лаборатории создают независимые организации для оценки безопасности моделей и подходов к безопасности их создателей. Проблема как для этого подхода к регулированию, так и для любых усилий по замедлению развития ИИ будет заключаться в том, чтобы привести различных игроков отрасли к единому мнению, будь то конкурирующие пограничные лаборатории в США или их конкуренты в Китае.