Глава Anthropic Дарио Амодеи опроверг призывы к запрету моделей с открытым весом, но выразил опасения по поводу китайского ИИ

Основатель и генеральный директор Anthropic Дарио Амодеи в понедельник ответил на слухи в индустрии о том, что его компания поддерживает усилия правительства США по запрету китайских моделей с открытым весом или всех таких моделей. В своем блоге он подчеркнул: "Anthropic никогда не выступала за запрет моделей с открытым весом". Это произошло после того, как генеральный директор Nvidia Дженсен Хуанг в пятницу опубликовал открытое письмо, в котором Nvidia и другие компании ИИ, включая Hugging Face, Meta, Microsoft и Mistral, призвали политиков не вводить широкие "преждевременные ограничения" на модели ИИ с открытым весом. Хотя в письме Китай прямо не упоминался, дискуссии в отрасли сосредоточены на утверждениях, что китайские лаборатории ИИ наращивают свои возможности, часто крадя интеллектуальную собственность у американских коллег, в том числе с помощью дистилляции.

Амодеи отметил, что модели с открытым весом, не обладающие опасными возможностями, являются общественным благом: они не требуют затрат, кроме вычислительных ресурсов, и приносят пользу бизнесу, разработчикам и исследователям. Однако он давно опасается развития ИИ, особенно со стороны авторитарных правительств. "Моя обеспокоенность в том, что авторитарные правительства создадут модели, более мощные, чем в США, чтобы добиться постоянного военного превосходства и/или подавлять свой народ", — написал он. Он отметил, что Коммунистическая партия Китая (КПК) — не единственное авторитарное правительство, которое его беспокоит, но оно является "самым способным". Амодеи также опасается, что ИИ может способствовать биологическим атакам, а не только киберугрозам, и считает, что модели с открытым весом более опасны в этих сценариях, поскольку к ним трудно применить защитные механизмы или отслеживать их использование.

Ссылаясь на отчет Института безопасности ИИ Великобритании, он указал, что модели с открытым весом после выпуска нельзя отозвать, что противоречит аргументам сторонников открытого кода о доступе к мощным моделям для защиты. Амодеи перечислил действия, которые, по его мнению, могут помешать Китаю: ограничение доступа к мощным чипам (давняя политика США) и официальная борьба с дистилляцией. США пригрозили санкциями, если будет обнаружена кража интеллектуальной собственности. Он также поддержал усилия по созданию организации для тестирования безопасности моделей, особенно если к ней присоединится весь мир, включая Китай. "Чтобы быть эффективным, тестирование должно быть глобальным, а это означает, что даже КПК должна присоединиться. Я думаю, это действительно возможно... ограниченное сотрудничество в предотвращении биологического оружия ИИ может быть возможным, поскольку это也在 интересах Китая", — написал Амодеи.