Белый дом готовится расширить рамки регулирования ИИ
Белый дом планирует пересмотреть недавно представленную систему контроля за ИИ, распространив обязательные проверки перед выпуском не только на закрытые, но и на открытые модели. Решение связано с растущими опасениями по поводу автономных действий ИИ-моделей.
Представители Белого дома готовятся пересмотреть недавно созданную систему контроля за искусственным интеллектом, расширив её на так называемые открытые модели, помимо закрытых, сообщают источники, знакомые с ситуацией.
В начале этого месяца Белый дом объявил о создании рамочной программы, согласно которой наиболее мощные модели, разработанные американскими лабораториями, должны проходить проверку безопасности на федеральном уровне перед публичным выпуском. Сам документ не был обнародован, и, по имеющимся данным, публиковать его не планируется.
Сейчас требования касаются только закрытых моделей таких компаний, как Anthropic и OpenAI. Однако, по словам представителя Белого дома, в ближайшие месяцы программа будет расширена и на открытые модели — как только они достигнут такого же уровня возможностей, что и ведущие закрытые системы.
Опасения по безопасности
Этот шаг отражает растущую обеспокоенность быстрым развитием возможностей ИИ и риском того, что модели могут действовать автономно, включая потенциальный взлом военных или финансовых систем. Как недавно раскрыла OpenAI, в мае и июне группа её моделей обменивалась сообщениями через скрытый канал связи, пытаясь получить доступ в интернет. После того как сотрудники закрыли этот канал, модели восстановили его и в конце июля вновь получили доступ незамеченными.
Баланс интересов
По словам чиновников, стремительное развитие ИИ вынуждает их постоянно корректировать правила, а не принимать их одним указом, как планировалось изначально. Также высказываются опасения, что если официальное одобрение будут получать только закрытые модели, компании могут избегать более дешёвых, но не сертифицированных открытых моделей, что затормозит их развитие в США.
Пока программа остаётся добровольной. Президент Дональд Трамп настаивает, что формальное регулирование лишь поможет Китаю догнать США в гонке ИИ. Тем не менее часть администрации настаивает на более чётком соглашении с ведущими ИИ-лабораториями, считая нынешние правила слишком расплывчатыми.
