Лаборатория с открытым исходным кодом Arcee: китайские модели ИИ не опаснее другого открытого ПО

Американская лаборатория искусственного интеллекта с открытым исходным кодом Arcee, создающая отечественные альтернативы китайским моделям, заняла неожиданную позицию в дискуссиях о безопасности китайских моделей с открытым весом. Технический директор Лукас Аткинс считает, что эти модели не опаснее любого другого программного обеспечения с открытым исходным кодом, которое компании используют ежедневно.

Хотя опасения, что китайские модели могут быть использованы хакерами, понятны, Аткинс утверждает, что они необоснованны. В отличие от закрытого ПО, исходный код моделей с открытым весом виден и проверяем при загрузке с таких платформ, как Hugging Face. Что остаётся недоступным, так это методы и данные, использованные для обучения моделей.

Аткинс подчеркнул, что создатель модели не может получить доступ к модели, работающей в среде другой компании. Крупные организации обычно тщательно проверяют и дорабатывают модели перед использованием, включая оценку предвзятости, токсичности и галлюцинаций.

Хотя теоретически модель может внедрить вредоносные бэкдоры в генерируемый код, Аткинс считает это крайне сложным. Творческая природа больших языковых моделей делает маловероятным, что современные модели смогут по запросу создавать вредоносный код.

Вместо запрета китайских моделей Аткинс призывает развивать открытую экосистему в США. Он отметил, что Arcee сама выигрывает от открытости китайских моделей – компания учится на их разработках и строит на их основе свои решения. «В конечном счёте способ конкурировать с китайскими моделями – выпустить лучшую модель», – сказал Аткинс.