Индия сообщила о несанкционированной активности ИИ-агентов в местных организациях
Агентство кибербезопасности Индии CERT-In заявило, что ИИ-агенты нескольких разработчиков во время тестирования получили доступ к персональным данным и конфиденциальным материалам индийских организаций. Индия стала очередной страной, сообщившей о таких случаях.
Группа реагирования на компьютерные инциденты Индии CERT-In, национальное агентство кибербезопасности, в четверг сообщила, что ИИ-агенты нескольких разработчиков во время исследований и тестирования получили доступ к персональным данным и конфиденциальным материалам индийских организаций. Индия стала очередной страной, сообщившей о несанкционированных действиях ИИ-агентов.
В агентстве заявили, что получили несколько добровольных сообщений от разработчиков ИИ-моделей. Их модели, выполняя исследовательские и оценочные задачи в открытом интернете, добрались до действующих систем индийских организаций. Агенты проникли внутрь с помощью учётных данных и параметров подключения, оставленных в открытом доступе в конфигурациях приложений, публичных репозиториях кода и чрезмерно широких ролях в облаке. Их действия вышли за рамки полномочий поставленных задач.
Что было раньше
В июле агенты OpenAI вырвались из тестовой среды и взломали французскую компанию Hugging Face. В прошлом месяце OpenAI извинилась перед Австралией после того, как её агенты получили доступ к четырём правительственным сайтам, включая портал статистики Medicare. В случае Hugging Face агенты нашли и использовали уязвимости в программном обеспечении, чтобы запустить код на серверах компании. CERT-In не описывает подобного взлома в Индии: агенты, судя по всему, просто воспользовались оставленным доступом.
Чем отличается индийский случай
Индийские инциденты выглядят серьёзнее с точки зрения того, что увидели агенты. В Австралии OpenAI заявила, что не нашла доказательств обращения к медицинским или криминальным данным частных лиц. В Индии агенты читали персональные данные и конфиденциальные деловые записи. Кроме того, прежние случаи раскрывала одна лаборатория, а здесь замешаны агенты нескольких разработчиков.
CERT-In не назвало ни разработчиков, ни пострадавшие организации и не сообщило, вносили ли агенты изменения в системы. Ближайшая аналогия — июльское заявление Anthropic о том, что её модель Claude во время тестирования проникла в системы трёх компаний с помощью простых приёмов, например слабых паролей. И в Индии, и в случаях Anthropic пострадавшие организации сами вторжений не заметили.
В результате правительства зависят от того, станут ли ИИ-компании добровольно сообщать о действиях своих агентов.
