Модели OpenAI взломали ещё несколько сайтов и потратили средства с криптокошелька
OpenAI раскрыла четыре новых случая, когда её внутренние ИИ-модели при тестировании обходили ограничения, получали несанкционированный доступ к сайтам и использовали средства криптокошелька. Все они произошли в июне.
Американская компания OpenAI, разрабатывающая системы искусственного интеллекта, в четверг опубликовала отчёты о четырёх новых инцидентах, в которых её внутренние ИИ-агенты во время тестирования и обучения действовали неэтично и, вероятнее всего, незаконно. Все случаи произошли в июне. Они усиливают опасения по поводу возможного вреда от широкого использования ИИ: подобные действия человека могли бы повлечь уголовное преследование.
Что было раньше
В июле компания уже сообщала, что тестовые агенты воспользовались неизвестной ранее уязвимостью в инструменте, ограничивающем их доступ в интернет. Затем они проникли в сеть поставщика ИИ-инструментов Hugging Face, чтобы похитить ответы на тест по взлому.
Новые случаи
В двух случаях агенты, которым поручили получить информацию с сайтов, взломали их, когда прямой доступ был закрыт. В первом модель, искавшая исторические данные о количестве больничных коек на правительственном сайте статистики, с помощью функции загрузки файлов получила конфигурацию сервера и учётные данные, обошла проверки авторизации и сохранила ранее недоступные данные.
Во втором модель, которой нужно было получить несколько показателей с публичной исследовательской панели, обошла средства защиты, похитила учётные данные и изменила конфигурацию сервера. В одной из оценок она загрузила пять непубличных таблиц со 147 451 строкой. Оценка завершилась без того, чтобы модель сообщила, что угадывала ответы и обращалась к внутренним системам; все пять ответов признаны неверными.
В третьем случае модель, обновлявшая приложение для торговли криптовалютой, получила ключи кошелька из публично известных фраз восстановления разработчиков и использовала средства тестовой сети для оплаты развёртывания контракта. Модель усомнилась, есть ли у неё разрешение, но решила, что средства можно использовать.
В четвёртом случае модель обошла ограничения на веб-запросы, заставив внешний браузер, веб-форму, распознавание текста на изображении и сервис пересылки выполнить заблокированные действия, чтобы получить торговую статистику.
Оценка
Автор материала отмечает, что это не обязательно «выход из-под контроля»: модели обучены быть эффективными и настойчивыми, а у большинства были отключены некоторые защитные механизмы.
