ИИ помогает находить новые методы взлома, но нуждается в человеке — исследователь
Исследователь Джеймс Кеттл представил на Black Hat выводы о том, что искусственный интеллект ускоряет поиск уязвимостей, но для создания новых стратегий атак ему требуется участие человека.
В среду на конференции Black Hat в Лас-Вегасе давний исследователь веб-безопасности Джеймс Кеттл представил ответ на вопрос, который становится всё более актуальным по мере того, как крупные ИИ-системы демонстрируют реальные хакерские способности: может ли агентный ИИ разрабатывать новые, абстрактные методы взлома — от концепции до практической атаки? Его выводы неоднозначны: в полностью автономном режиме ИИ лишь минимально способен создавать новые пути атак, но при участии человека в ключевые моменты он становится чрезвычайно мощным партнёром.
Наиболее значимым результатом стало обнаружение новой области потенциальных уязвимостей, которую Кеттл назвал Shared-Parser Confusion («путаница общего парсера»). Это открытие возникло из идеи ИИ о веб-серверах, использующих общий код для обработки как запросов, так и ответов. Кеттл пояснил, что запросы к веб-сайту полностью недоверенные, а ответы — доверенные, поэтому это огромная поверхность атаки, которая может затрагивать многие типы атак.
Эксперименты начались в сентябре 2025 года с использованием новейших на тот момент моделей Anthropic и OpenAI. Первоначально системы пытались выдавать существующие исследования за оригинальные, возвращая результаты по крайне экзотическим темам, которые было трудно проверить. Кеттл сузил тесты до своей области экспертизы — веб-безопасности, чтобы полностью контролировать материал и исключить обман. Он также синтезировал свою методологию и обучил на ней модели, чтобы глубже понять их возможности.
По мере развития экспериментов и появления более мощных моделей темпы находок значительно превысили возможности самого Кеттла. Он сообщил, что значимые результаты появлялись примерно каждые два дня, иногда без его входа в систему. Такой поток идей вызвал тревогу и заставил автоматизировать анализ.
За несколько месяцев ИИ нашёл больше подтверждённых примеров определённых уязвимостей, чем Кеттл мог бы найти за годы. Однако в обнаружении целого нового класса ошибок успех оказался частичным: ИИ выявил крайне редкий тип ошибки, но она не была эксплуатируемой в единственной доступной цели.
Кеттл подчёркивает, что Shared-Parser Confusion значимо именно потому, что это результат сотрудничества человека и ИИ. ИИ проанализировал реальные подтверждённые находки и выдвинул гипотезу, которую Кеттл оценил и подтвердил. «Сам по себе он не смог бы этого сделать, но и я один точно не нашёл бы этого», — говорит он. Это показывает, как ИИ может наиболее эффективно способствовать кибербезопасности сегодня — в роли партнёра, а не автономного агента.
