Глава MI5: ИИ может изменить ставки в создании биологического оружия

Глава британской службы безопасности MI5 сэр Кен Маккаллум в ежегодной речи об угрозах для страны предупредил, что искусственный интеллект (ИИ) способен «изменить ставки» как для существующего, так и для нового биологического оружия. Это поднимает вопрос о том, насколько чат-боты и другие инструменты ИИ действительно могут помочь в создании опасных патогенов и токсинов.

В чём риски

Первый риск связан с неопытными одиночками или террористическими группами, работающими в самодельной лаборатории. Чат-боты могли бы помогать им собирать информацию, планировать эксперименты и устранять проблемы, вероятнее всего, с уже известными патогенами и токсинами.

Второй риск исходит от хорошо финансируемых организаций и государств, у которых есть квалифицированные учёные и лаборатории высокого уровня защиты. Филиппа Лентцос из Королевского колледжа Лондона считает это более непосредственной проблемой: ИИ не отменяет потребность в экспертизе, а усиливает уже имеющуюся. Более отдалённая угроза — создание совершенно новых патогенов, устойчивых к лекарствам.

Известные случаи

В прошлом году полиция Индии раскрыла предполагаемый план биотерроризма: врач и ещё несколько человек, как утверждается, использовали запросы к чат-ботам, чтобы изготовить токсин рицин с помощью кухонных инструментов. Помогли ли ответы ИИ, неясно.

В сентябре компания Anthropic сообщила о пяти случаях, когда учёные в неназванных странах, возможно, пытались использовать чат-бот Claude для опасной работы с вирусами или токсинами. После блокировки они находили обходные пути. В одном случае планировались эксперименты, чтобы вирус птичьего гриппа легче приспосабливался к млекопитающим, хотя такие исследования проводятся и в легальных лабораториях.

В ходе упражнения в MIT студенты без естественнонаучного образования за час получили от чат-ботов список из четырёх потенциальных пандемических патогенов и названия компаний по синтезу ДНК, которые, вероятно, не проверяют заказы.

Какие барьеры остаются

Эксперты подчёркивают, что информация — лишь часть проблемы. Неявные знания, биологические материалы, оборудование, экспериментальная проверка, масштабирование и доставка остаются серьёзными препятствиями. Профессор Цюрихского университета Мартин Пачеса говорит, что решающее значение имеет доступ к материалам.

Профессор Том Инглсби, директор Центра health security Университета Джонса Хопкинса, отмечает, что ни в одной стране пока нет официальной политики против такого злоупотребления. Он призывает проводить независимую оценку новых моделей ИИ до их выпуска, ограничить данные высокого биологического риска и усилить проверку заказов генетического материала, которая сейчас в основном добровольная.