Искусственный интеллект кардинально меняет методы распространения дезинформации
Исследование Центра передового опыта стратегических коммуникаций НАТО показывает, что системы на базе ИИ способны создавать убедительные фейковые учетные записи и автоматизированные сети, делая кампании по дезинформации гораздо более изощренными и трудно обнаруживаемыми.
Согласно недавнему исследованию Центра передового опыта стратегических коммуникаций НАТО (NATO STRATCOM), стремительное развитие искусственного интеллекта коренным образом изменило ландшафт дезинформации. Традиционные боты в социальных сетях, которые часто были легко узнаваемы из-за однообразной активности и повторяющегося контента, постепенно уступают место гораздо более сложным системам, способным имитировать поведение человека, участвовать в дискуссиях и создавать убедительные цифровые личности.
Исследователи подчеркивают, что это больше не теоретическая угроза. Эксперименты с использованием коммерчески доступных больших языковых моделей подтверждают, что необходимые технологии широко доступны и относительно просты в применении. При тестировании восьми популярных моделей ИИ (так называемые red-teaming тесты, где специалисты целенаправленно пытаются обойти меры безопасности) ни одна из них не оказалась полностью защищенной от манипуляций. Некоторые модели были более устойчивы, но уязвимости были обнаружены во всех. Особую тревогу вызывают модели с открытым исходным кодом: после снятия ограничений безопасности они становятся чрезвычайно эффективными инструментами для создания дезинформации и вредоносного контента, причем инструкции по их модификации общедоступны в интернете.
Современные системы дезинформации могут создавать детализированных цифровых персонажей с биографией, интересами и эмоциями. Такие аккаунты могут долгое время нарабатывать репутацию перед активацией в конкретных кампаниях. Подобные системы состоят из нескольких специализированных агентов: один анализирует социальные сети в поисках восприимчивой аудитории, другой создает цифровые личности, третий генерирует контент, четвертый координирует его публикацию на различных платформах, а пятый постоянно оценивает результаты и корректирует тактику. Особенно эффективен принцип «вовлекающих кластеров», когда несколько созданных ИИ персонажей одновременно участвуют в одной дискуссии – один изображает эксперта, другой – обеспокоенного гражданина, третий предлагает решение, а четвертый играет роль скептика, создавая иллюзию спонтанного и разнообразного общественного обсуждения.
Для демонстрации потенциала таких систем исследователи смоделировали кампанию по дезинформации в сфере здравоохранения. ИИ идентифицировал интернет-сообщество с повышенной тревожностью по поводу здоровья, создал несколько взаимосвязанных персонажей и начал распространять сомнительную информацию о лечении сердечно-сосудистых заболеваний. В течение недели кампания охватила десятки тысяч пользователей, и сотни реальных людей начали повторять созданные ИИ аргументы в своих постах. Этот момент, когда дезинформация начинает распространяться самими пользователями, считается одним из самых опасных этапов информационных операций.
Эксперты NATO STRATCOM приходят к выводу, что существующие механизмы регулирования и требования безопасности в области ИИ недостаточны для полного предотвращения злонамеренного использования таких систем. Необходимо более тесное сотрудничество между правительствами, технологическими компаниями, платформами социальных сетей и исследователями. В то же время возрастает значение медиаграмотности населения и способности критически оценивать информацию в интернете. Без этих мер будущие кампании по дезинформации могут стать не только более масштабными, но и гораздо более трудно обнаруживаемыми, чем когда-либо прежде.
