Сообщество фанфиков воюет с ИИ — и с собой
Новый инструмент для выявления написанных ИИ фанфиков вызвал споры из-за сомнительной надёжности и риска ложных обвинений.
За последнюю неделю в сообществе фан-произведений началось движение, направленное на выявление авторов, использующих генеративный ИИ. Однако применяемые методы обнаружения сомнительны, и любой автор фанфиков может оказаться под ударом.
29 июня анонимный аккаунт X @heatedrivalryai опубликовал так называемый «скин» (аналог расширения) для популярного репозитория фанфиков Archive of Our Own (AO3), который якобы обнаруживает артефакты кода, оставленные ботом Claude от Anthropic. Когда текст вставляется напрямую из Claude в редактор AO3, он обёрнут элементом кода «font-claude-response-body», что указывает на использование Claude. Скин окрашивает всю страницу в красный цвет при обнаружении такого кода.
Тесты подтвердили, что инструмент работает, так как красный фон появлялся при прямой вставке текста из Claude. Однако он не обнаруживает текст, предварительно обработанный в Google Docs или Word — это означает, что многие работы могут остаться незамеченными. Кроме того, инструмент не показывает, насколько активно использовался Claude: работа может быть полностью сгенерирована ИИ или лишь проверена на орфографию.
Создатель инструмента заявил, что его цель — не создавать недоверие, но сообщества фанфиков быстро начали публично называть и позорить авторов, чьи работы были помечены. Многие члены сообщества считают любое использование ИИ непростительным предательством, ссылаясь на воздействие на окружающую среду и практику сбора данных.
Универсального решения для обнаружения ИИ не существует — компании Google и OpenAI не ответили, оставляют ли их модели отслеживаемые следы. В настоящее время наиболее эффективным способом является встроенная система тегов AO3, с помощью которой авторы могут добровольно указывать, что работа создана с помощью ИИ. Однако честность не стимулируется из-за общественного осуждения.
Эта борьба с ИИ рискует превратиться в охоту на ведьм, жертвами которой могут стать невинные авторы — например, если редактор использовал Claude для правки текста. Поэтому, если следующий прочитанный вами фанфик покажется роботизированным, помните, что это может быть не продуктом робота.
