Детекторы ИИ-текста порождают новую волну необоснованных обвинений
Инструменты для выявления текста, написанного искусственным интеллектом, которые активно используют учителя и читатели, всё чаще приводят к ложным обвинениям людей, писавших свои работы самостоятельно. Ряд университетов и платформ уже отказываются от таких инструментов из-за их ненадёжности.
С ростом популярности ChatGPT и подобных инструментов школы и издательства стали быстро внедрять так называемые детекторы ИИ — программы, которые с помощью собственных моделей пытаются определить, написан ли текст человеком или машиной. Опрос Center for Democracy and Technology показал, что около 43 процентов американских учителей средних и старших классов регулярно пользовались такими детекторами в 2024–2025 годах.
В отличие от систем проверки на плагиат, которые сравнивают текст с существующими базами данных, детекторы вроде GPTZero, Pangram и инструмента Turnitin анализируют формулировки, ритм и структуру текста, пытаясь выявить признаки, якобы характерные для ИИ. Такой подход намного субъективнее прямого сопоставления текстов и может ошибочно помечать тексты людей, для которых английский не родной язык.
Реальные последствия
Несколько случаев уже привели к серьёзным последствиям. Издательство Minotaur в прошлом месяце расторгло контракт на книгу стоимостью 2 миллиона долларов с автором Джерри Фаладе из-за подозрений в использовании ИИ, которые он отрицает. Гражданин Франции Тьерри Риньоль подал в суд на Йельский университет после того, как профессор с помощью GPTZero обвинил его в использовании ИИ на финальном экзамене, из-за чего студент получил неудовлетворительную оценку и годовое отстранение. Отдельно студент университета Адельфи в феврале выиграл иск против вуза после схожего обвинения.
Исследование Стэнфордского университета 2023 года показало, что детекторы ИИ чаще ошибочно помечают тексты авторов, для которых английский не родной, как написанные искусственным интеллектом. Под несправедливые обвинения могут попадать и нейроотличные авторы. Даже сами разработчики инструментов, включая Turnitin и GPTZero, признают, что результаты не всегда точны и не должны быть единственным основанием для дисциплинарных мер. OpenAI закрыла собственный детектор в 2023 году из-за низкой точности.
Университеты отказываются от практики
Йельский, Джонса Хопкинса, Вандербильта и Джорджтауна уже ограничили или полностью отказались от использования детекторов ИИ. Массачусетский технологический институт (MIT) прямо предупреждает, что такие инструменты работают ненадёжно. Вместо этого учебные заведения советуют пересматривать формат заданий — разбивать работы на этапы или разрешать студентам открыто указывать на использование ИИ без наказания.
Тем временем такие платформы, как Substack и LinkedIn, встраивают функции распознавания ИИ прямо в свои продукты, что ещё больше усиливает взаимное недоверие между читателями и авторами.
