OpenAI будет по умолчанию помечать тексты ChatGPT водяным знаком в ЕС
OpenAI автоматически добавит водяной знак к текстам, созданным ChatGPT, в Европейском союзе, чтобы соответствовать требованиям Акта ЕС об ИИ. В других регионах функция будет доступна, но по умолчанию отключена.
Компания OpenAI объявила, что начнёт автоматически маркировать водяным знаком тексты, созданные с помощью ChatGPT, в Европейском союзе. За пределами ЕС эта опция тоже появится, но пользователю придётся включать её самостоятельно.
Причина — европейский закон
Решение связано с необходимостью соблюдать Акт ЕС об искусственном интеллекте, вступивший в силу в августе. Он требует маркировать контент, созданный моделями ИИ, так, чтобы его мог распознать другой инструмент.
При этом полностью эффективного и надёжного способа сделать это пока нет. Уже существуют отдельные стандарты, например SynthID и проект C2PA, но человек с базовыми знаниями может достаточно легко их обойти. Скорее всего, то же справедливо и для решения OpenAI.
Как работает textGrain
Метод OpenAI является закрытым, компания называет его textGrain и опубликовала техническую статью с описанием принципа работы. В целом он напоминает другие инструменты водяных знаков для языковых моделей: в выбор слов закладываются закономерности, которые читатель не замечает и которые существенно не ухудшают качество результата. Однако обладатель ключа может обнаружить их с помощью специального детектора.
Доступ к детектору
OpenAI сообщает, что предоставит доступ к детектору ограниченному числу исследователей и организаций. Другие желающие смогут быть добавлены со временем через процедуру запроса и одобрения.
