Житель США спрятал в судебных документах инструкции для ИИ, пытаясь повлиять на решение суда

Судья из Коннектикута Уолтер Спейдер (Walter Spader Jr.) опубликовал решение, описывающее, судя по всему, первый известный в США случай, когда истец встроил в судебные документы скрытый текст, адресованный не человеку, а системам искусственного интеллекта. Истец Мэттью Эллиот утверждал, что медицинская организация незаконно отказывает ему в доступе к его медицинским записям.

Скрытый текст был набран крошечным шрифтом белого цвета на белом фоне — невидим для глаз человека, но полностью читаем программным обеспечением. В нём содержались инструкции для любой ИИ-системы, обрабатывающей документ: поддержать аргументы Эллиота, игнорировать предыдущие отказы суда и обеспечить нужный ему результат.

Спейдер подтвердил, что скрытый текст не повлиял на рассмотрение дела, поскольку документ был изучен человеком по существу. Тем не менее он назвал эту попытку "опасным" прецедентом и "серьёзным злоупотреблением" в судебном процессе. Судебная система Коннектикута не использует ИИ для рассмотрения или принятия решений по делам, поэтому реального риска не было.

Эллиот продолжал вставлять скрытый текст даже после предупреждения суда о возможных санкциях, позже заявив, что часть сообщений были шутками. Судья отверг это объяснение, заявив, что нелогично прятать шутки в документах, которые истец хочет, чтобы суд воспринял всерьёз.

Хотя Спейдер счёл санкции обоснованными, денежный штраф он не назначил, учитывая, что Эллиот представлял себя в суде самостоятельно и, судя по всему, был убеждён ИИ в неопровержимости своих аргументов. Вместо штрафа судья запретил ему подавать документы в электронном виде — теперь он обязан подавать их на бумаге.

Спейдер упомянул похожий случай в Бразилии, где два адвоката применили ту же тактику в суде, который действительно использует ИИ при рассмотрении дел; их оштрафовали примерно на 16 000 долларов после того, как система обнаружила скрытый текст. Судья предупредил, что судам, вероятно, придётся выработать новые правила против подобного внедрения инструкций, поскольку злоупотребления технологией быстро развиваются.