OpenAI ES ieviesīs neredzamu ūdenszīmi ChatGPT un Codex tekstiem
OpenAI sāks pievienot neredzamu ūdenszīmi ChatGPT un Codex ģenerētajam tekstam Eiropas Savienībā, lai izpildītu ES AI akta prasības. Metode maina vārdu izvēles modeli tā, lai to varētu atpazīt speciāls detektors, taču rediģēts teksts var paslīdēt garām pārbaudei.
OpenAI pirmdien paziņoja, ka tuvāko nedēļu laikā ChatGPT un Codex lietotājiem Eiropas Savienībā visos tarifu plānos tiks ieviesta neredzama ūdenszīme ģenerētajam tekstam. Solis ir atbilde uz ES AI akta pārredzamības prasībām, kas stājās spēkā 2. augustā un nosaka, ka AI uzņēmumiem jāiezīmē mašīnģenerēts saturs tā, lai citas sistēmas to varētu atpazīt.
Pēc kompānijas teiktā, ūdenszīme nav redzama atzīme vai simbols — tā veidojas, nedaudz pārveidojot modeļa vārdu izvēles principu, radot rakstā modeli, ko cilvēks nepamana, bet ko var konstatēt speciāls detektors. Tā kā modelis ir ierakstīts pašos vārdos, tas paliek tekstā arī pēc kopēšanas un ielīmēšanas citur.
Funkcija ārpus ES būs pieejama izstrādātājiem, kas izmanto OpenAI API jebkurā pasaules vietā — sākot no pirmdienas viņi varēs to ieslēgt izvēlētiem modeļiem, taču pēc noklusējuma tā būs izslēgta un globāli netiks iestatīta kā standarts.
Metode un ierobežojumi
Līdzās paziņojumam OpenAI publicēja tehnisko pārskatu par metodi ar nosaukumu textGrain, ko kopā ar kompāniju rakstījuši Pensilvānijas un Jēlas universitāšu pētnieki. Metode izmanto slepenu atslēgu, lai sakārtotu nākamā vārda prognozes, un, saskaitot kopā simtiem šādu nelielu nobīžu, detektors ar teksta un atslēgas palīdzību var identificēt AI ģenerēto satu.
OpenAI atzīst, ka ūdenszīmi var noņemt ar rediģēšanu — testos, nomainot 10% vārdu ar sinonīmiem, atklāšanas precizitāte kritās no aptuveni 92% līdz 66%. Grūtāk atklājami ir arī īsi teksta fragmenti, matemātikas atbildes un tulkoti teksti. Tieši šo ierobežojumu dēļ kompānija pašlaik piekļuvi detektoram piešķir vien apstiprinātiem pētniekiem un ekspertu organizācijām. OpenAI arī brīdina, ka ūdenszīmes trūkums nepierāda teksta cilvēcisko izcelsmi, jo tas var būt pārāk īss, intensīvi redigēts vai radīts ar cita uzņēmuma AI rīku.
Paziņojums seko divus mēnešus pēc tam, kad Anthropic ieviesa līdzīgu ūdenszīmi savam Claude modelim visā pasaulē, izraisot daļas lietotāju kritiku. Pēc Wall Street Journal ziņām, OpenAI šādu tehnoloģiju bija izveidojusi jau agrāk, bet atturējās to publiskot, baidoties, ka lietotāji pārietu uz konkurentiem, kas ūdenszīmes nelieto. Anthropic, Google, Meta, Microsoft un OpenAI ir starp uzņēmumiem, kas apņēmušies ievērot ES rīcības kodeksu par AI ģenerētu saturu.
