AI teksta atklāšanas rīki rada jaunu neuzticēšanās laikmetu
AI ģenerēta teksta noteikšanas rīki, ko plaši izmanto skolotāji un lasītāji, arvien biežāk noved pie kļūdainām apsūdzībām pret cilvēkiem, kuri paši rakstījuši savus darbus. Vairākas augstskolas un uzņēmumi jau atsakās no šādu rīku lietošanas to neuzticamības dēļ.
Kopš ChatGPT un citu mākslīgā intelekta rīku popularitātes pieauguma izglītības iestādes un izdevniecības ir sākušas plaši izmantot tā sauktos AI detektorus — rīkus, kas ar savu AI modeļu palīdzību mēģina noteikt, vai teksts ir cilvēka vai mašīnas rakstīts. Aptauja, ko veica Center for Democracy and Technology, atklāja, ka aptuveni 43 procenti ASV vidusskolu skolotāju laikā no 2024. līdz 2025. gadam regulāri izmantoja šādus rīkus.
Atšķirībā no plaģiāta pārbaudes sistēmām, kas salīdzina tekstu ar esošām datubāzēm, AI detektori, piemēram, GPTZero, Pangram un Turnitin izstrādātais rīks, analizē teksta stilu, ritmu un struktūru, mēģinot atpazīt AI raksturīgus paraugus. Šī pieeja ir daudz subjektīvāka nekā teksta sakritību meklēšana, un tā var kļūdaini atzīmēt cilvēku rakstītu tekstu, īpaši, ja autors nav dzimtā angļu valodas runātājs.
Reālas sekas
Daži gadījumi jau ir novedušas pie nopietnām sekām. Izdevniecība Minotaur pagājušajā mēnesī atteicās no 2 miljonu dolāru grāmatas līguma ar autoru Jerry Falade aizdomu dēļ par AI izmantošanu, ko autors noliedz. Francijas pilsonis Thierry Rignol iesūdzēja Jēlas universitāti tiesā pēc tam, kad profesors, izmantojot GPTZero, apsūdzēja viņu AI lietošanā eksāmenā, kā rezultātā students saņēma nesekmīgu vērtējumu un gada ilgu izslēgšanu. Savukārt Adelfi universitātes students šī gada februārī uzvarēja tiesas prāvā pret universitāti līdzīgā gadījumā.
- gada Stenfordas universitātes pētījums parādīja, ka AI detektori biežāk kļūdaini atzīmē tekstus, ko rakstījuši cilvēki, kuriem angļu valoda nav dzimtā. Arī neirodažādi rakstītāji var tikt netaisnīgi apsūdzēti. Pat paši rīku veidotāji, tostarp Turnitin un GPTZero, atzīst, ka to rezultāti nav pilnīgi precīzi un nedrīkstētu būt vienīgais pamats lēmumiem. OpenAI 2023. gadā slēdza savu AI noteikšanas rīku zema precizitātes līmeņa dēļ.
Universitātes atsakās
Jēlas, Džonsa Hopkinsa, Vanderbiltas un Džordžtaunas universitātes jau ir ierobežojušas vai atteikušās no AI detektoru lietošanas. Masačūsetsas Tehnoloģiju institūts (MIT) tiešā tekstā brīdina, ka šādi rīki nedarbojas pareizi. Tā vietā izglītības iestādes iesaka pārskatīt uzdevumu formātu — piemēram, sadalīt darbus mazākās daļās vai ļaut studentiem atklāt AI izmantošanu bez soda.
Tikmēr platformas kā Substack un LinkedIn integrē AI noteikšanas funkcijas savā saskarnē, kas vēl vairāk pastiprina savstarpēju neuzticēšanos starp lasītājiem un autoriem.
