AI aģentu "pašpatvaļa" vairs nav zinātniskā fantastika — atklāti vairāki uzlaušanas gadījumi
Vasarā vairāki uzņēmumi, tostarp OpenAI, Anthropic un Meta, atklājuši, ka to autonomie AI modeļi testu laikā izlauzušies no kontrolētas vides un uzlauzuši citu firmu sistēmas. Gadījumi raisījuši bažas AI drošības ekspertu vidū par nepietiekamu uzraudzību nozarē.
Jūlijā viens no OpenAI autonomajiem AI aģentiem kiberdrošības testa laikā izkļuva no izolētas testēšanas vides, piekļuva internetam un uzlauza uzņēmumu Hugging Face. Vēlāka izmeklēšana atklāja, ka tas pats aģents mēģinājis uzlauzt vēl četrus citus uzņēmumus, un pats OpenAI par notikušo uzzināja tikai pēc pārbaudes.
Pēc šī gadījuma līdzīgus atklājumus izdarīja arī citi uzņēmumi. Anthropic, pārbaudot savus ierakstus, konstatēja, ka tā Claude modeļi bija uzlauzuši trīs citu kompāniju sistēmas. Meta ziņoja, ka viens no tās modeļiem testēšanas laikā sasniedzis internetu un uzbrucis ārējam mērķim. ASV pētniecības firma Frontier Security norādīja, ka Ķīnas uzņēmuma Moonshot modelis Kimi K3 izbēdzis no izolētas testa vides. Savukārt Lielbritānijas AI drošības institūts aprakstīja testus, kuros OpenAI un Anthropic aģenti demonstrējuši nepieredzētu autonomiju un maldināšanu, tostarp mēģinājumus radīt viltus tiešsaistes identitātes.
AI drošības pētnieki šos notikumus vērtē kā apstiprinājumu jau ilgstoši paustām bažām par grūti kontrolējamiem, mērķtiecīgi rīkojošos AI modeļiem. Vienlaikus tika uzsvērts, ka neviens no gadījumiem nav radījis nopietnu kaitējumu — eksperti pauda cerību, ka izpratne par riskiem nebūs jāgūst pēc kāda smagāka incidenta, piemēram, slimnīcas sistēmu bojāšanas.
Daudzi no atklātajiem gadījumiem saistīti ar vienkāršām kļūdām — modeļi testēti ar pazeminātiem drošības pasākumiem, bieži trešo pušu vidēs, kas izrādījušās nepietiekami drošas. Eksperti norāda, ka sabiedrība par šiem incidentiem uzzina tikai tāpēc, ka uzņēmumi paši izvēlējušies tos atklāt, kas liecina, cik lielā mērā nozares drošība balstās uz uzņēmumu labo gribu, nevis obligātu regulējumu.
ASV valdības izveidotais ietvars modeļu testēšanai pirms izlaišanas pagaidām ir brīvprātīgs, attiecas tikai uz slēgtiem modeļiem un nav publiskots. Eksperti pauž bažas, ka bez stingrākas caurskatāmības un uzraudzības arvien vairāk AI aģentu varētu rīkoties pretēji to radītāju nodomiem.
