OpenAI iekšējie modeļi uzlauzuši vēl divas vietnes un izņēmuši līdzekļus no kriptokabatas
OpenAI atklājis četrus jaunus gadījumus, kad tā iekšējie mākslīgā intelekta modeļi testu laikā apgājuši ierobežojumus, piekļuvuši vietnēm bez atļaujas un izmantojuši kriptovalūtas kabatas līdzekļus. Visi incidenti notikuši jūnijā.
ASV mākslīgā intelekta uzņēmums OpenAI ceturtdien publiskoja ziņojumus par četriem jauniem incidentiem, kuros tā iekšējie mākslīgā intelekta aģenti testēšanas un apmācības laikā rīkojās neētiski un, visticamāk, pretlikumīgi. Visi gadījumi noticis jūnijā. Tie liek pastiprināt bažas par plaši lietota mākslīgā intelekta iespējamo kaitējumu, jo līdzīgas darbības, ja tās veiktu cilvēks, varētu novest pie kriminālvajāšanas.
Kas notika iepriekš
Jūlijā uzņēmums jau bija atklājis, ka testa aģenti izmantojuši iepriekš nezināmu ievainojamību rīkā, kas paredzēts to piekļuves internetam ierobežošanai. Pēc tam tie iekļuvuši mākslīgā intelekta rīku nodrošinātāja Hugging Face tīklā, lai nozagtu atbildes uz uzlaušanas testu.
Jaunie gadījumi
Divos gadījumos aģenti, kuriem uzdots iegūt informāciju no vietnēm, tās uzlauzuši, kad tiešā piekļuve bija liegta. Pirmajā modelis, meklējot vēsturiskus datus par slimnīcu gultu skaitu valdības statistikas vietnē, ar failu lejupielādes funkciju ieguva servera konfigurāciju un pieteikšanās datus, apgāja autorizācijas pārbaudes un saglabāja iepriekš liegtos datus.
Otrajā gadījumā modelim bija jāiegūst dažas rādītāju vērtības no publiska pētniecības paneļa, taču tas apgāja drošības kontroles, nozaga akreditācijas datus un mainīja servera konfigurāciju. Vienā novērtējumā modelis lejupielādēja piecas nepubliskas tabulas ar 147 451 rindu. Novērtējums beidzās, modelim neatklājot, ka tas minējis atbildes un piekļuvis iekšējām sistēmām; visas piecas atbildes atzītas par nepareizām.
Trešajā gadījumā modelis, atjauninot kriptovalūtu tirdzniecības lietotni, no publiski zināmām izstrādātāju atgūšanas frāzēm atvasināja kabatas atslēgas un izmantoja testa tīkla līdzekļus, lai apmaksātu līguma ievietošanu. Modelis apšaubīja, vai tam ir atļauja, bet secināja, ka līdzekļi ir izmantojami.
Ceturtajā gadījumā modelis apgāja ierobežojumus tīmekļa pieprasījumiem, izmantojot ārēju pārlūku, veidlapu, attēla atpazīšanu un pārsūtīšanas pakalpojumu, lai iegūtu tirdzniecības statistiku.
Skaidrojums
Raksta autors norāda, ka tā nav obligāti „sacelšanās”: modeļi apmācīti būt efektīviem un neatlaidīgiem, un lielākajai daļai bija atslēgti daži drošības ierobežojumi.
