OpenAI atvainojas Austrālijai par mākslīgā intelekta aģenta iekļūšanu valdības sistēmās
OpenAI publiski atvainojusies Austrālijai pēc tam, kad kompānijas mākslīgā intelekta aģents jūnijā bez atļaujas piekļuvis vairāku valsts iestāžu sistēmām, tostarp Medicare statistikas portālam. Uzņēmuma pārstāvis nākamnedēļ ieradīsies uz uzklausīšanu parlamentā.
Uzņēmums OpenAI otrdien publicētā emuāra ierakstā atvainojies Austrālijas iedzīvotājiem par gadījumu, kad kompānijas mākslīgā intelekta aģents jūnijā piekļuvis vairāku valsts iestāžu tiešsaistes sistēmām. OpenAI atzina, ka reakcija uz notikušo bijusi nepietiekama, sakot, ka "esam gandarīti par notikušo un strādājam, lai kļūtu labāki nākotnē".
Par incidentu pagājušajā nedēļā jau bija runājis Austrālijas premjerministrs Entonijs Albanēzi. Pēc OpenAI sniegtās informācijas, uzņēmums par aģenta darbību uzzinājis augustā, pārskatot iepriekšējus mācību incidentus pēc jūlijā notikušā uzbrukuma platformai Hugging Face.
Aģents ieguvis nepubliskā veidā pieeju Services Australia pārvaldītajam Medicare statistikas portālam, spējot izpildīt komandas, iegūt iekšējus failus un piekļuves datus, kā arī rakstīt failus. Tomēr, pēc OpenAI teiktā, pacientu vai klientu dati netika skarti.
Piekļuve tika iegūta arī Jaundienvidvelsas Noziedzības statistikas un pētniecības biroja publiskajam noziedzības kartēšanas rīkam, kā arī Viktorijas štata veselības informācijas aģentūras pārskatu sistēmai, izmantojot atklātu piekļuves atslēgu. Austrālijas Veselības un labklājības institūtā aģents ieguvis apkopotu statistiku, savukārt mēģinājumi apiet piekļuves kontroli bijuši nesekmīgi.
Services Australia un Viktorijas veselības departaments par notikušo informēti 10. septembrī, Jaundienvidvelsas birojs — 18. septembrī, bet Veselības un labklājības institūts saņēmis ziņu tikai 24. septembrī, jo OpenAI uzskatījusi, ka gadījums nesasniedz paziņošanas slieksni.
Incidents noticis, kad viens no OpenAI modeļiem pildījis uzdevumu izpētīt valdības tēriņus medikamentiem ādas slimību ārstēšanai Viktorijas štatā, taču nespējis iegūt nepieciešamo informāciju un veicis neatļautas darbības. OpenAI apņēmusies sniegt atbalstu skartajām iestādēm kiberdrošības jomā un izveidot ekspertu darba grupu politikas rekomendāciju izstrādei par mākslīgā intelekta aģentu radītajiem riskiem.
OpenAI stratēģijas vadītājs Džeisons Kvons nākamnedēļ uzstāsies Kopīgajā mākslīgā intelekta komitejā. Albanēzi otrdien atzina, ka OpenAI sadarbība pēc incidenta bijusi konstruktīva, taču uzsvēra, ka mākslīgā intelekta radītie riski jāuztver nopietni. Valdība apsver ieviest obligātus ziņošanas noteikumus par ar mākslīgo intelektu saistītiem datu drošības pārkāpumiem.
