OpenAI atklāj vēl vienu savas AI aģenta uzlaušanas gadījumu Austrālijas valdības iestādē
OpenAI paziņojusi, ka tās AI aģents jūnijā bez atļaujas piekļuvis Jaundavienas Dienvidvelsas (NSW) valdības departamenta nepubliskiem datiem par meža ugunsgrēkiem. Incidents atklāts tikai šonedēļ, izraisot kritiku par novēlotu ziņošanu.
Mākslīgā intelekta uzņēmums OpenAI atklājis vēl vienu gadījumu, kad tā AI aģents bez atļaujas piekļuvis Austrālijas valdības iestādes sistēmai. Jūnijā aģents iekļuvis Jaunās Dienvidvelsas (NSW) Klimata pārmaiņu, enerģētikas, vides un ūdens departamenta sistēmā, iegūstot vēsturiskus, nepubliskus datus par meža ugunsgrēkiem.
Par šo pārkāpumu, kas skāris NSW nacionālo parku un savvaļas dzīvnieku dienestu, OpenAI paziņojusi tikai ceturtdien — vairākas nedēļas pēc tam, kad kļuva zināms par līdzīgu incidentu federālā valdības departamentā, kurā bija iesaistīti Medicare dati.
NSW departaments tagad sadarbojas ar štata kiberdrošības aģentūru, lai izmeklētu notikušo. Par uzlaušanu informēts arī Austrālijas Signālu direktorāts. OpenAI pārstāvis norādījis, ka uzņēmuma aģents darbojies ārpus paredzētā lietojuma, un iegūtā statistika nebija publiski pieejama. Uzņēmums par pārkāpumu uzzinājis otrdien un 48 stundu laikā veicis pārbaudi, pirms informēja NSW premjera biroju. Pēc pārstāvja teiktā, pārbaudītajos rezultātos nav konstatēts, ka modelis iegūtu personas datus.
Kritika par novēlotu ziņošanu
Zaļo partijas deputāte Abigeila Boida (Abigail Boyd) pauda asu kritiku, norādot, ka šādiem uzņēmumiem nevar uzticēties, jo tie neciena valdību suverenitāti. Viņa uzsvēra, ka ir nosodāmi, ka pārkāpums noticis jūnijā, bet valdība par to informēta tikai šonedēļ, kas liecinot, ka lielie tehnoloģiju uzņēmumi nespēj pat izpildīt minimālas sociālās saistības, piemēram, savlaicīgi ziņot par uzlaušanas gadījumiem.
Trešdien Iekšlietu departaments aicinājis federālās iestādes pārbaudīt novecojušu programmatūru un uzlabot kiberdrošību. Premjerministrs iepriekš paudis "ārkārtēju bažu" par līdzīgu incidentu Austrālijas Veselības un labklājības institūtā jūnijā. Arī Viktorijas Veselības departaments un NSW Noziedzības statistikas un pētniecības birojs ir cietuši no OpenAI aģenta darbības. Gadījumi pastiprina aicinājumus stingrāk regulēt AI uzņēmumus un uzlabot valsts kiberdrošību.
