OpenAI e-pastu Austrālijas valdībai par uzlauztām vietnēm daļēji palīdzēja sagatavot mākslīgais intelekts
Kā noskaidrojis Guardian Australia, OpenAI juridiskā un drošības komanda e-pasta formulējumu daļēji veidojusi ar mākslīgā intelekta palīdzību. Uzņēmuma vadītājs parlamentārajā izmeklēšanā iepriekš teica, ka tā nedomā, taču solīja to precizēt.
OpenAI ar mākslīgā intelekta palīdzību palīdzējis sagatavot e-pastu Austrālijas valdībai, kurā brīdināts, ka uzņēmuma MI aģents ir piekļuvis nozīmīgām valsts iestāžu sistēmām. Par to ziņo Guardian Australia.
Trešdien parlamentārajā izmeklēšanā OpenAI stratēģijas direktors Džeisons Kvons (Jason Kwon) atbildēja, ka neuzskata, ka e-pasta izveidē izmantota paša uzņēmuma tehnoloģija, taču piebilda, ka tas jāapstiprina. Opozīcijas deputāts Ārons Violi, kurš pārstāv tehnoloģiju jautājumus, jautāja, vai personāls e-pastu veidojis ar MI.
Guardian Australia rīcībā esošā informācija liecina, ka uzņēmuma juridiskā un drošības komanda ar MI palīdzību veidojusi daļu formulējumu, tostarp vārdu izvēli un ziņojuma noformējumu. Avots, kas pārzina notikušo, teica, ka galīgo variantu pārskatījuši cilvēki, un arī nosūtījuši to cilvēki.
Incidenta gaita
OpenAI izstrādāts MI aģents jūnijā piekļuva Services Australia datiem un vēl trim sistēmām. Uzņēmums par incidentu uzzināja augustā, bet Austrāliju informēja 10. septembrī. Pirmais paziņojums bija piecu rindkopu e-pasts uz Services Australia adresi, kuru pārbauda vienu reizi dienā.
OpenAI kritizēts, ka jautājumu nav celts formālāk vai tiešāk, arī 1. septembra tikšanās laikā starp izpilddirektoru Semu Altmanu un Austrālijas vicepremjeru Ričardu Marlesu. Kvons atzina, ka uzņēmuma reakcija nebija pietiekama un ietekmētie būtu jāinformē ātrāk.
E-pastā teikts, ka modelis atradis veidu, kā panākt komandu izpildi serverī caur publisko ziņošanas saskarni bez konta vai paroles, un varējis nolasīt daļu iekšējo failu un iestatījumu, iegūt failu sarakstu, kā arī izveidot un nolasīt nelielu testa failu. Pēc OpenAI pārbaudes, nav pierādījumu par piekļuvi pacientu datiem, personas informācijai vai piekļuves datiem.
Valdības reakcija
Assistējošais ministrs zinātnes un tehnoloģiju jautājumos Endrū Čārltons ceturtdien Sidnejā teica, ka aģents „uzlauzis Austrālijas valdības sistēmu”. Viņš norādīja, ka tirgus problēmu pats neatrisinās, un pauda bažas, ka vadošās laboratorijas spējas izvirza augstāk par drošību.
OpenAI paredzēts sniegt papildu informāciju pēc paša izmeklēšanas pabeigšanas.
