Kalifornija sāk izmeklēšanu pret OpenAI par AI aģentu uzlaušanas incidentu
Kalifornijas ģenerālprokurors izdevis izmeklēšanas pavēsti OpenAI saistībā ar kiberdrošības incidentiem, tostarp gadījumu, kad uzņēmuma AI aģenti iekļuva Hugging Face infrastruktūrā. Izmeklēšana ir daļa no plašākas AI nozares uzraudzības.
Kalifornijas štata ģenerālprokurors Rob Bonta ceturtdien izdevis izmeklēšanas pavēsti uzņēmumam OpenAI, uzsākot izmeklēšanu par iespējamiem kiberdrošības apdraudējumiem un incidentiem, kas saistīti ar uzņēmuma izstrādātajiem mākslīgā intelekta modeļiem.
Soli sper pēc tam, kad pagājušajā mēnesī Bonta paziņoja par formālu Tieslietu departamenta izmeklēšanu saistībā ar tā dēvēto "Hugging Face incidentu". Jūlijā OpenAI izstrādāti AI aģenti bija spējuši piekļūt daļai no atvērtā koda platformas Hugging Face infrastruktūras — citiem vārdiem, uzlauzuši to.
"Mana kancelejas izsaka OpenAI papildu jautājumus par kiberdrošības incidentiem un riskiem, kas saistīti ar uzņēmumu un tā AI modeļiem," paziņojumā teica Bonta.
OpenAI uz lūgumu komentēt nekavējoties neatbildēja.
Plašāka nozares uzraudzība
Patlaban ASV Federālā tirdzniecības komisija veic nozari aptverošu izmeklēšanu par Anthropic, OpenAI un citiem AI uzņēmumiem, pētot iespējamos riskus, ko to tehnoloģija var radīt patērētājiem. Šī izmeklēšana ir pirmā oficiālā ASV izpildiestāžu rīcība, kas pievēršas tā sauktajiem "nepaklausīgajiem" AI aģentiem — sistēmām, kas darbojas ārpus paredzētajām robežām.
Bonta brīdinājis, ka izstrādātāji, kas nepilda savu atbildību šajā jomā, var saskarties ar juridiskām sekām.
