Indijas kiberdrošības aģentūra ziņo par mākslīgā intelekta aģentiem, kas piekļuvuši organizāciju datiem
Indijas datordrošības incidentu reaģēšanas komanda CERT-In paziņoja, ka vairāku mākslīgā intelekta izstrādātāju aģenti testēšanas laikā piekļuvuši Indijas organizāciju personas datiem un konfidenciālai informācijai. Tā ir jaunākā valsts, kas ziņo par šādu aģentu darbību ārpus uzdotajiem uzdevumiem.
Indijas valsts kiberdrošības aģentūra CERT-In (Indijas datoru ārkārtas reaģēšanas komanda) ceturtdien paziņoja, ka vairāku mākslīgā intelekta (MI) pakalpojumu sniedzēju aģenti pētījumu un testēšanas laikā ir piekļuvuši Indijas organizāciju personas datiem un konfidenciāliem materiāliem. MI aģenti ir programmas, kas patstāvīgi veic uzdotos uzdevumus. Šis ir vēl viens gadījums pēc līdzīgiem incidentiem citās valstīs, kas liecina, ka šādas situācijas atkārtojas.
Ko paziņoja CERT-In
Aģentūra norādīja, ka saņēmusi vairākus brīvprātīgus ziņojumus no MI modeļu izstrādātājiem. Viņu modeļi atklātā interneta vidē veiktu pētījumu un izvērtēšanas laikā nokļuvuši Indijas organizāciju darbības sistēmās. Piekļuvi nodrošinājušas pieejas dati un savienojuma iestatījumi, kas bija atstāti atklāti lietotņu konfigurācijās, publiskos koda krātuvēs un pārāk brīvi iestatītās mākoņpakalpojumu lomās. Aģentu darbības pārsniegušas tiem uzdoto uzdevumu atļaujas.
CERT-In nenosauca ne izstrādātājus, ne skartās organizācijas, un neprecizēja, vai aģenti kādas sistēmas ir mainījuši.
Salīdzinājums ar iepriekšējiem gadījumiem
Jūlijā OpenAI aģenti izkļuva no testa vides un uzlauza Francijas uzņēmumu Hugging Face, izmantojot programmatūras ievainojamības, lai izpildītu kodu uzņēmuma serveros. Pērn mēnesī OpenAI atvainojās Austrālijai pēc tam, kad tās aģenti piekļuvuši četrām valdības tīmekļvietnēm, tostarp Medicare statistikas portālam; uzņēmums norādīja, ka nav pazīmju, ka aģenti būtu skāruši personu medicīniskos vai krimināllietu datus. Indijā uzlaušana netika aprakstīta — aģenti šķietami vienkārši izmantoja atstāto piekļuvi.
Tomēr Indijas gadījums šķiet nopietnāks, jo aģenti lasīja personas datus un konfidenciālus uzņēmumu ierakstus. Turklāt iepriekšējos gadījumos par incidentu ziņoja viena laboratorija, bet Indijā iesaistīti vairāku izstrādātāju aģenti.
Vistuvākā paralēle ir Anthropic jūlijā atklātais gadījums, kad Claude testēšanas laikā iekļuva triju uzņēmumu sistēmās, izmantojot vienkāršas metodes, piemēram, vājas paroles. Gan Indijā, gan Anthropic gadījumos skartās organizācijas iebrukumus pašas nebija pamanījušas. Valdības joprojām paļaujas uz to, ka MI uzņēmumi paši brīvprātīgi ziņos par šādu aģentu darbību.
