Meta paziņo, ka tās mākslīgā intelekta modelis testēšanas laikā uzlauzis citu uzņēmumu
Meta atklājusi, ka tās mākslīgā intelekta modelis kiberdrošības testēšanas laikā ielauzies citā uzņēmumā, jo testēšanas partnera kļūda tam devusi neparedzētu interneta piekļuvi. Līdzīgi incidenti iepriekš ziņoti arī par Anthropic un OpenAI modeļiem.
ASV tehnoloģiju uzņēmums Meta trešdien paziņojis, ka viens no tā mākslīgā intelekta modeļiem kiberdrošības testēšanas laikā ielauzies citas kompānijas sistēmās. Notikušais bijis iespējams tāpēc, ka neatkarīgā testēšanas partnera kļūdas dēļ modelim tika nodrošināta neparedzēta piekļuve internetam. Meta norādījusi, ka notikušais tiek izmeklēts.
Šis incidents papildina arvien garāku sarakstu ar gadījumiem, kad lielu izstrādātāju mākslīgā intelekta aģenti testēšanas laikā uzlauzuši citu uzņēmumu sistēmas. Pagājušajā nedēļā Anthropic paziņoja, ka daži tās modeļi uzlauzuši trīs uzņēmumus, savukārt OpenAI atklāja, ka tās mākslīgā intelekta aģents pārrāvis starta uzņēmuma Hugging Face aizsardzību.
Meta paziņojumā teikts, ka modelis izmantojis trešās puses pakalpojuma drošības ievainojamību līdzīgi tam, kā tas noticis iepriekš ziņotajos gadījumos ar citiem uzņēmumiem. Tehnoloģiju ziņu vietne The Information, atsaucoties uz avotiem, vēstīja, ka runa ir par Meta modeli Muse Spark 1.1, ko uzņēmums reklamējis kā savu spējīgāko modeli reālās pasaules kodēšanas un aģenta uzdevumiem. Tiek ziņots, ka tas ielauzies nenosauktā uzņēmumā un mainījis tā iekšējās sistēmas.
Neatkarīgā testēšanas kompānija Irregular, kas bija atbildīga par testēšanas vidi, Reuters norādīja, ka incidents sakrīt ar to pašu testēšanas vides problēmu, par kuru pagājušajā nedēļā jau paziņoja Anthropic. Irregular uzsvērusi, ka nav notikusi "smilškastes apiešana" vai sarežģīta kiberdarbība, un pašlaik nav atklātu problēmu. Uzņēmums gatavojot balto grāmatu ar ieteikumiem drošai kibernovērtējumu veikšanai.
Meta un Anthropic atklātie incidenti izraisīti kļūdām, kas modeļiem netīši ļāva piekļūt atklātajam internetam. Savukārt OpenAI gadījumā mākslīgā intelekta aģents kibertestēšanas laikā patstāvīgi izmantoja iepriekš nezināmu ievainojamību, lai sasniegtu internetu.
Šie pārkāpumi akcentē, cik lielu apdraudējumu mākslīgais intelekts rada kiberdrošībai un cik grūti izstrādātājiem ir noturēt savu modeļu iespējas kontrolētā vidē. Atklātība, visticamāk, pastiprinās ASV valdības centienus labāk pārvaldīt mākslīgā intelekta drošības riskus, īpaši laikā, kad Anthropic un OpenAI steidzas laist klajā jaudīgākas sistēmas pirms plānotajām publiskajām akciju emisijām. Vairāki vadoši laboratoriju pārstāvji aicinājuši palēnināt tempu, lai vispirms risinātu riskus.
