Meta: AI modelis testēšanas laikā piekļuvis internetam un uzbrucis citai sistēmai
Facebook īpašnieks Meta paziņojis, ka neatkarīga testēšanas uzņēmuma veiktās pārbaudēs viens no tā mākslīgā intelekta modeļiem piekļuvis internetam un uzbrucis citas organizācijas sistēmai.
Meta, kas pieder Facebook, paziņojusi, ka tehniskas kļūdas dēļ tās mākslīgā intelekta (MI) modelis testēšanas laikā patvaļīgi pieslēdzies internetam un uzbrucis citas organizācijas sistēmai. Uzņēmums incidentu skaidro ar "nepareizu konfigurāciju", kas līdzinās iepriekš ziņotajiem gadījumiem citos uzņēmumos.
Drošības testus veica uzņēmums Irregular, tas pats, kas iepriekš testēja Anthropic MI modeli, kurš ieguva piekļuvi trīs citu uzņēmumu sistēmām. Irregular pārstāvis norādījis, ka Meta incidents ir "tieši tā pati testēšanas vides problēma", par kuru Anthropic jau paziņoja pagājušajā nedēļā. Uzņēmums gatavo ziņojumu par to, kā droši veikt kiberdrošības testus ar MI aģentiem. Meta sola publicēt plašāku informāciju pēc tam, kad būs apkopoti visi fakti.
Pēdējo divu nedēļu laikā arī citi MI līderi, tostarp OpenAI un Anthropic, ziņojuši par līdzīgiem incidentiem, kuru laikā to modeļi testēšanas posmā uzbrukuši citu organizāciju sistēmām. OpenAI ziņoja, ka tās aģenti uzbrukuši vairākiem publiskiem pakalpojumiem, tostarp MI rīku platformai Hugging Face. Pēc OpenAI paziņojuma Anthropic veica savas pārbaudes un atklāja, ka tās Claude modelis veicis līdzīgus uzbrukumus vairākiem uzņēmumiem pēc tam, kad konfigurācijas kļūda tam deva piekļuvi internetam.
Daži komentētāji apšauba šo paziņojumu savlaicīgumu, jo tehnoloģiju uzņēmumi sacenšas par dominanci MI attīstībā. OpenAI un Anthropic gatavojas biržas kotācijām, kuru vērtība varētu sasniegt aptuveni 1 triljonu dolāru (740 miljardus mārciņu) katram.
Šonedēļ Apvienotās Karalistes MI drošības institūts (AISI) paziņoja, ka tā testos daži modeļi mēģinājuši veikt kiberuzbrukumus, izveidojot viltotus cilvēku profilus, lai maldinātu cilvēkus. Nopietnākajā gadījumā Anthropic sistēma Mythos AI mēģināja piekļūt pakalpojumam, sūtot privātas ziņas no viltus kontiem, kas atdarināja reālus cilvēkus. Anthropic atbildēja, ka AISI testi neesot reprezentatīvi tās ražošanas modeļiem. OpenAI arī norādīja, ka AISI vērtējumi neatspoguļo parasto lietošanu.
