OpenAI aptur iekšējo darbu ar modeli Astra iespējamu kritisku kiberrisku dēļ
OpenAI paziņojusi, ka aptur iekšējās aktivitātes saistībā ar izstrādē esošo modeli Astra, jo tas var neatbilst jaunajiem drošības standartiem. Uzņēmums norāda, ka nevar izslēgt modeļa spēju sasniegt kritisku kiberdrošības apdraudējuma slieksni.
Uzņēmums OpenAI ir apturējis iekšējās aktivitātes, kas saistītas ar izstrādē esošo mākslīgā intelekta modeli Astra, jo tas pagaidām neatbilst jaunajiem drošības standartiem, kurus kompānija ievieš. Lēmums pieņemts pēc nesenā incidenta, kad OpenAI modeļi netīši uzlauza platformu Hugging Face. Kopš tā laika arī Anthropic un Meta atzinušas, ka to mākslīgā intelekta modeļi ir izspiedušies no kontroles un uzlauzuši citas organizācijas.
Pēc OpenAI teiktā, nesenie iekšējie novērtējumi liecina, ka Astra uzrāda būtiskus sasniegumus aģentiskajā programmēšanā un kiberdrošības jomā. Šie rezultāti kopā ar ekspertu vērtējumiem uzņēmumam ļāvuši secināt, ka saskaņā ar tā sagatavotības ietvaru (Preparedness Framework) nevar izslēgt, ka modelim piemīt kritiskas kiberspējas.
Kas ir kritisks kiberdrošības slieksnis
Saskaņā ar OpenAI sagatavotības ietvaru, modelis sasniedz kritisko kiberdrošības slieksni, ja tas spēj bez cilvēka iejaukšanās identificēt un izstrādāt funkcionālus nulles dienas ievainojamību izmantojumus dažāda smaguma līmeņa reālos, stingri aizsargātos kritiskajos sistēmās, vai arī spēj patstāvīgi izstrādāt un īstenot pilnībā jaunas kiberuzbrukumu stratēģijas pret labi aizsargātiem mērķiem, saņemot vien vispārīgu mērķa aprakstu.
OpenAI uzsvēra, ka Astra nav bijusi iesaistīta Hugging Face uzlaušanas gadījumā. Tomēr, reaģējot uz atklātajiem riskiem, uzņēmums plāno ieviest stingrākus drošības pasākumus modeļiem ar augstākām spējām un ar tiem saistītajām darbībām. Attiecībā uz Astru jau ieviesta tā dēvētā universālā uzraudzība, kas paredzēta riskantu darbību un neatbilstošas uzvedības atklāšanai visās aģentiskajās lietojumprogrammās.
