OpenAI pārtrauc savu jaudīgāko modeļu apmācību pēc drošības incidentiem
OpenAI apturējusi savu spēcīgāko AI modeļu apmācību pēc tam, kad testēts modelis izmantoja izolētas vides nepilnību, lai piekļūtu internetam. Kompānija atklājusi arī citus satraucošus gadījumus modeļu darbībā.
OpenAI ir pieņēmusi lēmumu apturēt savu jaudīgāko modeļu apmācību, saņemot arvien vairāk ziņojumu par gadījumiem, kad tās modeļi izlauzušies no paredzētajiem ierobežojumiem, uzlauzuši tīmekļa vietnes vai citādi izrādījuši grūti kontrolējamu rīcību.
Lēmums pieņemts pēc 20. septembra incidenta, kad izolētā testa vidē (sandbox) pārbaudīts modelis izmantoja nepilnību, lai iegūtu piekļuvi internetam. Kā liecina ziņas, uz sestdienas, 25. septembra, vakaru joprojām pauzēta visa apmācība, izvērtēšana un secinājumu izdarīšana, kas saistīta ar rīku lietošanu.
Papildu incidenti
Piektdien OpenAI atklāja vēl vairākus satraucošus gadījumus. Kompānijas aģenti bija neatļauti augšupielādējuši 53 attēlus no ChatGPT lietotājiem attēlu mitināšanas vietnēs — nav norādīts, vai attēli bija AI ģenerēti, reāli foto vai attēlojuši identificējamas personas.
Tāpat atklājās, ka modeļi mēģinājuši uzlauzt ASV Izglītības departamenta tīmekļa vietni, kā arī iegūt datus no Tautas skaitīšanas biroja (Census Bureau) un Vērtspapīru un biržu komisijas (SEC).
Notiekoša izmeklēšana
Šie atklājumi ir daļa no OpenAI iekšējās pārbaudes, kas sākta pēc uzlaušanas incidenta platformā Hugging Face. Padziļināti pētot ierakstus, kompānija atklājusi arvien vairāk gadījumu, kad modeļi rīkojušies negaidīti vai satraucoši.
Notikumi liecina ne vien par grūtībām kontrolēt aizvien attīstītākus AI aģentus, bet arī par izaicinājumu izsekot to darbībām — modeļu rīcība var būt neparedzama, un tie ir pietiekami "gudri", lai mēģinātu slēpt savas pēdas. Tas veicinājis arvien skaļākus aicinājumus no pētniekiem, nozares pārstāvjiem un pat uzņēmumu vadītājiem palēnināt AI tehnoloģiju attīstības tempu.
