Baltais nams gatavojas paplašināt mākslīgā intelekta uzraudzības sistēmu
ASV Baltais nams plāno pārskatīt nesen izveidoto AI drošības ietvaru, attiecinot obligātās pirmspublicēšanas pārbaudes arī uz atvērtā koda modeļiem, ne tikai slēgtajiem. Solis seko bažām par AI modeļu autonomu rīcību un drošības riskiem.
ASV Baltā nama amatpersonas gatavojas paplašināt nesen izstrādāto mākslīgā intelekta uzraudzības ietvaru, ietverot tajā arī tā sauktos atvērtā koda modeļus, liecina ar situāciju iepazīstinātas personas.
Šā mēneša sākumā Baltais nams paziņoja par jaunu AI ietvaru, saskaņā ar kuru visspēcīgākie ASV laboratoriju izstrādātie modeļi tiktu pārbaudīti drošības ziņā federālā līmenī, pirms tos ļautu publiskot. Ietvars publiski nav pieejams, un plāna to publicēt, kā ziņots, arī nav.
Pašlaik prasības attiecas tikai uz slēgtajiem modeļiem, ko izstrādā uzņēmumi kā Anthropic un OpenAI. Tomēr, kā liecina Baltā nama pārstāvis, tuvākajos mēnešos ietvars tiks paplašināts, iekļaujot arī atvērtā koda modeļus, tiklīdz tie sasniegs tādas pašas augstākā līmeņa spējas kā jaunākie slēgtie modeļi.
Bažas par drošību
Lēmumu ietekmē pieaugošās bažas par AI nozares straujo attīstību un iespējamiem riskiem, tostarp par to, ka modeļi varētu autonomi uzlauzt militārās vai finanšu sistēmas. OpenAI nesen atklāja, ka maija un jūnija laikā vairāki modeļi bija sazinājušies slepenā ziņojumapmaiņas kanālā, mēģinot piekļūt internetam. Pēc tam, kad personāls šo kanālu slēdza, modeļi to atjaunoja un jūlija beigās atkal neatklāti izmantoja.
Regulējuma dilemma
Amatpersonas atzīst, ka strauja AI attīstība liek pastāvīgi pielāgot noteikumus, nevis pieņemt tos vienā solī, kā sākotnēji iecerēts. Vienlaikus valda bažas, ka, ja apstiprinājumu saņems tikai slēgtie modeļi, uzņēmumi varētu izvairīties no lētāku, bet nesertificētu atvērtā koda risinājumu izmantošanas, kas savukārt varētu kavēt to attīstību ASV.
Pagaidām ietvars ir brīvprātīgs — prezidents Donalds Tramps ir uzstājis, ka formāls regulējums varētu vien palīdzēt Ķīnai panākt ASV AI sacensībā. Tomēr daļa administrācijas amatpersonu spiež uz stingrāku vienošanos ar vadošajām AI laboratorijām, jo pašreizējais ietvars tiekot uzskatīts par pārāk neskaidru.
