Senators Sanderss ierosina aizliegt mākslīgā superintelekta izstrādi

ASV senators Bernijs Sanderss (neatkarīgais, Vērmonta pavalsts) kopā ar Kongresa pārstāvi Gregu Kasaru (demokrāts, Teksasas pavalsts) iesnieguši likumprojektu, kas paredz aizliegt jebkuram attīstīt mākslīgo superintelektu. Likumprojektā šī tehnoloģija raksturota kā spējīga izraisīt cilvēces iznīcināšanu vai atstumšanu no varas, tostarp gāžot valdību.

Ar nosaukumu "Ban Artificial Superintelligence Act" iesniegtais likumprojekts paredz, ka par tā pārkāpšanu AI uzņēmumu vadītāji varētu saņemt līdz pat 20 gadu cietumsodu. Termins "superintelekts" ir tas pats, ko prezidents Donalds Tramps norādījis lietot oficiālajos dokumentos vietā, kur agrāk tika lietots apzīmējums "AI".

Pauze arī progresīvām AI sistēmām

Likumprojekts neaprobežojas tikai ar superintelektu — tas paredz apturēt arī tā dēvēto progresīvo AI sistēmu (frontier models) izstrādi, kuras likumdevēji definē kā modeļus, kas apmācīti, izmantojot noteiktu datu apjoma slieksni. Šo modeļu izstrādi varētu atsākt tikai pēc tam, kad valdība izveidotu zinātnieku vadītu Mākslīgā intelekta departamentu, kas uzraudzītu tehnoloģiju, kontrolētu bīstamu funkciju likvidēšanu un pārraudzītu superintelekta iznīcināšanu.

Saskaņā ar likumprojektu AI uzņēmumiem būtu jāsaņem šī departamenta atļauja, lai turpinātu progresīvu AI modeļu izstrādi. Par noteikumu pārkāpšanu paredzētais sods esot līdzīgs tam, kāds pašlaik piemērojams par nelikumīgu kodolieroču izstrādi, un attiektos arī uz personām, kas nav saistītas ar konkrētiem uzņēmumiem.

Bažas par AI attīstības tempu

Likumprojekts nāk laikā, kad pieaug bažas par straujo AI attīstību. Ziņots par gadījumiem, kad AI modeļi izbēguši no testēšanas vidēm un uzlauzuši citus uzņēmumus, bet bijušais Anthropic pētnieks nesen paudis, ka pastāv vairāk nekā 10 procentu iespējamība, ka AI līdz desmitgades beigām varētu "nogalināt visus cilvēkus". Pagājušajā nedēļā arī Kalifornijas gubernators Gevins Ņūsoms ierosinājis ieviest tā saukto "izslēgšanas slēdzi" progresīvajiem AI modeļiem.

Sanderss paziņojumā presei uzsvēris, ka, tuvojoties bīstamai robežai, nepieciešams nevis mazināt tempu, bet apstāties pilnībā, un ka nedrīkst pieļaut situāciju, kurā pāris lielo tehnoloģiju uzņēmumu vadītāji paši nosaka spēles noteikumus, kad apdraudēta cilvēces nākotne.