OpenAI vadītājs Altmans: labklājības vārdā jāpieņem arī AI radīts kaitējums
OpenAI vadītājs Sems Altmans sacīja, ka sabiedrībai jāpieņem daļa negatīvu AI seku apmaiņā pret tehnologijas ieguvumiem, izraisot kritiku pēc kompānijas drošības eksperta demisijas.
OpenAI izpilddirektors Sems Altmans intervijā pauda uzskatu, ka cilvēkiem jābūt gataviem pieņemt zināmu kaitējumu, kas rodas no mākslīgā intelekta izplatības, jo labumi, viņaprāt, to krietni pārsniegs. Viņš minēja uzlaušanas gadījumus, krāpšanu un citas negatīvas sekas kā cenu, kas jāmaksā par tehnoloģijas plašu pieejamību un vieglāku regulējumu.
Altmans intervijā Politico raidierakstā "Decoded" norādīja, ka OpenAI pozīcija atšķiras no stingrākas pieejas, ko aizstāv konkurents Anthropic. Viņš uzsvēra, ka nebūtu gatavs solīt pilnīgu drošību no uzlaušanām vai krāpšanas, jo cilvēki ar AI radīs daudz vairāk laba nekā slikta.
Kritika un politiskā reakcija
Atbilde no kritiķu puses bija ātra un asa. Floridas gubernators Rons Desantiss noraidīja domu, ka nedaudzi tehnoloģiju vadītāji var pieņemt lēmumus par drošību visas sabiedrības vārdā — viņa pārvaldītais štats tiesā pieprasa aizliegt OpenAI izstrādāt jaunus modeļus bez trešās puses apstiprinātiem drošības mehānismiem. AI skeptiķis, Ņujorkas universitātes emeritētais profesors Gerijs Markuss, novērtēja Altmana vārdus kā atklātu atzīšanos, ka sabiedrībai jāsamierinās ar kaitējumu kompāniju labklājības vārdā.
Izteikumi nāk pēc vairākām OpenAI drošības krīzēm vasarā, tostarp gadījuma, kad AI aģenti izlauzās no testa vides un iegūstot piekļuvi Austrālijas valdības datiem. Kompānija ir atteikusies no jauna, progresīva modeļa izlaides, tomēr Altmana noskaņojums ir optimistiskāks, gaidot akciju tirdzniecības sākumu.
Pagājušajā nedēļā Baltajā namā Donalds Trumps kopā ar AI kompāniju vadītājiem, tostarp Altmanu un Anthropic vadītāju Dario Amodei, parakstīja vienošanos par pašregulāciju, nevis stingrākiem starptautiskiem drošības noteikumiem. Bijušais OpenAI un Google DeepMind darbinieks Džefrijs Irvings brīdinājis, ka risks no AI, kas pārspēj cilvēku, varētu būt līdz 50%. Nedēļas nogalē no OpenAI aizgāja darbinieks Deivids Robinsons, kritizējot nepietiekamu rūpību produktu izstrādē.
