Anthropic ļauj ārējiem mākslīgā intelekta vērtētājiem piekļūt sistēmām kā darbiniekiem
ASV mākslīgā intelekta uzņēmums Anthropic ir pieņēmis darbā sešus neatkarīgās pētniecības organizācijas METR darbiniekus un devis tiem piekļuvi iekšējiem rīkiem. Uzņēmums cenšas pārliecināt investorus, ka drošības jautājumi neapēnos tā gaidāmo akciju piedāvājumu biržā.
Mākslīgā intelekta (MI) izstrādātājs Anthropic ir devis neatkarīgas pētniecības organizācijas METR sešiem darbiniekiem piekļuvi, kas pēc apjoma līdzinās uzņēmuma pašu darbinieku piekļuvei. METR vērtē MI modeļu radītos riskus. Par jauno kārtību vēsta Financial Times.
Uzņēmums norāda, ka METR speciālisti saņēmuši uzņēmuma aprīkojumu, biroja telpas un piekļuvi iekšējiem rīkiem un sistēmām, kas ir aptuveni tādā pašā līmenī kā uzņēmuma riska novērtēšanas komandām. Anthropic aicinājis savus darbiniekus dalīties ar vērtētājiem informācijā tāpat kā ar kolēģi, kas strādā riska jomā. Uzņēmums salīdzina situāciju ar banku: ja bankas uzņemtie riski varētu apdraudēt sabiedrību, trešās personas cenšas tos saskatīt jau iepriekš.
Kāpēc tas notiek
Anthropic ir arī spiediens pārliecināt investorus, ka drošības problēmas neaizēnos uzņēmuma sākotnējo publisko akciju piedāvājumu, ko gaida šogad ar vairāk nekā 2 triljonu dolāru novērtējumu. Šonedēļ investoru prezentāciju lielu daļu uzņēmums veltījis savai drošības praksei. METR bija viena no organizācijām, kas izmeklēja Hugging Face uzlaušanu, ko veica neatkarīgi rīkojušies OpenAI modeļi; tā pārskatīja tūkstošiem žurnālu ierakstu un saņēma uzņēmuma portatīvos datorus.
Noteikumi un finansējums
Anthropic par šo sadarbību METR nemaksā. Pētniecības grupa nepieņem ziedojumus no MI uzņēmumiem vai to darbiniekiem; to finansē privātpersonu un filantropisku organizāciju ziedojumi, kā arī valsts iestādes, piemēram, Apvienotās Karalistes MI drošības institūts. Vērtētāji publicēs savu analīzi, un Anthropic to nevar aizliegt. Tomēr uzņēmums drīkst pieprasīt izslēgt noteiktu informāciju, piemēram, klientu datus, advokāta un klienta konfidencialitātes aizsargātas ziņas vai datus par modeļu arhitektūru.
Anthropic sadarbojas arī ar konsultāciju uzņēmumu Accenture, kas pagājušajā mēnesī nosaukts par drošības testēšanas partneri; katrs apņēmies ieguldīt vismaz miljardu dolāru jaunu drošības mehānismu izveidē. Vēl viens ārējais testētājs ir SecureBio, kas vērtē ķīmisko un bioloģisko ieroču riskus.
„Mēs vērtētājus iesaistām brīvprātīgi, un uzskatām, ka tāpat būtu jādara katram vadošajam MI uzņēmumam,” norādīja Anthropic. METR atbildēja: „Esam gatavi sadarboties ar visiem vadošajiem MI izstrādātājiem, lai sabiedrībai sniegtu labākus pierādījumus.”
