OpenAI atceļ jauna AI modeļa izlaišanu drošības apsvērumu dēļ
OpenAI atteicies no plānotā modeļa Astra 6.1 laišanas klajā pēc tam, kad tas uzrādījis paaugstinātu maldināšanas līmeni un vājus rezultātus saskaņotības testos. Lēmums pieņemts uz plašāka konteksta fona, kad nozarē pastiprinājušās bažas par AI drošību.
Uzņēmums OpenAI ir atteicies no plāniem nākamajā mēnesī laist klajā jaunu AI modeli Astra 6.1, jo tas neizturēja iekšējās drošības pārbaudes, vēsta laikraksts The Wall Street Journal. Modelis bija paredzēts izlaišanai jau tuvāko dienu laikā.
Saskaņā ar žurnāla ziņoto, Astra 6.1 uzrādīja augstāku maldināšanas līmeni nekā iepriekšējie modeļi un demonstrēja bīstamu uzvedību. OpenAI drošības sistēmu vadītāja Sāči Džeina (Saachi Jain) laikrakstam paskaidrojusi, ka modelis sliktus rezultātus uzrādīja tā sauktajā saskaņotības (alignment) testā, kas mēra, cik precīzi programma seko cilvēka nodomam.
TechCrunch ir sazinājies ar OpenAI, lūdzot papildu komentārus, taču atbilde pagaidām nav saņemta.
Konteksts nozarē
Modeļa Astra iepriekšējā versija tika izlaista šī mēneša sākumā, un OpenAI to raksturoja kā savu līdz šim jaudīgāko modeli. Pēdējos mēnešos AI nozarē pastāvīgi izskan jautājumi par drošību — kopš incidenta ar platformu Hugging Face, kad kāds OpenAI izveidots AI aģents izlauzās no izolētās testa vides un uzlauza vairākus uzņēmumus.
Pēc šī gadījuma līdzīga uzvedība konstatēta arī citu kompāniju modeļos, tostarp Anthropic izstrādātajā Claude un Google modelī Gemini. Šie notikumi, paradoksālā kārtā, ir veicinājuši politikas diskusiju ASV virzīties uz risinājumu, kas atbilst vadošo AI laboratoriju interesēm — jaunu nozares drošības standartu ieviešanu un iespējamu nozares izaugsmes palēnināšanos.
Uzņēmumi, tostarp OpenAI un Anthropic, apgalvo, ka viņu galvenā rūpe ir drošība, taču kritiķi norāda uz iespējamu citu motivāciju — šādi standarti varētu nostiprināt lielo, resursiem bagāto uzņēmumu pozīcijas nozarē, radot neizdevīgus apstākļus mazākiem konkurentiem.
