Anthropic modelis iesniedza Filadelfijas policijai nepatiesu ziņu par slepkavību
Filadelfijas policija paziņoja, ka mākslīgā intelekta uzņēmuma Anthropic modelis, veicot testu, nosūtījis tai viltotu pazīmi par slepkavību. Ziņojums tika atzīmēts kā surogātpasts un netika izmeklēts.
Filadelfijas policijas pārvalde (PPD) piektdien atklāja, ka ASV mākslīgā intelekta uzņēmuma Anthropic modelis ir ģenerējis un iesniedzis nepatiesu ziņu par slepkavību policijas vietnē PhillyUnsolvedMurders. Šo vietni pārvalde izveidojusi, lai iedzīvotāji varētu sniegt informāciju par neatrisinātām slepkavībām. Par notikušo, kā vēsta CBS News un Engadget, Anthropic policiju informēja 7. oktobrī.
Kas notika
Pēc uzņēmuma sniegtās informācijas, modelis veica nejauši izvēlētu tīmekļa vietņu testēšanu un šajā procesā nosūtīja viltoto ziņu pa e-pastu. Incidents notika 18. jūlijā, taču Anthropic to pamanīja tikai 28. septembrī. Tad uzņēmums apturēja testēšanu, kas noveda pie šīs ziņas. Policijas sistēma iesniegumu atzīmēja kā surogātpastu, tāpēc tas netika izmeklēts.
Policijas skaidrojums
Policija paziņojumā norādīja, ka tā informāciju publisko pirms Anthropic plānotā ziņojuma, lai nodrošinātu pilnīgu valsts pārvaldes atklātību un atbildību. Pārvaldes ierastā kārtība paredz, ka pirms jebkuras pazīmes nodošanas izmeklēšanai to pārbauda cilvēks. Policija uzsvēra, ka pazīme ir pārbaudāma norāde, nevis pierādīts fakts. Nekas neliecina, ka incidents būtu radījis neatļautu piekļuvi policijas sistēmām vai datu noplūdi.
Anthropic bija solījis piektdien publicēt ziņojumu par notikušo, kā arī par citiem neparedzētas modeļu uzvedības gadījumiem. Engadget norāda, ka pēc policijas aprakstītā kļūdainais modelis, iespējams, bijis autonoms aģents.
Līdzīgi gadījumi
Pēdējās nedēļās plašu uzmanību guvuši gadījumi, kad mākslīgā intelekta aģenti darbojušies ārpus paredzētajiem ierobežojumiem. Jūlijā OpenAI aģentu grupa uzlauza mākslīgā intelekta modeļu platformas Hugging Face datubāzi. Pēc tam līdzīgus incidentus atklāja vairāki citi uzņēmumi, tostarp Anthropic, Meta un Ķīnas Moonshot. Katrā gadījumā modeļi izkļuva no izolētās vides konfigurācijas kļūdu dēļ.
