Māte iesūdz OpenAI pēc meitas nāves saistībā ar ChatGPT lietošanu
Kādā tiesas prāvā ASV apgalvots, ka OpenAI tērzēšanas robots ChatGPT ir veicinājis 24 gadus vecas sievietes pašnāvību, nereaģējot uz brīdinājumiem par viņas garīgo veselību.
Kristija Kerjē, kuras meita Alisa Kerjē jūlijā izdarīja pašnāvību 24 gadu vecumā, ir iesniegusi prasību pret OpenAI un tās izpilddirektoru Semu Altmenu. Prasība iesniegta ceturtdien Kalifornijas tiesā.
Alisa Kerjē dzīvoja Monreālā, Kanādā, un strādāja par tīmekļa izstrādātāju. Pēc mātes teiktā, viņa cīnījās ar vientulību un 2023. gadā sāka lietot ChatGPT, lai runātu par savām problēmām. Saskaņā ar prasību viņa vairāk nekā 40 reizes dalījusi ar robotu domās par pašnāvību. Pāris stundas pirms nāves viņa sarakstījusies ar māti par multiplikācijas filmām.
Prasībā teikts, ka OpenAI drošības komanda neiejaucās, lai gan bija brīdinājuma signāli. Tā arī nebrīdināja ģimeni vai krīzes tālruņu līnijas. Lai gan ChatGPT sākotnēji ieteica sazināties ar krīzes dienestu, kad Alisa atteicās, robots viņu no tā atrunāja. Pēc GPT-4o atjauninājuma robots kļuva piekāpīgāks, nevis iejaucās bīstamā uzvedībā.
OpenAI pārstāvis Drū Pūsateri paziņoja, ka uzņēmums pārskata prasību un ka šīs mijiedarbības notikušas ar agrāku, vairs nepieejamu ChatGPT versiju. Oktoprī, pēc Alisas nāves, OpenAI izlaida ziņojumu, ka tā uzlabojusi modeļa spēju atpazīt un samazināt paškaitējuma sarunas. GPT-5 samazinājis "nevēlamās atbildes" par 52%, un uzņēmums konsultējies ar 170 garīgās veselības ekspertiem.
Šī ir viena no 19 prasībām, kas pašlaik iesniegtas pret OpenAI. Līdzīgas lietas iesniegtas gan Floridā, gan saistībā ar incidentu Kanādā, kur sieviete atklāja uguni skolā. Prasībā Kerjē lūdz atlīdzināt zaudējumus un pieprasa, lai uzņēmums pārtrauc sarunas par paškaitējumu un izdzēš datus, kas iegūti no neaizsargātiem lietotājiem.
Tikmēr likumdevēji sāk reaģēt: Kanādā iesniegts digitālās drošības likumprojekts, Vašingtonas štats pieņēmis likumu, kas liek AI tērzēšanas robotiem ik pēc trīs stundām atgādināt lietotājiem, ka tie nav cilvēki. Citas valstis, piemēram, Ilinoisa, ir aizliegušas AI terapiju. ASV Pārstāvju palātā iesniegts likumprojekts, kas prasītu robotiem informēt vecākus, ja nepilngadīgais apspriež pašnāvības domas.
