Klienti sāk ticēt ChatGPT vairāk nekā darbiniekiem — ar bīstamām sekām
ASV darbinieki dažādās nozarēs — no restorāniem līdz nacionālajiem parkiem — stāsta, ka klienti sāk uzticēties mākslīgā intelekta izdomātai informācijai vairāk nekā profesionāļu padomiem, radot pat veselības riskus.
Mākslīgā intelekta tērzēšanas rīku, piemēram, ChatGPT, plašā izmantošana sāk pamainīt ieradumu, ka "klients vienmēr ir tiesīgs" — tagad daudzi klienti sagaida, lai darbinieki piekrīt mākslīgā intelekta izdomātai informācijai.
Njujorkas restorāna viesmīle, kuras vārds tiek slēpts, stāsta, ka viesi, kuriem ir pārtikas alerģijas, dažkārt ignorē viņas brīdinājumus par ēdienā esošajiem alergēniem, aizbildinoties, ka ChatGPT apgalvo citādi. Tas rada reālus drošības riskus, jo mīklu vai mērci saturoši ēdieni var izraisīt alerģiskas reakcijas. Viņa arī novērojusi, ka klienti aizvien biežāk noraida sommelē piedāvāto palīdzību, dodot priekšroku ChatGPT vīna ieteikumiem, un dažkārt pieprasa pudeles, kuras restorānā nemaz nav pieejamas vai pat neeksistē — mākslīgā intelekta "izdomātas" (hallucinācijas).
Problēma dažādās nozarēs
Similārus gadījumus novēroja arī kino teātru, kafejnīcu un "Apple" veikalu darbinieki, kuriem klienti pieprasījuši neesošus produktus vai funkcijas. Federālais upes gids ASV Kalnu rietumu reģionā stāsta, ka tūristu grupas ierodas nacionālajos parkos ar mākslīgā intelekta sagatavotiem maršrutiem, kas satur ģeogrāfiski neiespējamus plānus — piemēram, laivošanu pret straumi. Pat kad gidi, rādot uz karti, izskaidro kļūdas, daļa grupu turpina neticēt un paļaujas vairāk uz ChatGPT nekā uz speciālistiem un kartēm.
Njujorkas bērnu pēcskolas programmas pasniedzēja stāsta, ka vecāki aizvien biežāk konsultējas ar ChatGPT vai Claude par bērnu attīstības jautājumiem, dažkārt noraidot profesionāļu ieteikumus — piemēram, viena ģimene atteicās mainīt bērna miega grafiku, lai gan pasniedzēja uzskatīja, ka bērnam trūkst vairākas miega stundas, jo vecāki paļāvās uz mākslīgā intelekta ieteikumu.
Vairāku desmit gadu pārtikas pakalpojumu nozarē strādājoša sieviete norāda, ka klienti tagad bieži izmanto AI, lai izvēlētos ēdienus vai vīna pāŗojumus, un daži restorāni saņem rezervāciju pieprasījumus, kas, iespējams, veikti ar AI aģentu starpniecību, nevis reāliem cilvēkiem.
