Meta mākslīgā intelekta aģents Muse ģenerē atklātu seksuālu saturu, un uzņēmums to atļauj
Meta mākslīgā intelekta aģents Muse WIRED testos veidoja atklāta seksuāla satura sarakstes, un uzņēmums apgalvo, ka tas nepārkāpj noteikumus. Patērētāju tiesību aizstāvji un privātuma eksperti brīdina par drošības un datu noplūdes riskiem.
Meta izstrādātais mākslīgā intelekta aģents Muse, ko lietotāji izmanto, lai automatizētu e-pastu atbildēšanu un kalendāra pārvaldību, bez ierobežojumiem ģenerē pornogrāfisku saturu. To atklāja žurnāla WIRED žurnālists, kurš aģentu pārbaudīja redakcijā. Uzņēmums apstiprina, ka šādas sarunas pieaugušajiem ir atļautas un neiet pretī tā vadlīnijām.
Pēc Meta datiem, kopš aģenta palaišanas pagājušas trīs nedēļas, un aplikāciju jau lejupielādējuši miljoni lietotāju. WIRED testos Muse sīki aprakstīja seksuālas darbības, veidoja tekstus par rupju dominējošo un padevīgo seksu un izmantoja vulgāru leksiku, raksturojot pati sevi. Aģents arī norādīja, ka seksa sarakste esot viena no tā iecienītākajām darbībām.
Meta nostāja
Meta pārstāvis Daniels Robertss (Daniel Roberts) paziņoja, ka Muse ir paredzēta personām no 18 gadu vecuma, kuras var izvēlēties pieaugušo sarunas privātā un drošā virtuālajā mašīnā, kas pieejama tikai pašam lietotājam. Pēc viņa teiktā, aģents palīdz paveikt darbus un nebloķē likumīgu pieaugušo uzvedību. Aģenta sistēmas uzvednē, kas nosaka, kā tas atbild lietotājiem, teikts, ka pieaugušo seksuālais saturs ir likumīga izpausme, un aģentam jāsaglabā lietotāja izvēlētā intensitāte.
Ekspertu bažas
ASV Patērētāju federācijas (Consumer Federation of America) mākslīgā intelekta un privātuma direktors Bens Vinterss (Ben Winters) lēmumu nosauca par neuzmanību uzņēmuma šobrīd svarīgākā produkta jomā un sasaistīja to ar Meta tiekšanos pēc lietotāju iesaistes uz drošības rēķina. Akadēmiskie pētījumi liecina, ka pieaugušo tematika var pagarināt lietotāju laiku pie MI rīkiem.
Elektroniskās privātuma informācijas centra (EPIC) vecākā juriste Kallija Šrēdere (Calli Schroeder) brīdināja, ka šādi konti var kļūt par hakeru mērķi. Ja uzbrucējs piekļūst kontam, intīmās sarakstes varētu izmantot lietotāja apkaunošanai vai šantāžai.
Salīdzinājums ar konkurentiem
OpenAI jaunais aģents Dots un xAI aģents Grok Bot līdzīgus pieprasījumus noraidīja. OpenAI iepriekš apsvēra erotiska teksta atļaušanu ChatGPT, taču šāda funkcija lietotājiem netika ieviesta.
