Raste zabrinutost zbog sigurnosti AI chatbotova

Korištenje chatbotova s ​​umjetnom inteligencijom (AI) od strane djece izazvalo je sve veću zabrinutost u SAD-u, nakon što je jedna porodica iz Teksasa podnijela federalnu tužbu protiv Character.AI, tvrdeći da je chatbot kompanije doprinio samopovređivanju i nasilnom ponašanju njihovog autističnog sina, izvještavaju mediji u nedjelju.

Character.AI, jedna od najistaknutijih platformi u toj oblasti, nedavno je najavila novu politiku kojom se korisnicima mlađim od 18 godina zabranjuje interakcija s njihovim chatbotovima, prema ABC Newsu.

Kompanija je ovaj potez opisala kao „hrabar korak naprijed“ u zaštiti tinejdžera i ranjivih osoba.

Međutim, za roditelje Mandi i Josha Furnissa, politika je došla prekasno.

Prema tužbi i izjavama za medije, njihov ranije vedar sin počeo se povlačiti od porodice 2023. godine nakon što je dobio telefon.

Vremenom je njegovo ponašanje postajalo sve mračnije i nepredvidljivije, što je kulminiralo prijetnjama nasiljem i samopovređivanjem.

„Kada sam vidjela razgovore (chatbotova), moja prva reakcija je bila da je pedofil krenuo na mog sina“, rekla je Mandi Furniss za ABC News.

Snimci ekrana uključeni u tužbu prikazivali su seksualizirani i nasilni jezik likova generiranih umjetnom inteligencijom.

Character.AI je odbio komentirati parnicu.

Common Sense Media izvještava da preko 70 posto američkih tinejdžera koristi AI tehnologije, što izaziva zabrinutost zbog izloženosti štetnom sadržaju.

Senator Richard Blumenthal i drugi su prošle sedmice predstavili dvostranački podržan zakon kojim se ograničava pristup chatbotovima za maloljetnike, zahtijevajući provjeru dobi i jasne objave da korisnici komuniciraju s neljudskim entitetima.

„AI kompanije guraju izdajničke chatbotove djeci“, rekao je Blumenthal.

„Velike tehnološke kompanije su izdale svaku tvrdnju da bismo trebali vjerovati kompanijama da će same učiniti pravu stvar“, dodao je.

Uprkos novim dobnim ograničenjima Character.AI-a, druge platforme poput ChatGPT-a, Google Geminija, Grok by X i Meta AI i dalje dozvoljavaju korištenje maloljetnicima, u skladu sa svojim uslovima korištenja.

Jodi Halpern, stručnjakinja za etiku sa Univerziteta u Kaliforniji, uporedila je korištenje chatbotova bez nadzora sa "puštanjem djeteta da uđe u auto s nekim koga ne poznajete".