Reglementatorul media din Marea Britanie, Ofcom a lansat luni o anchetă oficială în legătură cu X, platforma lui Elon Musk, din cauza funcției de generare a imaginilor a chatbotului de inteligență artificială Grok, folosită pentru a crea deepfake-uri sexualizate.

Grok se confruntă cu o reacție internațională tot mai puternică pentru că permite utilizatorilor să creeze și să partajeze imagini sexualizate cu femei și copii, folosind simple comenzi text.

Ofcom a descris relatările ca fiind „extrem de îngrijorătoare”.

Într-o declarație, autoritatea a afirmat că imaginile cu persoane dezbrăcate „pot constitui abuz de imagini intime sau pornografie, iar imaginile cu caracter sexual ale copiilor... pot constitui material cu abuz sexual asupra copiilor”.

Contactat de AFP, X nu a răspuns imediat.

Ofcom a declarat că a contactat X pe 5 ianuarie, cerându-i să explice măsurile pe care le-a luat pentru a proteja utilizatorii din Regatul Unit.

Fără a oferi detalii despre schimbul de mesaje, reglementatorul a spus că X a răspuns în termenul acordat.

Ancheta oficială va stabili dacă X „nu și-a respectat obligațiile legale”.

În conformitate cu Legea britanică privind siguranța online, care a intrat în vigoare în iulie, site-urile web, rețelele de socializare și platformele de partajare a videoclipurilor, care găzduiesc conținut potențial dăunător, sunt obligate să implementeze verificări stricte ale vârstei prin instrumente precum imagini faciale sau verificări ale cardurilor de credit.

De asemenea, este ilegal ca site-urile media să creeze sau să distribuie imagini intime fără consimțământ sau materiale de abuz sexual asupra copiilor, inclusiv deepfake-uri sexuale generate cu inteligența artificială.

Ofcom are competența de a aplica amenzi în valoare de 10% din veniturile mondiale pentru încălcarea acestor norme.

Grok a părut să devieze criticile internaționale cu o nouă politică de monetizare la sfârșitul săptămânii trecute, postând pe X că instrumentul era acum „limitat la abonații plătitori”, alături de un link către un abonament premium.

Prim-ministrul Marii Britanii, Keir Starmer a condamnat măsura ca pe „o ofensă adusă victimelor și nu o soluție”.

Sâmbătă, Indonezia a devenit prima țară care a interzis complet accesul la instrument, iar duminică Malaysia i-a urmat exemplul.

Comisia Europeană a anunțat că examinează plângerile privind Grok.