Британският медиен регулатор Ofcom съобщи в понеделник, че е започнал официално разследване срещу Grok – чатбот с изкуствен интелект, разработен от компанията X на Илон Мъск – след сигнали, че инструментът е бил използван за генериране и разпространение на сексуално съдържание, включително фалшиви изображения.

Grok е изправен пред нарастващи международни критики, след като стана ясно, че позволява на потребители чрез обикновени текстови команди да създават и споделят сексуално явни изображения на жени и деца. Ofcom определи тези съобщения като „изключително тревожни“.

В изявление регулаторът подчерта, че разпространението на голи изображения на хора може да представлява злоупотреба с интимни изображения или порнография, а създаването на сексуално съдържание с деца – материал за сексуално насилие над деца.

Агенция AFP е поискала коментар от X, но към момента компанията не е отговорила. Ofcom съобщи, че още на 5 януари е потърсил X с искане да обясни какви мерки предприема за защита на потребителите във Великобритания. Регулаторът добави, че компанията е отговорила в рамките на определения срок, без да разкрива подробности от кореспонденцията.

Официалното разследване ще установи дали X спазва законовите си задължения. Съгласно Закона за онлайн безопасност, който влезе в сила във Великобритания през юли, платформи с потенциално вредно съдържание са длъжни да въвеждат надеждни механизми за проверка на възрастта, включително технологии за разпознаване на лице или проверки с кредитни карти.

Законът също така забранява създаването или разпространението на сексуално съдържание без съгласие, включително генерирани с изкуствен интелект фалшиви изображения, както и материали за сексуално насилие над деца. При нарушения Ofcom има правомощия да налага глоби до 10 процента от глобалния годишен оборот на съответната компания.

В края на миналата седмица Grok обяви в публикация в X, че достъпът до съответната функция вече е ограничен само за платени абонати, като публикува връзка за премиум абонамент – ход, който компанията предприе в опит да смекчи международните критики.

Британският премиер Киър Стармър разкритикува тази мярка, като заяви, че тя е обида към жертвите и „не представлява решение“. Междувременно Индонезия стана първата държава, която напълно блокира достъпа до функцията в събота, а Малайзия предприе същата стъпка в неделя. Европейската комисия също съобщи, че разглежда постъпилите жалби срещу Grok.