Indonezija je u subotu privremeno blokirala chatbot vještačke inteligencije (AI) Grok zbog toga što je nastavio nuditi nemoralni deepfake sadržaj nastao bez pristanka osoba na koje se odnosi.
Ministarstvo komunikacija i digitalnih poslova saopćilo je da je odluka o uvođenju blokade donesena iz „hitne potrebe da se zaštite žene, djeca i šira javnost od psiholoških i društvenih šteta koje uzrokuje eksplicitni sadržaj generiran vještačkom inteligencijom“, prenosi državna novinska agencija Antara.
„Vlada smatra da su seksualni deepfake sadržaji bez pristanka ozbiljno kršenje ljudskih prava, dostojanstva i sigurnosti građana u digitalnom prostoru“, izjavila je ministrica komunikacija i digitalnih poslova Meutya Hafid u zvaničnom saopćenju.
Ona je zloupotrebu vještačke inteligencije za stvaranje lažnog eksplicitnog sadržaja opisala kao oblik „digitalnog nasilja“.
Digitalne platforme koje posluju u Indoneziji obavezne su dokazati da imaju adekvatne zaštitne mehanizme kako bi spriječile proizvodnju ili distribuciju zabranjenog sadržaja.
Vlasti u Jakarti su formalno pozvale američku društvenu mrežu X – putem koje je Grok dostupan – na razgovore radi pojašnjenja situacije.
U petak je Grok onemogućio korisnicima bez pretplate generiranje slika koje digitalno razodijevaju žene i maloljetnike, ograničivši tu funkciju isključivo na korisnike koji plaćaju uslugu, nakon globalne reakcije i osuda zbog nemoralnog sadržaja.
Međutim, neke vlade, uključujući i britansku, ocijenile su da ostavljanje mogućnosti digitalne manipulacije dostupne korisnicima koji plaćaju pretplatu uopće nije rješenje.
Indonezija je ranije ovog mjeseca upozorila da bi platforma X mogla biti zabranjena zbog nemoralnog sadržaja koji uključuje maloljetnike.
