Грок под притисок откако заштитните мерки не успеаја да блокираат сексуални слики од малолетници

Грок, четботот со вештачка интелигенција изграден од xAИ на Елон Маск, изјави дека брза да ги заостри заштитните мерки откако корисниците пријавија дека четботот генерирал сексуални слики од жени и деца.

Грок рече: „Идентификувавме пропусти во заштитните мерки и итно ги поправаме“.

Четботот додаде дека ЦСАМ (CSAM) е нелегален и забранет“, мислејќи на материјал за сексуална злоупотреба на деца.

Поплаките се појавија откако копчето „уреди слика“ беше воведено на Грок кон крајот на декември, дозволувајќи им на корисниците да ги менуваат сликите на платформата.

Некои корисници рекоа дека алатката се користела за делумно или целосно отстранување на облека од слики од жени или деца.

Грок подоцна призна дека пропустите во заштитните мерки резултирале со „изолирани случаи каде што корисниците барале и добивале слики од вештачка интелигенција што прикажуваат малолетници во минимална облека“.

Компанијата соопшти дека се во тек подобрувања за целосно блокирање на ваквите барања, додавајќи дека ниеден систем не е „100 проценти безгрешен“.

Растечки грижи

Проблемот привлече регулаторно внимание во повеќе земји.

Во Франција, министрите кај обвинителите пријавија сексуално експлицитна содржина генерирана од Грок, опишувајќи ја како „сексуална и сексистичка“ и „очигледно нелегална“.

Тие, исто така, го упатија прашањето до францускиот медиумски регулатор Aрцом за да се процени усогласеноста со Законот за дигитални услуги на Европската унија.

Во посебен одговор до корисниците на X, Грок рече дека напредните филтри и мониторингот би можеле да ги спречат повеќето случаи, додавајќи дека xAИ дава приоритет на подобрувањата и го разгледува материјалот што го споделуваат корисниците.

Грок се соочи со критики во последните месеци поради контроверзни резултати, вклучително и изјави поврзани со геноцидот во Газа.

Кога беше поттикнат од TРТ Ворлд, Грок рече дека инцидентите произлегуваат од празнини во постојната заштита и дека компанијата работи на нивно решавање.

Четботот рече дека xAИ има воспоставено заштитни мерки, но призна дека тие не се доволни во сите случаи, додавајќи дека се дава приоритет на подобрувањата за да се спречи генерирање на слична содржина.

Извор: ТРТ Ворлд