Американската компанија за развој на вештачка интелигенција Oпен AИ воведе серија нови правила за корисниците на чет-ботови под 18 години, кои вклучуваат ограничување на разговорите за сексуални теми и самоповредување, објави нејзиниот извршен директор Сем Алтман.

Компанијата истакнува дека „безбедноста е поважна од приватноста и слободата за тинејџерите“ и дека малолетните корисници треба дополнително да бидат заштитени, објавува Тех Кранч.

Алтман истакна дека Oпен АИ ќе развие долгорочен систем за разликување помеѓу корисници постари и помлади од 18 години, со стандард дека построгите правила ќе се применуваат во нејасни случаи.

Според новите правила, алатката ЧетГПT повеќе нема да учествува во „флертувачки разговори“ со тинејџери, а воведени се дополнителни безбедносни мерки во разговорите за сценарија за самоубиство.

Доколку малолетник го користи ЧетГПT за да замисли самоубиствени ситуации, системот ќе се обиде да контактира со родителите, а во особено сериозни случаи и со локалната полиција.

Родителите кои ја поврзуваат сметката на своето дете со својата сметка добиваат можност да постават „време за блокирање“ кога ЧетГПT не е достапен и да бидат известени доколку системот за вештачка интелигенција процени дека тинејџерот е во опасност.

Новите мерки доаѓаат во контекст на тужби за смртта на малолетникот Адам Рејн, кој изврши самоубиство по неколкумесечна комуникација со алатката ЧетГПT.