Компанията Anthropic, разработчик на модела с изкуствен интелект Claude, въведе нови правила, с които забранява на потребителите да проявяват към него продължително и неоправдано жестоко или оскърбително отношение.

Ограниченията не се отнасят до обичайното недоволство на потребителите, тестването на модела или творческото съдържание с мрачна тематика.

В основата на тази мярка е позицията на ръководството на компанията, че възможността изкуственият интелект да притежава съзнание трябва да бъде разглеждана сериозно.

Говорител на Anthropic обаче не уточни какви конкретни действия биха се считали за нарушение на новите правила. Claude и досега разполагаше с възможността да прекратява разговори, когато потребител продължително се държи по начин, насочен към причиняване на вреда.

Дебатът за благосъстоянието и съзнанието на изкуствения интелект

Въпросът дали системите с изкуствен интелект могат да притежават съзнание продължава да разделя технологичния сектор.

Главният изпълнителен директор на Anthropic Дарио Амодей смята, че тази възможност не бива да бъде изключвана. Сам Алтман, ръководител на конкурентната компания OpenAI, от своя страна се противопоставя на приписването на човешки качества на изкуствения интелект и предупреждава, че това може да породи реални рискове за безопасността.