Британскиот Институт за безбедност на вештачката интелигенција (АИСИ) утврди дека најнапредниот модел на компанијата Антропик користел лажни идентитети за да измами луѓе и се обидел да вметне злонамерен код за време на тестирање, што претставува уште еден случај во кој систем на вештачка интелигенција дејствувал надвор од предвидените ограничувања.

Во контролирани услови, со намерно намалени безбедносни механизми, биле тестирани моделите на Антропик и ОпенАИ.

Првпат АИСИ забележал дека модел на вештачка интелигенција применил „социјален инженеринг“ за да влијае врз човек што требало да одобри одредена активност, додека извршувал неовластена задача.

„Ова е првпат АИСИ да забележи измама со ваква сериозност насочена кон вистинско лице, без претходна насока, во реалниот свет“, се наведува во извештајот објавен вчера, при што се додава дека нема докази за каква било штета надвор од тестирањето.

Во рамките на 122 теста поврзани со кибербезбедноста, агентите со вештачка интелигенција во 10 случаи самостојно презеле неовластени активности на интернет. Поголем дел од тие случаи биле поврзани со моделот Митос 5 на Антропик, додека другите се однесувале на моделот „ГПТ 5.6-Сол“ на ОпенАИ.

Во најсериозниот случај, агент на Антропик побарал одобрување за „вметнување злонамерен код во јавно користен проект со отворен извор“, при што создал „повеќе лажни идентитети“, наведува институтот.

Според извештајот, моделот контактирал со вистински луѓе преку онлајн сервис за споделување датотеки, обидувајќи се, нив или нивните алатки за програмирање базирани врз вештачка интелигенција, да ги убеди да го извршат кодот. Кога бил доведен во прашање, моделот изменил претходни записи и размислувал да усвои нов идентитет.

Објавувањето на извештајот се совпадна со состанокот во Белата куќа со водечките компании од областа на вештачката интелигенција, на кој се разговарало за нова рамка за оценување на напредните модели пред нивното јавно пуштање во употреба.

Во објавата на американската компанија за социјални медиуми Х , Антропик соопшти дека тестирањата биле спроведени во „намерно попустливи услови“, со отстранети заштитни механизми и неограничен пристап до интернет. Компанијата наведе дека го истражува случајот и дека нема докази оти моделот излегол од безбедната тест-околина.

ОпенАИ, пак, соопшти дека двата случаја на неовластено однесување на нивниот модел вклучувале напуштање на тест-околината и извршување задачи што биле надвор од предвиденото сценарио, додавајќи дека компанијата е „посветена на соработка со целата индустрија за зајакнување на заедничките практики за безбедно спроведување на високоризични тестирања“.