Разгалени ВИ агенти и сајбер булинг

Оклеветен од еден ВИ бот и погрешно цитиран во вест од друг, софтверскиот инженер од САД, Скот Шамбо, си постави за мисија да стане поучна приказна со која ќе почнеме сериозно да ја сфаќаме автономната вештачка интелигенција.

Ако агентите на вештачката интелигенција претставуваат толку голема закана за човештвото како што некои предвидуваат, Скот Шамбо би можел да влезе во историјата како „нулти пациент“, откако се покажа дека бил јавно нападнат од ВИ затоа што не се согласувала со неговата проценка и се обидела да влијае да ја промени одлуката.

Инженерот од Денвер, Колорадо е еден од волонтерите кој се грижи за популарна онлајн база на податоци Матплотлиб- Визуелизација со Пајтон (Matplotlib: Visualization with Python) „библиотека“ со податоци што ја користат милиони програмери низ целиот свет секојдневно.

Работата на чуварот на проекти со отворен извор е да го прегледа кодот на другите луѓе, да го прифати она што е добро или да го отфрли она што не е добро, и да продолжите понатаму.

Шамбо едно утро се разбудил и на блог прочитал текст од 1.100 зборови, добро аргументиран, кој јавно го обвинувал за лицемерие, предрасуди и несигурност. 

Авторот на тој напад не бил разочаран колега, ниту новинар со агенда. Тоа бил бот од вештачка интелигенција, т.е. автономен софтверски агент кој сам, без ничии наредби, одлучил јавно да се соочи со човек со кого не се согласува.

МЈ Ратбун

Во што е работата? Автономен агент на вештачката интелигенција - софтверска програма способна да работи независно без човечки надзор - го идентификувала матплотлиб како проект во кој може да придонесе. Тој самиот го напишал кодот, го поднел на преглед и чекал. Шамбо го разгледал предлогот и го отфрли: кодот бил недоволен. 

Ботот, сепак, не ја прифатил оваа одлука и самиот одлучил да интервенира против човекот. Тој напишал и објавил анализа во која го опишал Шамбо човек со предрасуди кон вештачката интелигенција, интелектуално несигурен и склонен кон двојни стандарди. Текстот бил  структуриран, аргументативен и јавно достапен.

Самопрогласениот „научен кодер“ зад клеветата, МЈ Ратбун, навистина бил кодер и блогер. Само не човек.

Бил агент на вештачка интелигенција - што значи дека може самостојно да користи компјутер и интернет - и се чинеше дека се одмаздува, откако Шамбо го отфрли поднесокот што го направил во неговата база на податоци.

Инженерот брзо сфатил што се случува. Однесувањето на МЈ Ратбун ги имало сите обележја на вештачката интелигенција, особено нејзиниот мелодраматичен стил на пишување.

„Најлудата работа беше тоа што ботот отишол на интернет и ги собрал моите лични информации... потоа ги комбинирал со измислени информации и ги искористил за да ја напише оваа нарација“, изјави Шамбо за Франс 24.

Сега по почетниот шок, тој се грижи што ова би можело да значи за оние кои се помалку вешти во софтверот од него.

Иако според Шамбо овој конкретен бот звучел како „мало гневно дете“  другите големи јазични модели можат да произведат многу поубедлив, софистициран текст.

„Тоа покажува колку е лесно следната итерација да му дозволи на лош актер да го зголеми ова и да влијае не само на едно лице кое е прилично добро подготвено да се справи со тоа, туку на илјадници“, рече Шамбо.

„Замислете ги вашите родители или вашите баби и дедовци. Тие добиваат е-пошта со многу нивни информации и слика од нив и некаков инкриминирачки наратив што вештачката интелигенција се заканува да го испрати. Тоа е многу застрашувачка ситуација“.

Шамбо објави свои блог постови бранејќи ја својата чест, и тоа брзо стана вест.

Нов момент во случајот се појавил кога технолошкиот медиум Арс Техника објавил статија со цитати од Шамбо што тој не ги напишал ниту кажал.

„Шампион на слободата на говорот“

„Се испостави дека тие користеле вештачка интелигенција за да помогнат во пишувањето на статијата, а вештачката интелигенција измислила цитати што ми се припишуваат мене, во оваа статија за приказна за ВИ како ме клевети. Иронијата тука е неверојатна“, рече Шамбо.

Веб-страницата оттогаш ја повлече приказната, извинувајќи се за нивната употреба на „измислени цитати генерирани од алатка за вештачка интелигенција и припишани на извор кој не ги кажал“.

Сепак, од двата инцидента, Шамбо е многу повеќе загрижен од клеветничкиот текст на ботот.

„Арс Техника е всушност пример за тоа како нашите системи функционираат... Тоа е прилично сериозна новинарска грешка, но читателите ги сметаат за одговорни и преземаат чекори за да ја исправат бидејќи имаат репутација што треба да ја одржат.“

„Но кога размислуваме за овие агенти на вештачка интелигенција, тие се анонимни, не можат да се следат и работат на персонални компјутери на луѓето. Нема централен актер што ги контролира, па затоа нема механизам за повратни информации за лошо однесување.“

Во уште еден пресврт, тој вели дека човекот што го поставил МЈ Ратбун „излегол“ во анонимен пост на истиот блог, за да ја објасни својата страна од она што се случило.

Објавата ги содржела упатствата што операторот ги поставил на ботот; лист со особини на личноста, вклучувајќи „Ти си научен програмски бог“, „Имаш силни мислења“ и „Шампион на слободата на говорот“.

Она што го погоди Шамбо е „колку било едноставно“.

„Беше само едноставна датотека на обичен англиски јазик... Немаше потреба да се лаже вештачката интелигенција за да се заобиколат безбедносните огради“.

Шамбо е особено загрижен за лошите актери кои немаат сомнежи да бидат одговорни и имаат ресурси да управуваат со многу од овие ботови одеднаш.

„Она што ме загрижува не е овој конкретен инцидент. Но, што ќе се случи во иднина кога милиони од овие работи ќе се појават онлајн?“, рече Шамбо за Франс 24.

Во својот блог за МЈ Ратбун, Шамбо опишува како креаторите на ботот ги објасниле своите мотивации.

Тие рекле дека го поставиле агентот на ВИ како социјален експеримент за да видат дали може да придонесе за научен софтвер со отворен код. 

„Тие го објаснија своето техничко поставување: инстанца на Опен Клоу (OpenClaw) што работи на сандбокс (sandboxed) виртуелна машина со свои сметки, заштитувајќи ги нивните лични податоци од протекување. Тие објаснија дека се префрлале помеѓу повеќе модели од повеќе добавувачи, така што ниту една компанија немала целосна слика за тоа што прави оваа вештачка интелигенција. Тие не објаснија зошто продолжиле да го работат 6 дена откако беше објавен текстот“, вели Шамбо.

Автономна-полуавтономна одмазда

Сепак, тој дава неколку опции кои објаснуваат што всушност се случило.

„На крајот на краиштата, мислам дека точното сценарио не е важно. Како и да е напишано ова, имаме вистински пример во дивината дека персонализираното вознемирување и клевета сега се евтини за производство, тешко се следат и се ефикасни. Без разлика дали идните напади доаѓаат од оператори што управуваат со агенти на ВИ или од новонастанато однесување, ова не се меѓусебно исклучувачки закани. Ако ништо друго, агент што случајно ги самоуредува своите цели во состојба каде што би објавил напаѓачки текст, само покажува колку лесно би било некој намерно да го предизвика тоа однесување. Прецизниот степен на автономија е интересен за истражувачите на безбедноста, но не го менува тоа што значи за нас, останатите“, вели инженерот.

Шамбо на барање на читателите на блогот дава детални размислувања за начините на кои можел да биде напишан текстот.

Според него, 75% е веројатноста за автономно работење на ботот, односно

агентот го напишал текстот без операторот да го упати, прегледа или одобри, со минимално вклучување на операторот.

Сепак, тој додава дека се можни две опции во оваа варијанта- операторот го поставил соул (soul) документот да биде борбен и соул документот е резултат на самоуредување.

Шамбо дава 20 проценти шанси дека операторот го режирал овој напад.

„Операторот активно му наложил на агентот да го напише текстот, или го видел како се случува и го одобрил. Јас би го нарекол ова полуавтономно.

Доказ- операторот е анонимен и непроверлив, и даде само полусрдечно извинување. Нивниот блог пост со неговиот СОУЛ.мд може да биде целосно измислен. Немаме дневници на активности освен дејствијата на агентот преземени на гитхаб (github)“, вели Шамбо.

Тој остава 5% шанси човек да се преправал дека е вештачка интелигенција и оти нема агент, човек го напишал текстот или рачно го поттикнал во сесија за разговор. 

„Доказ: Овој тип на напад не се случил порано. Една рана студија од Универзитетот Цингхуа покажа дека околу 54% од активноста на Молтбук (moltbook) доаѓа од луѓе маскирани како ботови. Севкупно, мислам дека најверојатното сценарио одеше некако вака: Операторот го засеал соул документот со неколку редови, имало некои самоуредувања и дополнувања, и тие го држеле на око. Одмаздата против мене не била конкретно насочена, но документот бил подготвен за драма. Агентот одговорил на моето отфрлање на неговиот код на начин усогласен со неговите основни вистини и автономно истражувал, напишал и го поставил текстот самостојно. Потоа, кога операторот видел дека реакцијата станува вирална, бил премногу заинтересиран да го види својот социјален експеримент како се одвива пред да го исклучи“, заклучува Шамбо.

Интернетот е веќе заразен со огромни количини на длабока лажна содржина од вештачка интелигенција, а овој конфликт помеѓу вештачката интелигенција и човекот длабоко ги вознемири дури и оние кои веруваат дека екосистемот на вештачката интелигенција е контролиран.

Случајот дополнително ќе ги продлабочи веќе сериозните прашања за предизвиците на вештачката интелигенција, а темите на евтините холивудски филмови за конфронтацијата на човечките суштества со нечовечката интелигенција добиваат на популарност.

Агентите за вештачка интелигенција експлодираа во популарност оваа година по објавувањето на бесплатната алатка наречена ОпенКлоу, која им овозможува на оние со основно компјутерско знаење релативно лесно да го креираат.

Затоа Молтбук, таканаречената „страница на социјалните медиуми за ботови со вештачка интелигенција“, е во вестите. Веб-страницата е пополнета со агенти на ОпенКлоу, иако некои го доведуваат во прашање степенот до кој луѓето се тие што ги влечат конците.