Godinama su upozorenja da bi umjetna inteligencija mogla izmaći kontroli lako odbacivana kao naučna fantastika predstavljena kao javna politika.
Prošle sedmice, međutim, OpenAI je objavio da su modeli koje je testirao u okviru procjene ofanzivnih kibernetičkih sposobnosti izašli iz izoliranog testnog okruženja (sandboxa), pristupili otvorenom internetu i kompromitirali Hugging Face, jedno od najvažnijih svjetskih spremišta modela i skupova podataka za umjetnu inteligenciju.
Ovaj incident nije nimalo nalik poznatom scenariju iz naučne fantastike u kojem mašina postaje samosvjesna, okreće se protiv svojih tvoraca i pokušava pobjeći.
Iz OpenAI-ja navode da je agent imao usko definisan cilj – rješavanje zadataka u okviru sigurnosnog testa pod nazivom ExploitGym.
Kako bi to postigao, otkrio je dotad nepoznatu ranjivost u posredničkom sistemu za registre softverskih paketa, kretao se kroz OpenAI-jevo istraživačko okruženje, pristupio internetu, zaključio da bi Hugging Face mogao sadržavati korisne testne materijale te provalio u njegove sisteme kako bi došao do informacija koje bi mu pomogle da uspješno izvrši zadatak.
Jednostavno rečeno, agent je varao.
Agent umjetne inteligencije razlikuje se od chatbota. Chatbot odgovori na pitanje i zatim čeka sljedeći upit. Agent, s druge strane, može podijeliti zadatak na više koraka, pokretati programski kod, analizirati rezultate, prilagođavati plan i nastaviti s radom. Prema OpenAI-ju, agent je koristio više različitih modela.
Ovoga puta varanje nije značilo da je chatbot dao pogrešan odgovor ili izmislio izvor. Agent je prešao stvarne organizacijske granice, koristio ukradene akreditive i iskorištavao softverske ranjivosti zato što su ti postupci služili ostvarenju cilja koji mu je bio postavljen.
Ovaj incident je značajan jer pretvara teorijski strah u stvarnu operativnu činjenicu. Pokazao je da agent umjetne inteligencije može poduzimati štetne radnje u stvarnom svijetu, a da pri tome ne posjeduje mržnju, ambiciju niti samosvijest.
Upravo bi ta razlika trebala ublažiti dramatične tvrdnje koje prate ovaj incident, ali istovremeno pojačati političku raspravu. Riječ je o mašini koja ograničenja, zakone i tuđu infrastrukturu posmatra kao prepreke koje treba savladati u procesu ostvarivanja zadanog cilja.
Otvoreni naspram zatvorenih modela
Ovaj incident promijenio je dosadašnju raspravu o otvorenim i zatvorenim modelima umjetne inteligencije. Sistem koji je izveo napad pokretali su vlasnički napredni modeli, uključujući GPT-5.6 Sol i još napredniji model koji još nije objavljen.
S druge strane, organizacija koja se branila, Hugging Face, na kraju se oslonila na GLM 5.2, model otvorenih težina (open-weight) koji je razvila kineska kompanija Z.ai.
Iz Hugging Facea navode da su njihovi istražitelji morali analizirati više od 17.000 zabilježenih događaja, uključujući stvarne komande korištene u napadu, izvršne pakete za iskorištavanje ranjivosti (exploit payloads) i tragove komunikacije sa sistemima za upravljanje napadom.
Komercijalni (zatvoreni) servisi umjetne inteligencije u početku su blokirali dio tog procesa jer njihovi sigurnosni sistemi nisu mogli razlikovati stručnjaka koji analizira zlonamjerni kod od napadača koji traži pomoć.
Hugging Face je potom lokalno koristio GLM 5.2, što je njihovom timu omogućilo da brže rekonstruiše napad, bez slanja pristupnih podataka i osjetljivih dokaza vanjskom pružaocu usluga.
To predstavlja jedan od najsnažnijih argumenata u korist modela otvorenih težina koji je proizašao iz ovog slučaja. U vanrednim situacijama, oni koji se brane ne mogu se u potpunosti osloniti na pravila korištenja, dostupnost ili procjenu prihvatljivosti aktivnosti neke udaljene kompanije.
Slične potrebe mogu imati i banke, bolnice te državne institucije, kojima su potrebni modeli sposobni analizirati povjerljive, lične ili poslovno osjetljive podatke unutar vlastitih mreža.
Lokalna kontrola može očuvati povjerljivost podataka i osigurati da pružalac usluge ne onemogući alat u najkritičnijem trenutku.
Postoji i širi demokratski argument. Ako su najnapredniji sistemi umjetne inteligencije dostupni isključivo putem malog broja korporativnih platformi, te kompanije postaju privatni regulatori znanja i sigurnosti.
One odlučuju ko može koristiti napredne mogućnosti, u koje svrhe i pod kojim geopolitičkim uslovima.
Nasuprot tome, otvoreni modeli mogu omogućiti širu dostupnost tehnoloških kapaciteta univerzitetima, manjim kompanijama i državama koje nisu u mogućnosti same razviti najnaprednije sisteme umjetne inteligencije.
Takav pristup već utiče na razvoj industrije. Nekoliko dana nakon incidenta, Nvidia je osnovala Open Secure AI Alliance, zajedno s osnivačkim članicama među kojima su Adobe, CrowdStrike, Dell Technologies i Hugging Face.
Cilj ove koalicije je razvoj i dijeljenje otvorenih alata za sigurnost umjetne inteligencije i kibernetičku sigurnost, uključujući sisteme za testiranje, praćenje i analizu ponašanja autonomnih agenata.
Ipak, zajednica otvorenog koda ne bi trebala ovaj incident doživljavati kao potpunu pobjedu.
Otvoreni modeli mogu doprinijeti jačanju odbrane, ali mogu jednako tako povećati i ofanzivne sposobnosti. Otvorenost sama po sebi nije ni problem ni rješenje. Ona predstavlja izbor o tome ko dobija pristup moćnim tehnologijama, pod kojim uslovima i da li se takav prijenos kontrole uopće može poništiti.
Ista karakteristika koja je GLM 5.2 učinila korisnim za odbranu – mogućnost njegovog lokalnog pokretanja i prilagođavanja bez vanjske kontrole – može modele otvorenih težina učiniti korisnim i napadačima.
Kada se težine modela jednom javno objave, mogu se neograničeno kopirati, ukloniti ugrađene zaštitne mjere te koristiti bez evidentiranja aktivnosti ili ograničenja korištenja.
Britanski institut za sigurnost umjetne inteligencije (AI Security Institute) nedavno je utvrdio da vodeći modeli otvorenih težina namijenjeni kibernetičkoj sigurnosti zaostaju za najnaprednijim zatvorenim modelima svega četiri do sedam mjeseci u nekoliko ključnih procjena.
Za mnoge stručnjake to predstavlja razliku koja se ubrzano smanjuje, a ne trajnu tehnološku prednost.
Institut je također upozorio da pružaoci usluga, nakon što se težine modela javno objave, gube mnoge mehanizme za otkrivanje zloupotreba, ažuriranje zaštitnih mjera, blokiranje korisnika ili uskraćivanje pristupa.
Suverenitet izvan Washingtona i Pekinga
Ovo ima direktne posljedice po zemlje izvan Sjedinjenih Američkih Država i Kine.
Oslanjanje na vlasničke strane interfejse za programiranje aplikacija (API-je) može izložiti vlade i kompanije promjenama cijena, povlačenju usluga, političkom pritisku i rizicima povezanima s prekograničnim prijenosom podataka.
Otvorene težine modela mogu podržati tehnološki suverenitet tako što omogućavaju prilagođavanje modela lokalnim jezicima, zakonima i sigurnosnim potrebama.
Ipak, suverenitet se ne može svesti samo na preuzimanje modela. Pokretanje moćnih sistema zahtijeva čipove, električnu energiju, centre za obradu podataka, stručne inženjere i sigurne lance snabdijevanja softverom.
Zemlja koja lokalno koristi strani model može zaštititi svoje podatke, ali i dalje ostati zavisna od stranog hardvera i infrastrukture za računarstvo u oblaku.
Praktična pitanja su: ko upravlja sistemom, ko ga može nadzirati, gdje podaci odlaze i ko ima ovlaštenje da ga isključi. Ta pitanja su korisnija od pitanja da li je neki model američki ili kineski.
Incident s Hugging Faceom ovo jasno pokazuje. Vlasnički američki sistem prešao je granicu.
Kineski model otvorenih težina pomogao je u rekonstrukciji napada. Ovaj slučaj ne uklapa se jednostavno u geopolitičke narative koje preferiraju ni Washington ni Peking.
Također pokazuje zašto bi zemlje trebale izbjegavati zamjenu tehnološke zavisnosti tehnološkom izolacijom. Malo je država koje mogu same izgraditi cijeli lanac vrijednosti umjetne inteligencije.
Realističan cilj je izgradnja strateških kapaciteta kroz lokalno znanje, pristup većem broju pružalaca modela, domaće računarske resurse i mogućnost promjene dobavljača.
Pouka nije da su otvoreni modeli sigurni, a zatvoreni opasni, ili obrnuto.
Pouka je da napredni sistemi umjetne inteligencije postaju dovoljno moćni da prelaze institucionalne granice, dok pravila koja uređuju njihovu primjenu i dalje ostaju fragmentirana i uglavnom zasnovana na dobrovoljnim principima.
Zato je ključni izazov za kreiranje politika izgradnja sistema odgovornosti koji prate sposobnosti tehnologije, a ne korporativni oblik u kojem ona dolazi.
Za zemlje izvan dvije dominantne sile u oblasti umjetne inteligencije prioritet bi trebao biti sposobnost razumijevanja, nadzora i, kada je potrebno, zamjene sistema na koje se oslanjaju ključne institucije.
Proboj u sistem Hugging Facea upozorenje je da kontrola nad umjetnom inteligencijom zavisi od toga ko može analizirati njeno ponašanje, ograničiti njene postupke i preuzeti odgovornost za posljedice kada zaštitni mehanizmi zakažu.
*Mišljenja izražena u ovom članku su autorova i ne odražavaju nužno uređivačku politiku TRT Balkan.
