Apple je upozorio da bi agenti umjetne inteligencije mogli pristupati računarskim sistemima ili obavljati transakcije bez odobrenja, što bi kompaniju moglo izložiti tužbama i narušavanju ugleda.
U svom godišnjem izvještaju dostavljenom američkoj Komisiji za vrijednosne papire i berzu (SEC), Apple je u utorak naveo da bi AI agenti mogli samostalno izvršavati ili mijenjati softverski kod, slati poruke i obavljati transakcije.
Tokom obavljanja takvih zadataka, agenti bi mogli komunicirati sa sistemima unutar kompanije ili izvan nje, bez potrebnih dozvola, navodi se u izvještaju.
„Mogli bi se ponašati na neželjene ili nepredvidive načine, uključujući poduzimanje radnji koje im nisu naložene, zadate ili odobrene“, upozorio je Apple.
„Upotreba umjetne inteligencije u razvoju i radu softvera operativnih sistema, aplikacija i usluga mogla bi dovesti i do dodatnih rizika zbog grešaka, propusta ili ranjivosti.“
Kompanija je upozorila da bi njena mogućnost nadzora i kontrole AI agenata koje razvijaju treće strane mogla biti ograničena.
Ovo upozorenje uslijedilo je nakon što je Apple u oktobru najavio izmjene kojima se pooštravaju kontrole pristupa cijelom disku na Mac računarima. Riječ je o dozvoli koja softveru može omogućiti širok pristup pohranjenim datotekama.
Apple ističe važnost zaštite privatnosti
Izvještaj je objavljen dan nakon što je izvršni direktor Applea John Ternus analitičarima rekao da kompanija vidi mogućnosti za proširenje zadataka koje Siri, njen digitalni asistent, može obavljati u ime korisnika.
Ternus je naglasio važnost toga da korisnici razumiju kojim informacijama i sistemima omogućavaju pristup AI agentima.
„Želimo osigurati da se to radi na način koji štiti sigurnost i privatnost“, rekao je Ternus tokom konferencijskog poziva o poslovnim rezultatima u ponedjeljak.
Ukazao je na osjetljive informacije pohranjene na iPhone uređajima, uključujući kontakte, poruke, zdravstvene kartone i finansijske podatke.
Ternus je rekao da bi Siri mogla pomoći korisnicima da pronađu lične podatke pohranjene na njihovim uređajima, a da pritom ti podaci ostanu nedostupni samom Appleu.
Apple je u izvještaju upozorio i da bi izmjene zakona kojima se reguliše umjetna inteligencija mogle povećati troškove usklađivanja s propisima.
Kompanija je kao dodatne poslovne rizike navela zabrinutost javnosti zbog sigurnosti autonomnih sistema i moguće štete koju bi oni mogli prouzrokovati.
