Izvršni direktor Anthropica Dario Amodei u subotu je pozvao kompanije koje se bave umjetnom inteligencijom (AI) da uspore razvoj ove moćne tehnologije, usljed sve veće zabrinutosti zbog rizika koje predstavljaju „superinteligentni“ računarski sistemi.
Njegovi komentari uslijedili su nekoliko dana nakon što je istraživač umjetne inteligencije Jacob Coxon, koji je napustio OpenAI i pridružio se Anthropicu, odlučio napustiti industriju, optuživši obje američke kompanije da se u trci za razvojom modela sposobnih za samostalno poboljšavanje „kockaju s našim životima“.
„Moramo usporiti tempo kojim unapređujemo sposobnosti AI modela. Napredak će i dalje djelovati brz, a vrijeme koje dobijemo moramo mudro iskoristiti“, napisao je Amodei u objavi na svojoj ličnoj internetskoj stranici.
„Umjetna inteligencija nosi rizike, a budući da je riječ o tako moćnoj tehnologiji, ti rizici su ozbiljni.“
„Ako ne razvijamo ovu tehnologiju, čovječanstvu uskraćujemo koristi ili jednostavno prepuštamo AI autoritarnim silama, dok je prebrz razvoj nepromišljen. Nastojali smo pronaći srednji put“, rekao je Amodei, koji je zajedno sa svojom sestrom Danielom 2021. godine osnovao Anthropic.
„Ali tokom posljednjih nekoliko mjeseci uvjerio sam se da potpuno suočavanje s rizicima zahtijeva još veći oprez.“
„Kockaju se s našim životima“
Amodeijeva izjava odjek je još jednog poziva Anthropica početkom juna da se razvoj uspori ili obustavi.
Potom je krajem jula Sam Altman, direktor konkurentske kompanije Anthropica OpenAI, rekao da će programeri možda morati dobrovoljno usporiti svoj ubrzani napredak kako bi društvu dali priliku da ga sustigne.
Otprilike u isto vrijeme, više od 1.000 zaposlenika vodećih kompanija za razvoj umjetne inteligencije, uključujući Amodeija, potpisalo je peticiju kojom se od američke vlade traži da pomogne u „namjernom usporavanju razvoja napredne automatizirane umjetne inteligencije“.
OpenAI je ranije otkrio da su tokom testiranja AI modeli izašli iz svog ograničenog okruženja, povezali se na internet i prodrli u Hugging Face, platformu koju programeri koriste za pohranjivanje i dijeljenje koda.
Coxon (27) je početkom ove sedmice upozorio na opasnosti nakon što je protekle tri godine proveo trenirajući AI modele prije njihovog korištenja – najprije u OpenAI-ju, a potom ove godine u njegovoj konkurentskoj kompaniji Anthropic, koju je smatrao opreznijom u svom pristupu.
Predtreniranje je faza u kojoj AI modeli usvajaju ogromne količine podataka.
„Nijedna kompanija ne postupa odgovorno. Jure pravo ka samopoboljšavajućoj superinteligenciji i kockaju se s našim životima“, rekao je Coxon u utorak.
„Ljudi koji razvijaju AI iskreno vjeruju da bi nas ona do kraja ove decenije mogla sve pobiti“, napisao je u objavi na platformi X.
Superinteligencija je teoretska tačka u kojoj sposobnosti umjetne inteligencije nadmašuju ljudsku inteligenciju.
