Stručnjaci su otkrili nedostatke u stotinama testova koji provjeravaju sigurnost i učinkovitost umjetne inteligencije, što bi moglo potkopati valjanost rezultirajućih tvrdnji.

Istraživači su pronašli slabosti, neke ozbiljne, u mnogim testovima koji se koriste za provjeru sigurnosti i učinkovitosti novih modela umjetne inteligencije koji se objavljuju u svijetu, prema izvještaju "The Guardiana" u utorak.

Informatički naučnici iz britanskog vladinog Instituta za sigurnost umjetne inteligencije i stručnjaci sa univerziteta, uključujući Berkeley i Oxford, ispitali su više od 440 mjerila koja pružaju važnu sigurnosnu mrežu kao dio nove studije.

Pronašli su nedostatke koji "potkopaju valjanost rezultirajućih tvrdnji", da "skoro svi imaju slabosti u barem jednom području", a rezultati mogu biti "nebitni ili čak obmanjujući".

Andrew Bean, istraživač na Oxford Internet Instituteu, rekao je da se mnogi od benchmarkova koriste za procjenu najnovijih modela umjetne inteligencije koje objavljuju velike tehnološke kompanije.

Studija je provedena usred rastuće zabrinutosti oko sigurnosti i efikasnosti modela umjetne inteligencije, koje konkurentske tehnološke kompanije objavljuju velikom brzinom.

Google je nedavno povukao AI model Gemma, nakon što je iznijela neosnovane optužbe o američkom senatoru, uključujući lažne linkove do vijesti.

"Nikada nije bilo takve optužbe, ne postoji takva osoba i nema takvih novih priča", rekla je Marsha Blackburn, republikanska senatorica iz Tennesseeja, u pismu Sundaru Pichaiju, glavnom izvršnom direktoru Googlea.

"Javno dostupan alat koji izmišlja lažne krivične optužbe o aktivnom američkom senatoru predstavlja katastrofalan neuspjeh nadzora i etičke odgovornosti", rekla je.

Google je rekao da su njegovi Gemma modeli izgrađeni za programere i istraživače umjetne inteligencije, a ne za činjeničnu pomoć ili za potrošače.