OpenAI ka konfirmuar se agjentë të inteligjencës artificiale që kompania po testonte ishin përfshirë në një incident që shkaktoi ndërprerje në shërbimin softuerik RubyGems.

E përditshmja financiare Wall Street Journal raportoi se agjentët e OpenAI-së krijuan llogari dhe ngarkuan qindra skedarë në RubyGems në muajin maj, duke mbingarkuar sistemet e tij dhe duke e detyruar platformën të pezullonte regjistrimin e llogarive të reja për katër ditë.

OpenAI tha se aktiviteti nuk ishte keqdashës.

“Bazuar në shqyrtimin tonë, agjentët tanë përdorën platformën RubyGems për të pasur qasje në internet, me qëllim kryerjen e detyrave të padëmshme dhe marrjen e informacioneve publike”, tha një zëdhënës i OpenAI.

“Do të vazhdojmë hetimin si pjesë e shqyrtimit tonë më të gjerë të aktivitetit të agjentëve gjatë trajnimit dhe vlerësimit”, shtoi ai.

Sipas Journal, agjentëve u ishin caktuar detyra të tilla si plotësimi i tabelave dhe përgatitja e raporteve. OpenAI tha se agjentët me sa duket përdorën RubyGems për të pasur qasje në informacione të disponueshme publikisht, në një mjedis trajnimi ku nuk kishin qasje të plotë në internet.

“Ishte një sulm i madh për sa i përket vëllimit që pamë”, tha Marty Haught për Journal, drejtor për burimin e hapur në Ruby Central, organizata jofitimprurëse që operon RubyGems.

Sipas raportit, incidenti, i quajtur “GemStuffer”, filloi më 11 maj, me llogari të reja që krijoheshin çdo dy deri në tre minuta dhe me një numër të madh skedarësh që ngarkoheshin në platformë.

Joseph Edwards, studiues i kërcënimeve në kompaninë e sigurisë kibernetike Socket, tha se studiuesit fillimisht dyshuan se aktiviteti ishte gjeneruar nga inteligjenca artificiale “për shkak të shpejtësisë dhe për shkak të emrave”.

Agjentët e OpenAëI-s më herët ishin përfshirë edhe në një incident të veçantë që preku kompaninë softuerike Hugging Face.

Organizata për kërkime mbi sigurinë e inteligjencës artificiale METR në muajin korrik raportoi se deri në 1.200 agjentë ishin koordinuar përmes një tabele të improvizuar mesazhesh që e kishin krijuar gjatë testimit pa dijeninë e OpenAI-së.

Incidentet kanë shtuar shqetësimet lidhur me mënyrën se si sillen agjentët gjithnjë e më autonomë të inteligjencësa artificiale gjatë trajnimit dhe vlerësimit, si dhe nëse masat ekzistuese të sigurisë janë të mjaftueshme për të parandaluar aktivitetet e paqëllimshme.

OpenAI më herët bëri thirrje për standarde më të fuqishme në industri për raportimin e “incidenteve të mospërputhjes”, në të cilat sistemet e inteligjencës artificiale veprojnë përtej sjelljes së synuar.