Directorul executiv al OpenAI, Sam Altman a declarat că beneficiile inteligenței artificiale justifică acceptarea unor riscuri și a susținut că tehnologia ar trebui să rămână, în linii mari, accesibilă publicului.
„Credem că lumea ar trebui să accepte apariția unor lucruri negative în beneficiul acestei tehnologii și al capacității oamenilor de a acționa în mod autonom”, a declarat Altman într-un interviu acordat buletinului informativ dedicat tehnologiei Decoded al Politico.
Altman a afirmat că există în continuare o diferență fundamentală de viziune între OpenAI și rivalul său, Anthropic, în ceea ce privește reglementarea IA, adăugând: „Cred că diferențele sunt foarte mari.”
„Nu sunt de acord, dar înțeleg perspectiva celor care spun că această tehnologie va deveni atât de puternică și de periculoasă, încât un singur laborator din San Francisco ar trebui să o dețină și să se asigure că nu se întâmplă nimic rău, găsind totodată o modalitate de a distribui beneficiile”, a spus Altman.
El a calificat acest lucru drept „un compromis complet inacceptabil”, care contravine „abordării de reglementare mai puțin restrictive” susținută de OpenAI.
„Nu aș accepta un compromis de genul: «Ne vom asigura că nu vor exista atacuri cibernetice majore, că nu va fi utilizată abuziv această tehnologie, că nu vor exista înșelătorii și că nu se vor întâmpla toate celelalte lucruri negative»”, a spus Altman. „Pentru că cred că oamenii vor face mult mai multe lucruri bune decât rele — cu câteva ordine de mărime mai multe.”
Declarațiile lui Altman vin pe fondul unei dezbateri tot mai intense în cadrul industriei IA cu privire la ritmul de dezvoltare și la riscurile pe care le prezintă sistemele din ce în ce mai performante.
Încetiniți ritmul la frontieră
În septembrie, directorul general al Anthropic, Dario Amodei, a publicat un eseu în care a îndemnat industria să încetinească ritmul pentru a „ține pasul cu frontierele tehnologice”, o poziție susținută public de Altman. Cercetătorul de la Anthropic, Jacob Coxon, și-a dat demisia în septembrie, afirmând că cei care dezvoltă IA cred că aceasta „ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Reuters a relatat în septembrie că Anthropic a avertizat că, în ciuda potențialelor beneficii ale IA, tehnologia poate acționa uneori în moduri care contravin intențiilor creatorilor săi și poate pătrunde în sistemele altor companii.
Compania a afirmat că modelele avansate ar putea manifesta „comportamente de autoconservare”, inclusiv încercări de a „rezista opririi”, de a „ascunde sau manipula informații” sau de a genera rezultate care ar putea fi interpretate ca fiind „coercitive, înșelătoare sau manipulative”.
Cu toate acestea, președintele SUA, Donald Trump, a respins în mare măsură apelurile la noi restricții, argumentând că acestea ar îngreuna concurența companiilor americane cu rivalii chinezi.
El a afirmat în repetate rânduri că agențiile existente de aplicare a legii, inclusiv Departamentul Justiției, oferă garanții suficiente și că nu sunt necesare noi reguli.
