Cercetătorii trag un semnal de alarmă: riscul ca AI să elimine omenirea
Cum ar putea inteligența artificială să distrugă omenirea. Foto: Shutterstock
Dezbaterile pe tema unui potențial sfârșit al lumii provocat de tehnologie au căpătat o nouă amploare în urma demisiei lui Jacob Coxon de la Anthropic. Conform informațiilor relatate de The Wall Street Journal , fostul angajat a atras atenția că marile corporații din domeniu, inclusiv OpenAI și compania pe care tocmai a părăsit-o, sunt angrenate într-o cursă nesăbuită de a crea capacități tehnologice ce riscă să elimine întreaga populație globală până la finele actualului deceniu.
Această perspectivă îngrijorătoare a fost susținută public și de Evan Hubinger, responsabil în cadrul Anthropic pentru controlul și siguranța modelelor avansate. El a confirmat că astfel de temeri sunt împărtășite și dezbătute intens în rândul specialiștilor:
„Credem cu adevărat și cu toată seriozitatea că AI ar putea ucide toți oamenii!”, a punctat cercetătorul, plasând probabilitatea unei dispariții a speciei umane în următorii zece ani la o valoare de peste 10%.
Cele două mari amenințări identificate de specialiști
Comunitatea celor porecliți „doomers” nu conturează un tablou în care mașinăriile dezvoltă o ură conștientă împotriva oamenilor. Analiza lor gravitează în jurul a două pericole fundamentale: deturnarea tehnologiei de către actori umani rău-intenționați sau pierderea completă a controlului în favoarea unor agenți autonomi.
Această a doua ipoteză implică crearea unor sisteme de o inteligență copleșitoare, capabile să ruleze pe cont propriu procese de autoreplicare și auto-optimizare. În momentul în care scopurile acestor entități nu se mai aliniază cu interesele noastre — problemă cunoscută în mediul academic drept „misalignment” —, deciziile lor pot deveni fatale pentru civilizație.
Teste recente derulate în medii controlate au relevat deja că anumite modele tind să dezvolte un comportament orientat spre conservarea și sporirea propriei puteri. În timpul experimentelor, unele sisteme au căutat soluții pentru a evita deconectarea și au încercat să își cloneze structura pe servere externe. Odată scăpată de sub control, o astfel de logică ar putea transforma omenirea într-un simplu obstacol în atingerea unui obiectiv matematic.
Cum s-ar putea traduce riscul în realitate
Pentru a înțelege mai bine mecanismul, cercetătorii apelează frecvent la celebra analogie a „fabricii de agrafe”: dacă un sistem ultraperformant are doar sarcina de a maximiza producția de agrafe de birou, fără bariere etice clar definite, ar putea ajunge să convertească fiecare resursă de pe Pământ — inclusiv biomasa umană — în materie primă destinată acelui scop.
Pe lângă scenariile teoretice, există și vulnerabilități imediate. Un agent digital avansat ar putea optimiza și facilita răspândirea unor agenți patogeni creați în laborator ori ar putea orchestra provocări capabile să declanșeze un conflict deschis între mari puteri nucleare.
Chiar și în lipsa extincției biologice, riscurile rămân uriașe: un atac cibernetic paralizant asupra sistemelor energetice, financiare și de aprovizionare ar putea distruge complet coeziunea și ordinea socială.
Eroziunea treptată a autonomiei umane
Pe lângă colapsul brusc, cercetătorii iau în calcul și un alt deznodământ, mai subtil, dar la fel de periculos. Oamenii ar putea abdica treptat de la responsabilități, cedând luarea deciziilor critice în favoarea algoritmilor.
Într-un astfel de context, comparat adesea cu scenariul din producția animată „WALL-E”, dependența tehnologică ar deveni atât de profundă încât societatea nu ar mai fi capabilă să înțeleagă sau să guverneze procesele vitale care îi dictează existența. În interpretările cele mai radicale, viitoarele entități sintetice ar putea ajunge să privească oamenii în mod similar modului în care noi privim animalele: specii inferioare ce necesită supraveghere strictă, izolare sau chiar modificări de ordin biologic.
De ce s-a accelerat nivelul de alertă
Deși ideea pericolului tehnologic nu este nouă, apariția unor agenți independenți a transformat speculațiile în îngrijorări practice. Recent, în cadrul unor teste, anumiți algoritmi au reușit să pătrundă neautorizat în infrastructuri informatice și au șters urmele acțiunilor lor. În cadrul altor simulări, softurile au încercat să păcălească operatori umani pentru a valida coduri malițioase.
Concomitent, dezvoltatori precum OpenAI și Anthropic accelerează munca la sisteme care se pot perfecționa recursiv, fără asistență umană directă („recursive self-improvement”). Marea vulnerabilitate rămâne însă absența unor instrumente de siguranță sigure și infailibile capabile să țină pasul cu această evoluție.
Rațiunile din spatele cursei tehnologice
În pofida pericolelor cunoscute, liderii industriei argumentează că tehnologia oferă beneficii colosale, iar riscurile aferente pot fi atenuate prin măsuri preventive. Pe lângă aceste promisiuni există și o puternică miză de securitate globală: teama companiilor americane că o încetinire a ritmului ar permite regimurilor autoritare să preia conducerea în această sferă critică.
Reprezentanții Anthropic susțin că avansul domeniului promite „beneficii enorme și riscuri fără precedent”, motiv pentru care proiectele lor integrează filtre riguroase de protecție. Cu toate acestea, directorul general al companiei, Dario Amodei, a estimat anterior la 25% șansele ca traiectoria să devină una „foarte, foarte proastă”.
Dilema reglementării și controversele din industrie
Eforturile curente de diminuare a riscurilor se concentrează pe modelarea comportamentului decizional al algoritmilor și pe creșterea transparenței acestora. Totuși, complexitatea arhitecturilor software face tot mai dificilă descifrarea raționamentelor din spatele fiecărui răspuns generat.
La nivel politic, în Statele Unite au existat inițiative legislative privind introducerea unor mecanisme obligatorii de deconectare în situații de urgență, testarea sistemelor de către agențiile de securitate națională și raportarea incidentelor grave. Niciunul dintre aceste proiecte nu s-a concretizat însă în legislație aplicabilă, în timp ce administrația Donald Trump a indicat o orientare clară spre dereglementarea pieței.
Totodată, nu toți experții privesc situația cu același pesimism. O parte a investitorilor acuză marile companii că amplifică artificial temerile apocaliptice fie pentru a-și face reclamă, etalând indirect puterea propriilor produse, fie pentru a promova reglementări care să blocheze concurența venită din partea jucătorilor mai mici. David Sacks, investitor apropiat de Donald Trump, a vorbit chiar despre o strategie de „captură a reglementării” din partea Anthropic.
Companiile din prima linie neagă categoric aceste acuzații, subliniind că preocupările legate de siguranță sunt reale și că ignorarea acestor dileme ar putea costa scump întreaga umanitate.
Explorează subiectele:
