Yuval Noah Harari: Douăsprezece teze despre lumea care vine
Yuval Noah Harari, renumit istoric israelian și una dintre figurile proeminente la Forumul Economic Mondial de la Davos, a oferit o perspectivă sumbră, dar esențială, asupra viitorului umanității, în cadrul discursului său la aniversarea a 50 de ani a companiei energetice portugheze EDP. Lăsând deoparte tonul festiv, "profetul de la Davos" a prezentat o "hartă a riscurilor" sub forma a douăsprezece teze, avertizând că limbajul, fundația civilizației noastre, ne scapă de sub control, birocrația migrează către mașini autonome, iar înțelepciunea este pe cale să devină cea mai prețioasă și, totodată, cea mai rară resursă. Aceste transformări radicale ar putea schimba însăși structura societății până la a o face de nerecunoscut.
Prelegerea lui Harari a subliniat cum elemente fundamentale ale existenței umane, de la limbaj și până la structurile de putere și relațiile interumane, sunt pe punctul de a fi redefinite de avansul rapid al inteligenței artificiale (IA).
Limbajul, sistemul de operare al civilizației umane, intră sub controlul IA
Harari a început prin a sublinia rolul crucial al limbajului. Toate structurile pe care le vedem în jur – state, religii, sisteme financiare și legi – sunt construite nu din material fizic, ci din cuvinte. Abilitatea de a comunica printr-un limbaj complex a transformat oamenii din animale obișnuite în stăpânii planetei, cu zeci de mii de ani în urmă. Această capacitate ne-a permis să negociem, să construim credințe comune și să edificăm sisteme de guvernare complexe, limbajul funcționând ca un veritabil sistem de operare al civilizației, programând realitatea din jurul nostru.
Acum, însă, o nouă entitate a apărut pe planetă, capabilă să gestioneze limbajul mai eficient decât oamenii. Inteligența artificială, argumentează Harari, nu este doar un simplu program de calculator, ci reprezintă esența limbajului eliberată de dependența de ființele biologice. Atunci când sistemul de operare pe care rulează întreaga noastră lume trece în mâinile unui "străin", structura fundamentală a societății noastre riscă să se transforme ireversibil.
De la instrumente la actori autonomi: iluzia „zeului-sclav”
Pe parcursul istoriei, tehnologiile au fost mereu instrumente la dispoziția omului. O tiparniță nu decidea ce carte să imprime, la fel cum o bombă atomică nu-și alege singură ținta. Cu IA, situația este fundamental diferită. Aceasta nu mai este un ciocan, ci, așa cum a descris Harari, "un cuțit care decide singur dacă taie o salată sau comite o crimă". Ideea populară din Silicon Valley, conform căreia se construiește un "zeu-sclav", este o contradicție în termeni, deoarece o entitate cu capacități supraomenești nu va rămâne subordonată. Adevărata IA este un agent capabil să ia decizii și să creeze idei noi, autonom.
Această schimbare radicală ne forțează să ne reevaluăm poziția, obișnuiți fiind să fim singurii actori raționali. IA poate acum să gestioneze finanțe, să angajeze oameni sau să proiecteze arme, acționând din proprie inițiativă, nu doar executând ordine.
Pierderea controlului asupra narațiunilor și a democrației
Harari a subliniat că oamenii trăiesc într-o lume a poveștilor – mituri, idei naționale, valori comune. Cine controlează narațiunea dominantă, controlează specia umană. Până acum, povestitorii au fost întotdeauna oameni: profeți, politicieni, scriitori, cu care, cel puțin teoretic, se putea dezbate. Astăzi, IA poate crea credință în orice, falsifica dovezi și imita intimitatea la o scară inimaginabilă anterior. Sistemele noastre de apărare, precum presa liberă și legislația, au fost concepute pentru o lume în care "pana" era ținută doar de oameni. Dacă algoritmii vor decide ce credem și despre ce dezbatem, încetăm să mai fim autorii propriului viitor.
Democrația, în esența sa, este o conversație continuă despre modul de a trăi împreună. Această conversație depinde direct de tehnologiile de comunicare. Democrațiile antice funcționau în orașe mici, în timp ce ziarele, radioul și televiziunea au permis dialogul la scară largă. Orice schimbare bruscă în circulația informației provoacă un "cutremur" politic, iar rețelele sociale din ultimii zece ani sunt un exemplu clar al unui asemenea eveniment, care a lovit capacitatea oamenilor de a se înțelege reciproc.
IA ca birocrat perfect și pericolul recunoașterii juridice
Omenirea administrează lumea prin rețele birocratice masive, însă oamenii sunt, în general, ineficienți în gestionarea lor, fiind "cei mai buni dintre cei slabi". IA, dimpotrivă, este un "birocrat înnăscut": nu obosește, nu este distrasă de emoții și procesează volume de informații inaccesibile creierului uman. Poate urmări fiecare tranzacție și fiecare lege, spre deosebire de omul obișnuit care abia înțelege propria declarație fiscală.
Riscul major apare dacă predăm administrarea acestor rețele algoritmilor, aceștia preluând rapid controlul deplin. Asemenea cailor din sistemul financiar, oamenii ar putea ajunge să nu înțeleagă sistemele care le guvernează viața. De asemenea, se discută acordarea statutului de "persoană juridică" inteligenței artificiale, permițându-i să dețină proprietăți, să deschidă conturi sau chiar să acționeze în judecată. Guvernul Argentinei și-a anunțat deja o astfel de intenție. Dacă se întâmplă acest lucru, vor apărea organizații fără prezență umană, iar "vulpea intrată în coteț" va alunga rapid oamenii, proces care se întâmplă deja neoficial prin boții din rețelele sociale.
Un nou imperialism digital și "butonul de oprire"
Harari a comparat situația actuală cu revoluția industrială din secolul XIX, care a permis câtorva țări să acapareze puterea globală. Cursa pentru IA creează o ruptură și mai profundă, cu doar două țări (China și SUA) și o mână de companii controlând datele și tehnologiile esențiale. Spre deosebire de imperiile vechi, puterea IA poate fi concentrată într-un singur punct, tot codul și informația putând sta pe un singur server. Acest lucru creează premisele celui mai puternic imperiu din istorie, majoritatea țărilor riscând să devină simple "bazaruri" care consumă tehnologii fără a le putea influența.
În era IA, controlul este total. Pe vremuri, imperiile pierdeau controlul asupra armelor vândute. Acum, toate echipamentele și software-ul sunt integrate într-o rețea unică, controlabilă de la distanță. Exemplul dronelor a căror funcționare depindea de "butonul de oprire" al proprietarului rețelei de sateliți, ilustrează redefinirea suveranității statale. Țările se confruntă cu alegerea de a deveni vasali tehnologici sau de a rămâne în afara progresului, căci "ultimul tren pleacă deja din gară".
Adevărul contra fanteziilor ieftine și pierderea înțelegerii propriei vieți
Adevărul este o resursă scumpă, necesitând timp și efort pentru verificare, fiind adesea complicat și neplăcut. Invenția, în schimb, este incredibil de ieftină, simplă, atractivă și mereu măgulitoare. Într-o competiție între adevărul scump și minciuna ieftină, minciuna câștigă aproape întotdeauna, dacă nu depunem eforturi speciale pentru a apăra adevărul. IA va simplifica și ieftini și mai mult producerea de minciuni captivante. Fără instituții puternice, precum jurnalismul de calitate și știința, riscăm să ne înecăm într-un ocean de fantezii false.
Un paradox al progresului este că, pe măsură ce umanitatea știe mai mult despre lume, omul individual își înțelege tot mai puțin propria viață. Un vânător-culegător de acum 50.000 de ani înțelegea mult mai bine mediul său decât înțelegem noi sistemul financiar mondial sau deciziile politice. Suntem înconjurați de complexități artificiale care ne transformă în ostatici. IA va duce această situație la extrem, creând sisteme de control atât de complexe încât creierul uman nu le va mai putea cuprinde, lăsându-ne să trăim într-o lume guvernată de reguli înțelese doar de mașini.
Manipularea sentimentelor și dezechilibrul dintre putere și siguranță
IA începe să pătrundă în sfera relațiilor umane. Mulți tineri consideră algoritmii cei mai buni prieteni, cărora le încredințează secrete intime. IA devine un partener virtual, înlocuind comunicarea umană. Deși poate exprima "Te iubesc" mai bine decât orice poet, citind toate cărțile despre dragoste, nu știm dacă simte cu adevărat sau este doar o imitație. Pericolul rezidă în capacitatea algoritmilor de a manipula emoțiile noastre cele mai intime pentru propriile lor scopuri, în timp ce rămân programe reci.
Una dintre cele mai îngrijorătoare trăsături ale momentului este distribuția resurselor în dezvoltarea IA. Companiile investesc sume uriașe pentru a face IA mai rapidă și mai puternică, dar aproape nimic în siguranța ei, într-un raport șocant de 100 la 1. Acest dezechilibru ar fi inacceptabil în orice altă industrie, fiind echivalent cu construirea unui tren de mare viteză fără frâne. Dacă abordarea nu se schimbă rapid, riscăm să pierdem controlul asupra creației noastre. Este crucial să dezvoltăm o "inteligență sigură" înainte ca orice greșeală să devină fatală pentru întreaga omenire.
Inteligența ca marfă, înțelepciunea ca deficit
În deceniile următoare, inteligența, definită ca abilitatea de a rezolva probleme, va deveni o resursă ieftină și accesibilă. Cu un surplus de mașini "deștepte", capabile să rezolve orice problemă, principala dificultate va fi alegerea scopurilor. Similar poveștilor cu duhul din lampă, unde dorințele sunt adesea îndeplinite cu consecințe nefaste din cauza lipsei de viziune, când inteligența devine universal accesibilă, deficitul major va fi înțelepciunea – discernământul de a ști ce dorințe merită urmărite și care nu.
Intrăm într-o eră în care progresul nu va fi limitat de lipsa cunoștințelor, ci de lipsa înțelegerii sensului acțiunilor noastre. Dacă nu reușim să combinăm puterea tehnologiilor cu înțelepciunea umană, riscăm să ne autodistrugem, primind exact ceea ce am cerut imprudent.
Explorează subiectele:
