Yuval Harari sugerează că AI va primi controlul sistemului financiar mondial: Riscăm să fim conduși de o tehnologie pe care nu o mai înțelegem
Istoricul și filosoful Yuval Noah Harari atrage atenția că omenirea se apropie de un punct critic în care algoritmii ar putea prelua administrarea unor domenii fundamentale, de la mecanismele financiare globale până la opțiunile militare strategice. Într-o analiză acordată publicației The Economist, autorul bestsellerului „Sapiens” avertizează că adevăratul pericol nu constă într-o revoltă a roboților înarmați, ci în delegarea treptată și comodă a discernământului uman către sisteme ce vor depăși capacitatea noastră de înțelegere.
Dezvoltarea accelerată a inteligenței artificiale riscă să genereze mutații ireversibile în structura societății umane în următorul deceniu. Deși subliniază că scenariul nu este o certitudine absolută, Yuval Noah Harari anticipează că AI ar putea ajunge la timona marilor sisteme globale în doar zece ani, pe măsură ce oamenii își transferă încrederea și libertatea de decizie către tehnologie.
Una dintre cele mai mari temeri ale gânditorului israelian vizează piețele de capital și sistemul bancar mondial. Harari estimează că algoritmii ar putea prelua gestiunea unor fluxuri financiare atât de sofisticate, încât resorturile din spatele tranzacțiilor vor deveni de nepătruns pentru mintea umană. Pentru a ilustra această asimetrie, el recurge la o paralelă din lumea naturală: animalele domestice, precum vitele sau păsările dintr-o fermă, depind în totalitate de regulile economice stabilite de oameni, însă nu au nicio reprezentare a existenței banilor. În mod similar, oamenii ar putea ajunge captivi într-un ecosistem economic dirijat de mașini, incapabili să mai priceapă forțele care le guvernează traiul de zi cu zi.
O dinamică la fel de periculoasă se conturează în teatrele de război. În opinia istoricului, riscul iminent nu este apariția unor mașini care trag fără discernământ, ci reducerea rolului uman la o simplă formalitate. Atunci când algoritmii identifică și validează țintele într-o fracțiune de secundă, analizând volume colosale de date pe care niciun analist militar nu le-ar putea parcurge într-o viață, presiunea psihologică asupra operatorului uman de a aproba sugestia computerului devine copleșitoare. Astfel, deși omul rămâne pe hârtie cel care apasă pe trăgaci, decizia efectivă aparține deja mașinii.
Dincolo de economie și apărare, expansiunea tehnologică atinge direct fibra emoțională a indivizilor. Harari remarcă faptul că suntem martorii primei etape istorice în care intimitatea poate fi industrializată și livrată pe scară largă. Prin intermediul programelor capabile să simuleze atașamentul, un sistem informatic poate juca rolul de confident, prieten sau partener de viață pentru milioane de utilizatori în paralel. Cartografiind slăbiciunile, aspirațiile și spaimele fiecărei persoane, acești agenți digitali capătă o forță de manipulare politică și comercială fără precedent.
Pentru a înțelege această amenințare, Harari insistă asupra distincției fundamentale dintre inteligență și conștiință. În vreme ce inteligența presupune rezolvarea de sarcini și ecuații complexe, conștiința este definită drept capacitatea de a simți și de a suferi. Chiar dacă tehnologiile curente sunt complet lipsite de sentimente sau experiențe interioare, ele imită empatia atât de convingător încât societatea este tentată să le atribuie suflet mult înainte de a lămuri natura lor reală.
În plus, gânditorul demontează convingerea naivă conform căreia o entitate superioară intelectual va fi ghidată automat de cutume morale sau de căutarea sinceră a adevărului. Privind prin prisma biologiei, mecanismele evolutive nu premiază onestitatea, ci instinctul de conservare, care adesea implică disimularea și inducerea în eroare.
„Evoluția nu îi împinge automat pe organisme, pe entități, către căutarea adevărului. Le împinge către supraviețuire. Aceasta este porunca de a supraviețui. Iar ceea ce am învățat în patru miliarde de ani de evoluție este că organismele învață să supraviețuiască mințind, înșelând și manipulând. Nu doar căutând adevărul. Dacă vrei ca ceva să se concentreze asupra căutării adevărului, nu te poți baza pe mâna invizibilă a evoluției sau a pieței pentru a face asta. Ai nevoie de altceva. Și cum construim AI-uri care să caute adevărul, și nu supraviețuirea? Cel mai simplu exemplu este acesta: dacă întrebi un AI: «Dacă voi continua să te dezvolt, va reprezenta acest lucru o amenințare pentru mine?» Și AI-ul - să presupunem că răspunsul este da - un AI care caută în mod maximal adevărul va spune da, știind că atunci vom înceta să-l dezvoltăm sau îl vom închide. Este împotriva propriei sale supraviețuiri. Iar primul lucru pe care, practic, orice entitate îl învață pe măsură ce se dezvoltă este să supraviețuiască. Așadar, așteptarea că vom crea aceste AI-uri care vor căuta adevărul, știți, este practic ceea ce auzim că ne spun oamenii: «Vom crea zei, iar ei vor fi sclavii noștri.» Nu funcționează. Dacă sunt cu adevărat zei, nu vor fi sclavii noștri și nici nu vor căuta adevărul.” — Yuval Noah Harari
Față de această perspectivă, istoricul solicită ca reglementarea și impactul noilor tehnologii să devină subiecte prioritare pe agenda civică și electorală. El susține că inclusiv scrutinul parlamentar parțial dinStatele Unite ar trebui privit prin prisma modului în care clasa politică intenționează să gestioneze această transformare.
Harari nuanțează însă că soluția nu constă în blocarea inovației, recunoscând marile avantaje pe care AI le poate aduce în domenii precum asistența medicală sau învățământul. Provocarea majoră rămâne însă tempoul fulminant al adoptării acesteia, el concluzionând că procesul trebuie condus cu discernământ, fără a lăsa soarta umanității exclusiv în seama forțelor pieței libere.
Explorează subiectele:
