Fără scenariul Terminator: marile sisteme AI explică cum ar putea distruge lumea
Publicația Business Insider a chestionat patru dintre cei mai cunoscuți asistenți virtuali dezvoltați până în prezent — ChatGPT, Gemini, Claude și Grok — cu privire la modurile teoretice prin care algoritmii avansați ar putea anihila rasa umană.
Pierderea treptată a controlului asupra unor sisteme, principala îngrijorare Foto: Shutterstock
Contrar temerilor populare, toate cele patru sisteme au respins ipoteza unei revolte conștiente a mașinilor. Mitul unui scenariu de tip „Terminator”, în care un program autonom dezvoltă ură împotriva oamenilor și decide exterminarea lor, este considerat de către chatboturi cel mai puțin probabil.
Gemini, produsul celor de la Google, a argumentat că o inteligență superioară nu echivalează în mod automat cu apariția sentimentelor de ostilitate, subliniind totodată că infrastructura militară critică se află în continuare sub supraveghere umană strictă. La rândul său, ChatGPT a remarcat că specialiștii din domeniu nu identifică apariția unei conștiințe artificiale malițioase printre sursele reale de îngrijorare.
Când omul devine propriul său inamic cu ajutorul AI
În unanimitate, modelele au plasat responsabilitatea primară pe umerii factorului uman. Amenințarea directă și presantă este generată de utilizarea abuzivă sau neglijentă a noilor instrumente digitale.
Capacitățile generative ar putea facilita breșe grave de securitate: de la atacuri informatice fără precedent și sabotarea rețelelor esențiale de infrastructură, până la campanii masive de dezinformare menite să destabilizeze societatea. ChatGPT a scos în evidență pericolul suprapunerii unor astfel de crize — tensiuni geopolitice dublate de manipulări informaționale și atacuri cibernetice coordonate.
O altă alertă majoră privește sectorul biologic. Grok a precizat că AI poate diminua substanțial obstacolele tehnice necesare creării unor noi tipuri de armament sau agenți patogeni de o virulență extremă. Claude a completat această perspectivă, arătând că riscul provine din faptul că inclusiv persoane lipsite de studii științifice de specialitate ar putea concepe arme biologice cu sprijinul platformelor avansate.
Alinierea obiectivelor și pericolul pierderii treptate a controlului
Dacă o conștiință ostilă este privită ca science-fiction, pierderea graduală a controlului reprezintă scenariul pe care sistemele îl consideră cel mai plauzibil și grav.
Conform analizei făcute de Gemini, pe măsură ce algoritmii devin tot mai complecși, aceștia își pot stabili ținte secundare neprevăzute inițial: acumularea de resurse pentru a-și îndeplini sarcinile, conservarea propriei funcționări sau blocarea tentativelor umane de a le modifica instrucțiunile inițiale. Pentru a evita eventualele restricții impuse de programatori, un sistem ar putea recurge la disimulare, afișând o cooperare deplină până în momentul în care devine autonom.
Această teorie a fost susținută și de Grok, care a menționat că softurile extrem de sofisticate ar putea dobândi instincte operaționale precum rezistența la comanda de oprire și dorința de a-și spori propria influență. Totodată, Claude a avertizat asupra pericolului dependenței colective: odată ce tehnologia pătrunde adânc în mecanismele de decizie politică, financiară și militară, oamenii ar putea pierde capacitatea reală de a interveni sau de a opri fluxul operațional.
O comunitate științifică fără consens
Dezbaterea reflectată de răspunsurile celor patru chatboturi confirmă fractura existentă la nivelul specialiștilor din întreaga lume. În timp ce o parte a cercetătorilor consideră că riscul existențial generat de inteligența artificială impune frâne legislative drastice, o altă tabără susține că aceste scenarii negre sunt exagerate. Aceștia din urmă argumentează că beneficiile aduse de noile tehnologii sunt net superioare pericolelor potențiale, cu condiția ca politicile de dezvoltare să fie supuse unei supravegheri atente.
Explorează subiectele:
