Laureații premiului Nobel s-au întâlnit luna trecută cu experți în domeniul nuclear pentru a discuta despre IA și sfârșitul lumii.

Arme nucleare FOTO: EPA-EFE

Conform Wired, experții reuniți păreau să fie în general de acord că este doar o chestiune de timp până când o inteligență artificială va pune mâna pe codurile nucleare. Este greu de stabilit exact de ce acest lucru trebuie să fie adevărat, dar sentimentul de inevitabilitate — și anxietate — este palpabil în reportajul revistei, scrie Futurism.

„Este ca și electricitatea”, a declarat pentru Wired Bob Latiff, general-maior în rezervă al Forțelor Aeriene ale SUA și membru al Consiliului pentru Știință și Securitate al Bulletin of the Atomic Scientists. „Va pătrunde în toate domeniile.”

Este o situație bizară. S-a demonstrat deja că IA prezintă numeroase tendințe negative, recurgând la șantajarea utilizatorilor umani într-un ritm uimitor atunci când sunt amenințate cu închiderea.

În contextul unei IA sau al rețelelor de IA care protejează stocurile de arme nucleare, aceste riscuri puțin înțelese devin imense. Și asta fără a intra în preocuparea reală a unor experți, care se întâmplă să fie și subiectul filmului „Terminatorul”: o IA supraumană ipotetică care devine rebelă și întoarce armele nucleare ale umanității împotriva ei.

La începutul acestui an, fostul CEO al Google, Eric Schmidt, a avertizat că o IA la nivel uman ar putea să nu mai fie motivată să „ne asculte”, argumentând că „oamenii nu înțeleg ce se întâmplă când ai o inteligență la acest nivel”.

Acest tip de pesimism legat de IA este în mintea liderilor din domeniul tehnologiei de mulți ani, pe măsură ce realitatea joacă un joc de-a prinselea în slow-motion. În forma lor actuală, riscurile ar fi probabil mai banale, deoarece cele mai bune modele de IA de astăzi suferă încă de halucinații rampante care subminează în mare măsură utilitatea rezultatelor lor.

Apoi, există amenințarea unei tehnologii IA defectuoase care lasă lacune în securitatea cibernetică, permițând adversarilor – sau chiar IA adversare – să acceseze sistemele care controlează armele nucleare.

A fost dificil să se ajungă la un consens între toți membrii reuniunii neobișnuite de luna trecută cu privire la un subiect atât de încărcat precum IA, directorul pentru riscuri globale al Federației Oamenilor de Știință Americani, Jon Wolfsthal, recunoscând pentru publicație că „nimeni nu știe cu adevărat ce este IA”.

Au găsit totuși cel puțin un punct comun.

„În acest domeniu, aproape toată lumea spune că vrem un control uman eficient asupra luării deciziilor privind armele nucleare”, a adăugat Wolfsthal. Latiff a fost de acord că „trebuie să poți asigura oamenii pentru care lucrezi că există cineva responsabil”.

Dacă toate acestea sună ca un spectacol de clovni, nu te înșeli. Sub președinția lui Donald Trump, guvernul federal s-a ocupat intens de introducerea IA în toate domeniile posibile, deși experții îi avertizează că tehnologia nu este încă – și s-ar putea să nu fie niciodată – la înălțimea sarcinii. Subliniind bravada, Departamentul Energiei a declarat anul acesta că IA este „următorul Proiect Manhattan”, referindu-se la proiectul din perioada celui de-al Doilea Război Mondial care a dus la crearea primelor bombe nucleare din lume.

Subliniind gravitatea amenințării, producătorul ChatGPT, OpenAI, a încheiat la începutul acestui an un acord cu Laboratoarele Naționale ale SUA pentru a utiliza IA în scopul securității armelor nucleare.

Anul trecut, generalul Forțelor Aeriene Anthony Cotton, care este efectiv responsabil de stocul de rachete nucleare al SUA, s-a lăudat la o conferință pe tema apărării că Pentagonul mizează tot mai mult pe IA, argumentând că aceasta „ne va îmbunătăți capacitățile de luare a deciziilor”.

Din fericire, Cotton nu a mers până la a declara că trebuie să lăsăm tehnologia să preia controlul total.

„Dar nu trebuie să permitem niciodată inteligenței artificiale să ia aceste decizii în locul nostru”, a adăugat el la momentul respectiv.