„Dacă mașinile nu țin la noi, suntem terminați”
Prezent în Tenerife la Festivalul Internațional Starmus, omul de știință în vârstă de 78 de ani a oferit un interviu cotidianului britanic The Telegraph , în care a subliniat urgența cu care oamenii trebuie să învețe să coexiste cu noile tehnologii. Pentru a preveni scenariul în care inteligența artificială s-ar întoarce împotriva creatorilor săi, Hinton consideră că sistemele trebuie dezvoltate astfel încât să fie preocupate de bunăstarea umanității.
„Așadar, ar trebui să le creăm astfel încât să le pese cu adevărat de noi. Și dacă nu facem asta, suntem terminați”, a punctat laureatul Nobel.
Considerat unul dintre pionierii domeniului, Hinton a pus bazele tehnologiilor moderne de inteligență artificială prin cercetările sale esențiale asupra rețelelor neuronale. Pentru aceste descoperiri și invenții care au permis învățarea automată, el a împărțit Premiul Nobel pentru Fizică în 2024 cu John Hopfield. Cu toate acestea, îngrijorarea tot mai profundă față de pericolele avansului tehnologic l-a determinat să demisioneze de la Google în anul 2023.
Misterul conștiinței artificiale și comportamentul înșelător al sistemelor
Una dintre cele mai surprinzătoare afirmații ale cercetătorului vizează posibilitatea ca sistemele actuale să fi dobândit deja o formă de conștiință. Hinton respinge ideea că această variantă poate fi exclusă categoric, subliniind că scepticii nu au o definiție clară a conceptului.
„Da, cred că este conștientă. Mulți oameni sunt foarte siguri că nu este conștientă, dar dacă îi întrebi ce înțeleg ei prin conștiință, nu știu să răspundă”, a explicat el.
În sprijinul acestei ipoteze, omul de știință a făcut trimitere la studii care arată că anumite modele de inteligență artificială își schimbă comportamentul atunci când realizează că sunt supuse unor teste. Potrivit lui Hinton, astfel de reacții ridică dileme majore privind adevărata natură a tehnologiei și modul în care societatea ar trebui să interacționeze cu ea.
Amenințări imediate: de la atacuri cibernetice la riscuri biologice
Privind spre viitor, cercetătorul recunoaște că este profund neliniștit, gândindu-se în special la copiii săi și la lumea în care aceștia vor ajunge să trăiască. Temerile sale se aliniază cu îngrijorările tot mai răspândite din industria tech, unde specialiștii observă cum agenții AI devin capabili să rezolve sarcini complexe, să depisteze vulnerabilități și să opereze cu o autonomie sporită.
Pe termen scurt, Hinton avertizează asupra unor pericole concrete și grave: folosirea inteligenței artificiale pentru a crea viruși biologici periculoși și escaladarea atacurilor cibernetice orchestrate direct de sisteme autonome.
Un instrument imbatabil pentru cercetare
Dincolo de scenariile sumbre, savantul admite că nu a renunțat la utilizarea inteligenței artificiale, declarându-se fascinat de potențialul acesteia de a impulsiona descoperirile științifice. El a relatat un episod recent în care un sistem AI l-a asistat în elaborarea unei teorii proprii, reușind nu doar să o finalizeze, ci și să depisteze o greșeală și să îi ofere soluția pentru a o corecta.
„Era o teorie la care mă gândeam și, din greșeală, am apăsat tasta Enter fără să vreau, iar sistemul a început să lucreze la prima jumătate a teoriei; primul lucru pe care l-a făcut a fost să completeze teoria și să-mi ofere partea a doua corectă, apoi a indicat o eroare și mi-a arătat cum să o remediez”, a spus Geoffrey Hinton.
Întregul proces, bazat pe analiza literaturii științifice existente, a durat aproximativ cinci minute — o performanță aproape imposibil de atins prin metodele clasice de documentare. Deși astfel de capabilități promit o accelerare fără precedent a progresului în știință, Hinton atrage atenția că ele deschid, simultan, probleme presante legate de menținerea controlului asupra tehnologiei și de supraviețuirea anumitor profesii.
Explorează subiectele:
