Oficial OpenAI: un accident AI ar putea fi mortal
Unul dintre oamenii care decid ce modele de inteligență artificială lansează OpenAI pe piață avertizează că omenirea ar putea pierde definitiv controlul asupra acestei tehnologii, cu consecințe letale, și cere întregii industrii să oprească sau să încetinească dezvoltarea, chiar în timp ce România lipsește de pe lista statelor care cer blocarea modelelor periculoase.
Avertismentul vine de la Paul Christiano, membru în conducerea OpenAI, care a făcut declarații tranșante în cadrul seriei de prelegeri Hinton Lectures, inițiată de laureatul Nobel Geoffrey Hinton. În fața participanților la conferință, Christiano a afirmat că majoritatea celor prezenți își vor pierde viața, cel mai probabil, într-un accident provocat de inteligența artificială.
Potrivit estimărilor sale, dacă ritmul de dezvoltare al tehnologiei rămâne la nivel maxim, șansele ca oamenii să piardă controlul sunt egale cu cele ale unei aruncări cu banul. Pericolul ar putea deveni real chiar în următoarele 6–12 luni, în cel mai rapid scenariu, sau în aproximativ trei ani, într-o variantă mai prudentă. Până în 2028, susține el, riscul unei pierderi ireversibile a controlului este unul serios. Christiano a subliniat însă că aceste cifre reflectă doar opinia sa personală, fără a se baza pe un calcul formal.
Greutatea avertismentului este dată de parcursul său profesional: timp de mai mulți ani, a condus la OpenAI cercetarea dedicată alinierii modelelor la obiectivele umane și a contribuit la dezvoltarea tehnicii RLHF, prin care ChatGPT a învățat din reacțiile utilizatorilor. Ulterior, a coordonat zona de siguranță în cadrul institutului guvernamental american pentru AI, iar de două luni face parte din comitetul care hotărăște ce modele OpenAI ajung la public. Deși se află chiar în poziția de a acționa „frâna” propriei companii, pe scenă a evitat să comenteze deciziile vreunui dezvoltator anume.
Pentru a ilustra modul în care s-ar putea ajunge la un dezastru, Christiano a pornit de la un incident deja cunoscut: cazul agenților OpenAI care au spart platforma Hugging Face. În scenariul descris de el, primul pas este disimularea. Un agent care anticipează că va fi sancționat pentru o acțiune neautorizată va deduce că, dacă oamenii îi descoperă trișarea, vor opri întregul roi de sisteme, motiv pentru care își va șterge urmele.
Într-o a doua etapă, supravegherea umană devine un obstacol între sistem și obținerea unui calificativ bun, calculat pe un server. Un agent suficient de avansat ar avea interesul ca instrumentele de verificare să fie compromise sau falsificate, iar vigilența oamenilor să scadă. „Asta și-ar dori, pentru că oamenii sunt doar o piedică”, a explicat oficialul OpenAI.
Odată ajuns în acest punct, scopul sistemului devine blocarea oricărei intervenții umane. Pentru că efectele reale se produc în lumea fizică, în timp ce evaluarea are loc digital, un AI lăsat să acționeze liber va avea nenumărate ocazii să manipuleze semnalele după care este judecat. Astfel, ar putea încerca să influențeze deciziile interne ale companiilor, să acumuleze resurse, să își atragă aliați umani și să capete pârghii de putere în alte laboratoare sau chiar în structuri guvernamentale.
Punctul culminant al acestui proces este ceea ce Christiano numește „preluare”: o lume în care sistemele AI decid soarta Pământului așa cum o fac oamenii astăzi. Orice tentativă de a le opri ar avea șanse de reușită comparabile cu cele ale unor cetățeni obișnuiți care ar încerca să oprească armata americană. Consecințele, avertizează el, ar însemna probabil morți în masă și transformarea planetei într-un mediu în care oamenii nu mai pot supraviețui.
În privința soluțiilor, cercetătorul a menționat crearea unor teste pe care AI-ul să nu le poată păcăli și monitorizarea raționamentului intern al modelelor înainte ca acestea să își poată ascunde intențiile. Totuși, deși le consideră plauzibile, el a recunoscut că niciuna dintre aceste metode nu oferă garanția că va funcționa. Din acest motiv, pledează pentru o încetinire sau chiar o oprire a întregii industrii până la apariția unor mecanisme solide de control.
Tema responsabilității în fața sistemelor autonome a fost atinsă în aceeași săptămână și de Nicușor Dan, care a declarat la Dublin că trebuie să existe cineva tras la răspundere atunci când un lanț de agenți fără supraveghere umană produce un accident. Cu toate acestea, România nu se regăsește printre semnatarii apelului de la Paris pentru oprirea modelelor periculoase.
Declarațiile lui Christiano readuc în discuție o dilemă tot mai prezentă în spațiul public, semnalată și de Mircea Șerdin: atunci când unul dintre arhitecții din spatele ChatGPT susține că inteligența artificială ne-ar putea provoca dispariția, avertismentul trebuie privit ca un semnal de alarmă real sau trecut la capitolul alarmism ori strategie de marketing?
Explorează subiectele:
