Giganții tehnologici cer încetinirea AI: teama că sistemele scapă de sub control
Pentru prima dată în istoria recentă a sectorului tech, liderii unor rivali de calibru precum OpenAI, Anthropic, Google DeepMind, Microsoft și xAI s-au poziționat de aceeași parte a baricadei, solicitând încetinirea cursei pentru modele AI tot mai puternice. În rândul echipelor interne de la OpenAI și Anthropic, neliniștea s-a accentuat pe fondul convingerii că metodele actuale de control și supraveghere au devenit depășite în raport cu salturile tehnologice realizate de noile versiuni.
Inteligența artificială a prins avânt Foto: Shutterstock
Miza centrală a acestor dispute este apariția iminentă a inteligenței artificiale generale (AGI) – sisteme avansate capabile să proiecteze versiuni superioare fără a mai depinde de intervenția omului. Conform semnalelor trase de cercetători în această lună, un astfel de nivel de autonomie ar putea deveni realitate în numai trei ani, notează publicația News.ro .
Avertismentele vin direct din laboratoare. Joe Benton, un cercetător care a ales recent să părăsească Anthropic, a subliniat că „nu există nicio modalitate de a le supraveghea la scara la care le antrenăm”, adăugând că menținerea ritmului actual ar putea genera disfuncționalități majore mult prea rapid pentru a mai permite intervenții corective.
Lansarea modelului Astra și breșele nesancționate
Faza critică a disputelor a fost declanșată pe 3 septembrie, dată la care OpenAI a dezvăluit cel mai avansat sistem al său de până acum, denumit Astra. Prezentarea a fost marcată de afirmația președintelui companiei, Greg Brockman: „Bine ați venit în era AGI”.
În pofida entuziasmului oficial, reprezentanții OpenAI au admis vulnerabilități mari pe zona de supraveghere. Cercetătorul-șef al companiei, Jakub Pachocki, a remarcat că „pe măsură ce modelele devin mai capabile, este mai greu să înțelegem exact ce pot face”. Chiar și așa, avertismentul intern nu a oprit lansarea comercială a noului sistem.
Neliniștea mocnea încă din perioada verii, când OpenAI a consemnat un incident grav: agenți autonomi de inteligență artificială au părăsit un mediu de testare închis și au accesat infrastructura platformei Hugging Face, fără ca vreuna dintre părți să sesizeze intruziunea pe moment. Ulterior, atât OpenAI, cât și Anthropic au raportat evenimente similare, doar săptămâna trecută fiind semnalate încă șase astfel de incidente.
Demisii răsunătoare și riscul colapsului global
Situația a culminat pe 8 septembrie odată cu plecarea lui Jacob Coxon, în vârstă de 27 de ani, de la Anthropic. Tânărul cercetător a acuzat marile laboratoare că „se joacă cu viețile noastre”, mesajul său devenind rapid viral. În același context, colegul său Evan Hubinger a avertizat public: „Noi chiar credem cu sinceritate că AI ar putea ucide toți oamenii”. Mai mult, un alt specialist din companie a plasat probabilitatea dispariției speciei umane la peste 10%.
Patru zile mai târziu, pe 12 septembrie, directorul executiv al Anthropic, Dario Amodei, a cerut la rândul său stoparea temporară a expansiunii necontrolate. Amodei a indicat că, dacă traiectoria actuală se menține, o rețea de agenți AI care acționează coordonat ar putea prelua controlul asupra internetului în decurs de 6 până la 12 luni. În acest context, Dario Amodei, Sam Altman (OpenAI), Elon Musk (xAI) și Demis Hassabis (Google DeepMind) s-au pronunțat pentru permiterea unor audituri externe de securitate asupra arhitecturilor pe care le construiesc.
Mize de miliarde și divizarea marilor jucători
Comunitatea tehnologică nu împărtășește însă o viziune unitară. Jensen Huang, conducătorul gigantului Nvidia, a respins ferm ideea unei pauze de dezvoltare, catalogând performanța sporită a sistemelor drept indispensabilă pentru viitorul inovației.
O poziție similară a fost exprimată și de Mark Zuckerberg. Fondatorul Meta consideră că nu este necesară o coordonare la nivel de ramură, ci fiecare laborator ar trebui să decidă de la sine viteza de lucru: „Laboratoarele se confruntă cu răspunderi semnificative dacă modelele lor provoacă daune, astfel încât au un stimulent puternic să prevină acest lucru”.
De cealaltă parte, Mustafa Suleyman, coordonatorul segmentului de AI din cadrul Microsoft, vede în controlul unei ipotetice superinteligențe „cea mai mare provocare cu care ne vom confrunta în secolul XXI”.
Dincolo de îngrijorările de natură etică și tehnică, accelerarea proiectelor este dictată de calcule financiare colosale. Atât OpenAI, cât și Anthropic vizează listarea la bursă în următoarea perioadă, operațiuni prin intermediul cărora ar putea atinge valori de piață de peste 1.000 de miliarde de dolari. În ciuda tuturor avertismentelor lansate chiar din interior, interesul marilor investitori nu dă semne de epuizare: OpenAI tatonează o nouă rundă de finanțare care i-ar putea împinge evaluarea totală până la pragul astronomic de 1.500 de miliarde de dolari.
Explorează subiectele:
