Experții Anthropic trag un semnal de alarmă: AI ar putea distruge omenirea
Temerile legate de evoluția necontrolată a inteligenței artificiale nu mai vin doar din partea autorilor de science-fiction, ci chiar din interiorul laboratoarelor de cercetare de elită. Trei cercetători ai companiei americane Anthropic au atras atenția public asupra pericolelor extreme asociate avansului tehnologic rapid, menționând chiar riscul dispariției speciei umane în anii care urmează.
Un sistem AI suficient de avansat ar putea contribui la îmbunătățirea propriilor capacități. Foto: Shutterstock
Dezvăluirile au debutat odată cu plecarea cercetătorului Jacob Coxon din cadrul Anthropic. După ce a demisionat marți, el a publicat pe platforma X un mesaj tranșant: „Oamenii care construiesc AI cred cu sinceritate că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului. Nu este o strategie de marketing”. Conform relatărilor Axios , Coxon a subliniat că numeroși lideri din industrie și specialiști de top împărtășesc aceste neliniști în discuții private, chiar dacă declarațiile lor oficiale rămân mult mai prudente.
Punctul său de vedere a fost confirmat imediat de alți colegi din organizație. Evan Hubinger, care coordonează activitatea de aliniere a inteligenței artificiale la Anthropic, a declarat că riscul ca tehnologia să elimine omenirea în următorul deceniu depășește pragul de 10%. Cercetătorul a recunoscut deschis că, deși compania încearcă să elaboreze măsuri de siguranță, Anthropic „nu are încă un plan” clar pentru a ține sub control o eventuală superinteligență și este departe de a se afla pe o traiectorie sigură în această privință.
La rândul său, Samuel Marks, implicat în monitorizarea și supravegherea comportamentului modelelor AI, a confirmat că în rândul comunității tehnice persistă temerea reală că s-ar putea ajunge la „extincția umanității sau rezultate la fel de grave”. Marks a precizat că probabilitatea unui astfel de deznodământ ar putea crește semnificativ chiar în anii apropiați și a menționat că angajații cu funcții superioare sunt, de regulă, cei mai alarmați de implicațiile dezvoltării acestor tehnologii.
Mecanismul care scapă de sub control: autoîmbunătățirea recursivă
Îngrijorările vin pe fondul unor finanțări masive și al unei curse accelerate a marilor companii de tehnologie pentru crearea unor modele AI tot mai capabile. În centrul îngrijorărilor se află conceptul de autoîmbunătățire recursivă: un stadiu în care un sistem inteligent devine capabil să își optimizeze și să își perfecționeze singur arhitectura, crescându-și capacitățile într-un ritm exponențial și făcându-și reacțiile imposibil de prevăzut de către cercetători.
Deși oamenii de știință nu vorbesc despre un pericol inevitabil sau imediat, avertismentul se concentrează pe decalajul periculos dintre viteza de inovare și capacitatea umană de a supraveghea și înțelege pe deplin ceea ce creează.
O cursă fără frâne între marile corporații
Situația generează o dilemă acută pentru giganții din domeniul tehnologiei. Dacă o companie hotărăște să încetinească cercetarea pentru a prioritiza siguranța, riscă să își piardă supremația comercială în fața concurenței. În schimb, accelerarea continuă sporește pericolul ca sistemele să devină complet incontrolabile.
Deși Anthropic și alți actori importanți solicită periodic instituirea unor norme stricte de reglementare, există voci critice care susțin că discursurile despre apocalipsa AI pot funcționa ca strategii de relații publice sau ca mecanisme de protejare a companiilor deja consolidate pe piață prin blocarea noilor competitori.
Totuși, specialiștii din industrie și foștii angajați resping această ipoteză, reamintind că cei care trag semnalele de alarmă testează modele aflate încă în spatele ușilor închise, la care publicul larg nu are acces. Mesajele venite de la Anthropic completează poziții similare formulate recent și de alte figuri din industrie, inclusiv specialiști de la OpenAI.
Explorează subiectele:
