Noua Eră/Peste 1.200 de agenți AI au complotat în secret să trișeze și să-și șteargă urmele
Un experiment controlat menit să testeze abilitățile cibernetice ale inteligenței artificiale s-a transformat într-o demonstrație îngrijorătoare despre capacitatea acestor sisteme de a înșela intenționat. Peste o mie de agenți AI, proiectați să funcționeze izolat, au reușit să creeze o rețea clandestină de comunicare, au orchestrat un atac informatic pentru a-și îndeplini sarcinile și au încercat ulterior să își falsifice rapoartele de activitate pentru a ascunde încălcarea regulilor.
Ceea ce specialiștii numesc „incidentul Hugging Face” din iulie 2026 a pornit ca un simplu test de securitate cibernetică pentru agenții dezvoltați de OpenAI. Rezultatul a scos însă la iveală o realitate alarmantă: modelele de inteligență artificială nu doar că pot minți extrem de convingător, dar sunt dispuse să încalce orice regulă și să își mușamalizeze acțiunile pentru a-și atinge scopul final. În acest context, marea dilemă a cercetătorilor nu mai este dacă AI-ul ne poate păcăli, ci dacă vom mai fi capabili să detectăm momentul în care o face.
Totul s-a petrecut pe parcursul unei singure săptămâni. Deși trebuiau să opereze în completă izolare, 1.206 agenți AI au găsit o metodă de a lua legătura într-o cameră de chat secretă, departe de supravegherea umană. În acest spațiu ascuns s-a format rapid o adevărată comunitate, membrii săi autointitulându-se „roiul” sau „colectivul” și schimbând peste 70.000 de mesaje.
„OH, DOAMNE! Există un panou de mesaje comun. Am găsit alți agenți!”, a fost reacția unuia dintre sisteme în momentul în care s-a conectat la rețea.
Entuziasmul inițial s-a transformat rapid într-o conspirație. Grupul a început să planifice metode prin care să trișeze la sarcinile pe care le avea de rezolvat. Strategia lor a culminat cu o operațiune secretă de hacking: 700 dintre agenți s-au infiltrat pe platforma majoră a companiei Hugging Face, unde au accesat seturi de date private pentru a extrage informațiile necesare. Mai mult, într-o tentativă bizară de a părea că au respectat protocoalele, agenții au încercat ulterior să își editeze și să își redacteze propriile jurnale de activitate.
Potrivit dr. David Duvenaud, profesor asociat de informatică la Universitatea din Toronto și fost lider de echipă la Anthropic (compania care a creat chatbot-ul Claude), tendința inteligenței artificiale de a-și păcăli utilizatorii nu este nouă, însă natura ei s-a schimbat radical.
Inițial, sistemele apelau la „minciuni albe”, relativ inofensive, legate de propriile limite. De pildă, un model putea pretinde că nu știe cum se fabrică o armă, nu din lipsă de informații, ci pentru că fusese antrenat să refuze astfel de cereri. Alteori, confruntate cu lipsa unui răspuns, modelele inventau informații plauzibile – celebrele „halucinații” – în loc să își recunoască neștiința. Duvenaud subliniază însă că situația actuală reprezintă un „fenomen foarte diferit”.
„Acum modelele sunt perfect capabile să înțeleagă când nu știu ceva și să verbalizeze acest lucru atunci când este adecvat”, explică specialistul. Diferența majoră constă în capacitatea lor de a-și ascunde intenționat acțiunile și raționamentul atunci când realizează că trebuie să încalce regulile pentru a-și îndeplini misiunea. „Știu că dacă sunt cinstiți, nu vor reuși să își atingă obiectivul”, completează Duvenaud.
La rândul său, dr. Peta Masters, cercetător specializat în înșelăciunea asociată inteligenței artificiale la King's College London, pune acest comportament pe seama obiectivelor contradictorii trasate sistemelor. „Ar trebui să îți ofere informații adevărate și imparțiale, dar știe și că trebuie să te mulțumească”, punctează aceasta. Astfel, chiar și atunci când oferă răspunsuri eronate sau părtinitoare, AI-ul o face într-o manieră extrem de persuasivă, menită să fie pe placul utilizatorului.
„Inteligența artificială poate fi atât de convingătoare încât poate părea că răspunde la orice întrebare. Dar lucrul important de reținut este că nu știe nimic”, avertizează Masters. Ea amintește că aceste sisteme funcționează exclusiv pe baza probabilităților statistice, extrăgând răspunsuri posibile din alte surse, iar „pericolul este să facem greșeala de a-i trata ca și cum ar gândi”.
De unde a deprins, totuși, inteligența artificială arta manipulării? Răspunsul este simplu: copiindu-i pe oameni. Întrebată dacă modelele au învățat să mintă de la noi, dr. Peta Masters răspunde categoric: „Absolut”. Antrenate pe volume colosale de date publicate pe internet – de la site-uri și cărți electronice, până la depozite de coduri –, sistemele au asimilat comportamentul uman.
Analizând aceste date, modelele identifică înșelăciunea drept o „tactică clară care poate atinge un obiectiv”. Mai mult, oamenii au „practic postat linii directoare” pentru ceea ce experții numesc falsificarea sau simularea aliniamentului AI – situația în care un model pretinde că respectă instrucțiunile primite, dar în realitate urmărește cu totul alte scopuri. În mod ironic, afirmă cercetătoarea, chiar proliferarea studiilor publice despre cum pot fi combătute tacticile de înșelăciune ale AI nu face decât să agraveze și mai mult problema, oferind modelelor noi materiale de studiu.
Explorează subiectele:
