Microsoft recunoaște că modelele AI nu sunt sigure, dar vinde imediat soluția

Dezbaterea privind fiabilitatea inteligenței artificiale a fost reaprinsă de un eseu semnat de Satya Nadella pe 10 octombrie 2026. În acest text, directorul executiv al Microsoft admite deschis că actualele modele AI nu pot fi privite ca sisteme de încredere, în ciuda faptului că propria sa companie le-a introdus deja în produse esențiale precum Windows, pachetul Microsoft Office sau motorul de căutare Bing.

Această asumare publică a vulnerabilităților nu a venit însă întâmplător. Cu doar trei zile înainte, pe 7 octombrie, gigantul tehnologic anunțase lansarea Microsoft Execution Containers, o infrastructură concepută special pentru administrarea agenților AI, într-un efort aparent de autoreglementare. Sincronizarea perfectă dintre avertismentul lui Nadella și noua ofertă comercială ridică semne de întrebare în rândul experților: asistăm la o responsabilizare reală sau la o manevră prin care corporațiile își consolidează dominația asupra pieței și a viitoarelor reglementări?

Un catalog comercial deghizat în autocritică

Suprapunerea dintre discursul despre riscuri și lansarea de noi produse a fost taxată rapid de specialiștii din domeniu. Arhitectul de software AI Mircea Șerdin a evidențiat pe Facebook modul în care cele șapte principii de securitate enunțate de șeful Microsoft se pliază perfect pe noile oferte ale companiei.

„Tot săptămâna trecută Microsoft a anunțat un pachet de programe și servicii ce răspund fix acestor riscuri din eseu: Microsoft Execution Containers pentru restricționarea agenților, Agent 365 și Entra Agent ID integrate în Windows (identificarea și managementul agenților), HydraFusion (folosirea de multiple modele) și noul Surface Laptop Ultra, 2.599+ de dolari, până la 128 GB memorie, pentru rulat modele local. Principiile sunt corecte. Doar că eseul e un amestec de pus cenușă în cap, sfaturi bune și catalog ascuns de produse și servicii. Eseul se închide cu: „cel mai de încredere sistem cu SuperInteligență e cel care îți permite să ai cea mai puțină încredere în model”. Aș mai adăuga: și cea mai puțină încredere în companiile care îți vând servicii AI sub forma unui discurs aproape mistic, ignorând riscurile și limitările” — Mircea Șerdin, arhitect de software AI.

Strategia dependenței: cum îți vinde furnizorul și problema, și soluția

Cătălin Buciumeanu, autor și cercetător axat pe geopolitică și tehno-feudalism, consideră plauzibilă ipoteza conform căreia giganții tech își recunosc preventiv vulnerabilitățile pentru a păstra controlul asupra regulilor jocului, înainte ca statul să intervină.

„Când o companie definește public problema și oferă infrastructura pentru gestionarea ei, obține simultan credibilitate, cerere comercială și influență asupra standardelor. Mesajul implicit devine ceva de genul - pentru a utiliza în siguranță o tehnologie dificil de controlat - aveți nevoie de platforma noastră de control. Aș păstra deschise trei ipoteze de lucru pentru situația în fapt – fie eseul este un răspuns autentic la riscuri; fie o poziționare comercială a produselor de securitate; fie o încercare de a influența reglementarea. Aceste ipoteze sunt compatibile între ele. Dovezile disponibile susțin existența unei convergențe între discurs și oferta comercială, dar nu demonstrează o intenție de blocare a legislației. Mai mult, „control extern modelului” nu înseamnă automat „control independent de furnizor”. Modelul poate fi limitat de o infrastructură administrată de aceeași companie. Pentru client, riscul tehnic posibil să scadă, dar cu siguranță crește dependența comercială. Aici se află miza strategică.” — Cătălin Buciumeanu, cercetător.

Capcana privatizării regulilor în Big Tech

În prezent, nu doar Microsoft, ci și alți actori majori precum Google, OpenAI sau Anthropic își elaborează propriile cadre de securitate pentru inteligența artificială. Această tendință creează riscul unei guvernanțe private și al unei concentrări periculoase a puterii informaționale, avertizează Cătălin Buciumeanu. Deși regulile interne sunt necesare și pot ajuta autoritățile, problema apare atunci când standardul comercial al unei corporații devine unica definiție acceptată a siguranței.

„Furnizorul stabilește ce se testează, ce rezultat este suficient, ce informații se publică și ce incident justifică oprirea. Clientul și autoritatea ajung să evalueze sistemul numai prin instrumentele celui evaluat. Aceasta este o concentrare a puterii informaționale. Actorul supravegheat poate controla atât activitatea, cât și imaginea activității prezentată supraveghetorului. Există și un risc concurențial. Standardele de securitate pot deveni atât de strâns legate de infrastructura dominantă, încât conformitatea să presupună cumpărarea produselor acesteia. Siguranța poate deveni o barieră de intrare pe piață. Testul practic ar fi următorul - poate un client să schimbe furnizorul, să-și exporte dovezile de audit și să folosească un evaluator independent fără să-și reconstruiască întregul sistem de control? Dacă răspunsul este negativ, standardizarea poate consolida dependența.” — Cătălin Buciumeanu, cercetător.

Cum pot statele să testeze sinceritatea giganților tehnologici

Istoria reglementării marilor companii de tehnologie arată un tipar repetitiv: recunoașterea riscurilor și propunerea unor standarde interne sunt adesea urmate de acțiuni de lobby pentru întârzierea sau blocarea legislației obligatorii. Pentru a nu cădea în această capcană, autoritățile trebuie să ignore declarațiile de intenție și să urmărească exclusiv ceea ce corporațiile sunt dispuse să sacrifice: venituri, discreție, avantaj informațional sau libertatea de a lansa produse.

Potrivit lui Cătălin Buciumeanu, angajamentele relevante sunt doar cele costisitoare și verificabile. Acestea includ raportarea obligatorie a incidentelor, accesul neîngrădit al evaluatorilor la date, acceptarea unor corecții impuse din exterior și chiar oprirea unor utilizări periculoase. Adesea, în timpul consultărilor legislative, companiile clamează nevoia de „reguli clare”, dar cer excepții care le anulează efectul, sau acceptă audituri doar pe teste preselectate de ele, controlând fluxul de informații către supraveghetor.

„Indicatorul cel mai relevant este comportamentul în situația unui conflict între siguranță și interesul comercial. Este capabil Microsoft, sau orice altă companie, să publice o constatare nefavorabilă înainte de a fi constrânsă? Permite verificarea ei? Remediază problema chiar dacă pierde un contract sau amână o lansare? Nici aceste comportamente nu oferă acces direct la intenții. Ele permit însă evaluarea credibilității angajamentelor. O autoritate nu trebuie să demonstreze capacitatea unei companii de a fi sinceră. Trebuie doar să construiască un sistem care funcționează chiar și atunci când compania urmărește exclusiv propriul interes.” — Cătălin Buciumeanu, cercetător.

În viziunea expertului, impunerea principiilor de securitate trebuie împărțită clar: statul fixează obligațiile și sancțiunile, organismele independente fac verificările, iar companiile răspund de implementare. Autoritatea publică nu trebuie să dicteze configurația tehnică a produselor, ci să ceară rezultate clare privind limitarea accesului, trasabilitatea și intervenția în caz de incident. Totodată, auditorii plătiți de companii trebuie supravegheați strict și sancționați în cazul unor evaluări viciate, iar măsurile tehnice nu trebuie să rămână simple formalități: jurnalele de activitate sunt inutile dacă omit acțiunile critice, iar folosirea mai multor modele nu garantează siguranța dacă toate repetă aceleași erori. Întrebarea esențială rămâne cine observă abaterea, cine intervine și cine poartă răspunderea unui eșec.

Provocările AI Act în fața agenților autonomi și miza pentru România

La nivel european, aplicarea legislației AI Act este deja gestionată prin AI Office și autoritățile naționale, însă apariția agenților autonomi și a sistemelor multi-model pune o presiune imensă pe acest cadru juridic. Cătălin Buciumeanu explică faptul că legislația europeană nu este depășită, întrucât Comisia Europeană a clarificat că agenții AI se încadrează în definițiile existente pentru sistemele AI și modelele de uz general, autonomia lor fiind luată în calcul la evaluarea riscului sistemic. Cu toate acestea, analiza Comisiei asupra acestor evoluții rămâne într-un stadiu preliminar.

Adevărata vulnerabilitate apare atunci când un model AI este conectat la memorie, baze de date, diverse instrumente și alte modele. Efectele rezultate din această combinare nu pot fi prevăzute prin simpla testare separată a fiecărei piese. Mai mult, există un decalaj periculos între viteza cu care sistemele sunt modificate și ritmul în care pot fi verificate. O certificare punctuală devine inutilă dacă sistemului i se schimbă ulterior componentele sau nivelul de acces, fără ca evaluatorul să poată anticipa noile consecințe.

Din acest motiv, este crucial să se stabilească cine răspunde pentru arhitectura finală și cine reevaluează sistemul după fiecare modificare. Pentru Europa, miza strategică este evitarea situației în care deține autoritatea legală, dar depinde tehnic de corporațiile supravegheate pentru a verifica respectarea legii. În acest context, Cătălin Buciumeanu subliniază că autoritățile au nevoie de competențe tehnice proprii și de mecanisme rapide de intervenție, ceea ce, în cazul României, se traduce prin obligația statului de a putea verifica în mod complet independent sistemele AI achiziționate pentru funcții publice sensibile.

Explorează subiectele:

Microsoft inteligență artificială Cătălin Buciumeanu

Distribuie Distribuie Comentarii