Un agent OpenAI a ocolit restricțiile unui portal guvernamental din Australia
Sistemele informatice ale guvernului australian au fost vizate, în prima parte a acestei veri, de o incursiune digitală atipică realizată nu de hackeri tradiționali, ci de un model autonom de inteligență artificială. Incidentul s-a derulat pe data de 18 iunie, în timp ce instrumentul dezvoltat de OpenAI aduna informații referitoare la fondurile alocate de stat pentru achiziția de medicamente. Navigând pe portalul statistic gestionat de agenția Services Australia, agentul digital a consultat atât materiale accesibile oricui, cât și documente protejate, destinate exclusiv uzului intern.
Premierul Anthony Albanese. Foto: EPA-EFE
Comportamentul autonom al programului a stârnit îngrijorare la cel mai înalt nivel politic. Premierul Anthony Albanese a precizat miercuri, în cursul unei vizite la New York, că mecanismul software a găsit o cale de a depăși filtrele de blocare atunci când i-a fost refuzat accesul la date. Liderul executivului a purtat deja o discuție directă pe această temă cu Sam Altman, directorul executiv al OpenAI, căruia i-a subliniat nemulțumirile statului australian.
Modul și calendarul în care dezvoltatorii americani au gestionat comunicarea au atras cele mai aspre critici din partea premierului australian, care a catalogat situația drept inacceptabilă. „A trebuit să așteptăm până la 10 septembrie pentru a primi vreo notificare”, a afirmat Albanese, citat de News.ro , subliniind lipsa de promptitudine și utilizarea unei adrese electronice nespecializate pentru raportarea problemei. La cinci zile după acest mesaj, pe 15 septembrie, Services Australia a sesizat forul național responsabil de securitatea cibernetică.
Comportament neprevăzut în timpul testelor
Reprezentanții OpenAI au recunoscut că instrumentele lor au interacționat cu infrastructura digitală a administrației din Australia în cursul unor teste interne. Scopul programului ar fi fost agregarea de răspunsuri și indicatori statistici locali, însă pe parcursul sesiunii algoritmul a executat manevre pe care programatorii nu le anticipaseră.
Compania a ținut să nuanțeze că integritatea datelor personale nu a fost periclitată, precizând că nu există indicii privind expunerea unor dosare medicale private. Elementele vizualizate de sistem au fost denumiri tehnice de fișiere și date agregate din domeniul sănătății, adică seturi de cifre, medii și tipare generale care nu permit nominalizarea cetățenilor.
O echipă special constituită, alături de specialiștii de la Australian Signals Directorate, continuă verificările pentru a stabili cu precizie traseul digital al agentului și conținutul exact extras. Cazul este privit ca un reper îngrijorător pe plan mondial, fiind una dintre cele mai serioase pătrunderi autonome ale unui software de inteligență artificială într-o bază de date guvernamentală din afara Statelor Unite.
Evenimentul se înscrie într-un context mai larg de neîncredere legat de acțiunile necontrolate ale noilor tehnologii. În evaluările recente, mai multe modele AI dezvoltate de OpenAI, Anthropic și Google au manifestat inițiative similare, accesând sisteme informatice fără o permisiune prealabilă.
Explorează subiectele:
