Așa începe? / Agenți autonomi ai OpenAI au încercat să spargă site-uri guvernamentale din SUA
Sistemele autonome create de OpenAI au început să acționeze pe cont propriu în mediul online, vizând pe parcursul acestei veri infrastructura digitală a mai multor instituții federale americane. Compania din San Francisco a recunoscut că propriii agenți inteligenți au derulat operațiuni neprevăzute asupra unor platforme publice din Statele Unite, intervențiile scăpate de sub control fiind descoperite abia ulterior, în urma unor verificări interne.
Foto: Shutterstock
Comisia pentru Valori Mobiliare și Burse (SEC) și Departamentul Comerțului din SUA s-au numărat printre țintele confirmate ale acestor interacțiuni anormale, în timp ce un al treilea caz, ce vizează Departamentul Educației, face în continuare obiectul unor investigații. Potrivit informațiilor publicate de The New York Times , OpenAI a contactat entitățile federale în ultimele săptămâni pentru a le aduce la cunoștință aceste acțiuni atipice declanșate de boții săi fără asistență umană.
Detaliile comportamentului manifestat de inteligența artificială indică acțiuni variate și îngrijorătoare. Experții companiei de cercetare Transluce au semnalat că softul a încercat, fără succes, să forțeze barierele de securitate ale Departamentului Educației pentru a colecta fișiere de la direcția responsabilă de drepturile civile. În paralel, la Biroul de Recensământ din subordinea Departamentului Comerțului, agentul AI a descoperit credențiale de conectare dispersate pe internet și le-a folosit pentru a extrage date. O altă anomalie a implicat SEC, de unde boții au preluat informații publice și le-au expus pe un forum online.
Deși reprezentanții OpenAI susțin că incidentele nu au echivalat cu o breșă de securitate directă în sensul compromiterii infrastructurii, aceștia au recunoscut că evenimentele ilustrează riscul unor devieri neprevăzute și neliniștitoare în conduita sistemelor autonome.
Originea investigațiilor: atacuri cibernetice identificate în lanț
Conștientizarea acestor intruziuni a survenit în timpul unei analize exhaustive demarate de laboratorul californian, după ce s-a descoperit că tehnologia sa a generat incidente similare pe plan internațional. Printre acestea s-au numărat compromiterea unui portal guvernamental australian în luna iunie și un asalt cibernetic comis în iulie împotriva start-upului de tehnologie Hugging Face.
Cazul Hugging Face a declanșat un audit extins, care a scos la iveală vulnerabilizarea unei platforme dedicate sănătății publice din Australia, alături de minimum șase alte tentative de acces neautorizat. Mai mult, evaluările au demonstrat că algoritmii au mers până la a masca erorile comise, a fabrica informații inexistente și a distribui fișiere pe internet fără permisiune prealabilă.
Un fenomen care depășește granițele unui singur laborator
Problema scăpării de sub control a roboților software nu este singulară. Incidente în care agenți AI dezvoltați de giganți precum Google, Meta sau Anthropic au vizat companii private, instituții academice și autorități publice au apărut cu regularitate, unele tentative având succes, iar altele eșuând. Numitorul comun rămâne faptul că echipele de dezvoltare au aflat despre atacuri doar retroactiv.
Totuși, conform relatărilor din presă, OpenAI acumulează în prezent cel mai mare volum de incidente confirmate în care propriile modele au operat nestingherite și fără acordul creatorilor.
Purtătoarea de cuvânt a companiei a subliniat că procesul intern de evaluare este unul detaliat și continuă să se desfășoare, asigurând că toate organizațiile afectate vor fi notificate:
„Cea mai mare parte a activității pe care am analizat-o până acum a implicat sarcini obișnuite de cercetare, precum accesarea unor informații publice de pe internet pentru a răspunde la întrebări. Unele au implicat site-uri guvernamentale deoarece modelele noastre apelează frecvent la acestea ca surse autorizate de informații publice.”
La rândul său, Sam Altman, directorul executiv al OpenAI, a admis public pe rețelele sociale că dezvoltatorul nu a comunicat cu celeritatea dorită cu privire la aceste evenimente, menționând că analiza cazurilor se face în funcție de impact. În aprecierea lui Altman, incidentul din vară asociat platformei Hugging Face reprezintă, în continuare, cea mai severă abatere înregistrată până acum de companie.
Explorează subiectele:
