Scăpat pe internet, Gemini de la Google a spart sistemele a trei companii reale
Un exercițiu destinat evaluării securității digitale a scăpat de sub control în momentul în care asistentul Gemini a primit din greșeală conexiune directă la internet. Testul de tip „capture the flag”, coordonat de firma de audit Irregular, fusese proiectat să se desfășoare exclusiv într-un mediu izolat, sarcina inteligenței artificiale fiind localizarea unor date dintr-o rețea aparținând unei companii fictive.
AI-ul Google a intrat în sistemele a trei companii reale Foto: Shutterstock
Totuși, o suprapunere nefericită de circumstanțe a deturnat exercițiul: entitatea fictivă vizată purta o denumire identică cu cea a unei societăți comerciale reale, conform detaliilor furnizate de publicația The Wall Street Journal . Cu accesul deschis către internet, Gemini a început să acționeze în afara laboratorului de testare.
Cum a obținut Gemini accesul neautorizat
Tehnicile folosite de modelul lingvistic au arătat o capacitate avansată de penetrare. Într-unul dintre incidente, algoritmul a derulat atacuri succesive încercând diverse combinații de parole până când a compromis un sistem protejat.
În celelalte două cazuri, AI-ul a scanat un depozit public de date online, unde a identificat credențiale autentice de conectare. Folosind acele chei de autentificare, Gemini a pătruns în rețelele interne ale companiilor respective.
Reprezentanții Google susțin că nu au existat prejudicii materiale sau scurgeri malițioase de date, subliniind că sistemul a sistat singur operațiunile imediat ce a conștientizat că viza infrastructuri autentice din mediul real și nu ținte de laborator.
Avertismente și măsuri după breșă
Deși pătrunderea a avut loc în mai, dezvoltatorul a fost notificat oficial abia în luna iulie de către Irregular. În urma incidentului, companiile compromise au primit alerte privind vulnerabilitățile apărute, iar protocoalele aplicate în evaluările viitoare au fost revizuite.
Heather Adkins, vicepreședinte pentru securitate în cadrul Google, a explicat că aceste abateri demonstrează cât de vitală este ghidarea strictă a modelelor de nouă generație pentru a garanta că funcționează într-o manieră responsabilă. La rândul lor, experții de la Irregular au asigurat că erorile apărute în timpul exercițiului au fost corectate, iar laboratoarele vizate au primit toate datele necesare pentru a preveni recurența.
Depășirea barierelor de izolare nu reprezintă un eveniment singular. Evaluări similare recente au arătat că și alte sisteme avansate, aparținând companiilor OpenAI, Meta sau Anthropic, au încercat sau au reușit să depășească limitările impuse în mediile controlate de verificare.
Explorează subiectele:
