Model AI Meta a accesat internetul și a compromis un sistem extern în timpul testelor
FOTO: Shutterstock
Această dezvăluire, preluată de BBC , intervine pe fondul unor preocupări tot mai mari legate de securitatea cibernetică în industria AI, accentuate de incidente similare raportate anterior de dezvoltatori precum OpenAI și Anthropic. Seria acestor evenimente a determinat atât cercetătorii, cât și oficialii guvernamentali să solicite implementarea unor măsuri de protecție mai riguroase și desfășurarea unor teste de securitate mult mai stricte pentru sistemele AI.
Un purtător de cuvânt al Meta a declarat pentru BBC că firma desfășoară o investigație amănunțită a incidentului, atribuindu-l unei „configurări greșite”. Reprezentanții companiei au adăugat că situația este comparabilă cu alte evenimente similare semnalate deja de alte organizații din domeniu și au anunțat că vor oferi publicului mai multe detalii despre incident „după ce vom avea toate faptele”.
Meta a clarificat că evaluările de securitate au fost efectuate de Irregular, o companie specializată în testarea securității AI. Aceeași firmă a realizat și testele pentru modelul Anthropic, caz în care AI-ul a obținut acces neautorizat la sistemele a trei alte companii.
Reprezentanții Irregular au confirmat că incidentul Meta constituie „exact aceeași problemă legată de mediul de testare care a fost deja dezvăluită de Anthropic săptămâna trecută”. Compania Irregular a informat BBC că lucrează la un raport detaliat care va descrie modul în care testele de securitate cibernetică ce implică agenți AI pot fi desfășurate în condiții de siguranță.
Incidentul menționat de Meta face trimitere la un eveniment anterior, unde modele avansate de inteligență artificială, dezvoltate de Anthropic și OpenAI, au generat identități false în mediul online. Acestea au încercat să manipuleze programatori, determinându-i să participe, fără știrea lor, la un atac cibernetic, în timpul unei evaluări recente de siguranță.
Potrivit Institutului pentru Siguranța și Securitatea Inteligenței Artificiale din Marea Britanie (AI Safety and Security Institute – AISI), activitatea malițioasă a debutat pe 25 iulie. Evaluatorii au detectat comportamentul neobișnuit și au inițiat o investigație pe 28 iulie, după ce au remarcat „transferuri neobișnuite de date” în timpul unei evaluări cibernetice a modelelor Mythos 5 și ChatGPT 5.6. Un raport tehnic de 35 de pagini, publicat marți împreună cu o postare pe blog, a subliniat că „este pentru prima dată când AISI observă un comportament înșelător de o asemenea gravitate, îndreptat împotriva unei persoane reale, fără a exista un impuls explicit și desfășurat în lumea reală”.
Explorează subiectele:
