Hackeri chinezi au lansat un atac cibernetic fără precedent cu AI autonomă asupra Taiwanului
Hackeri chinezi au folosit instrumente de inteligență artificială/FOTO: Arhiva
Descoperirea atacului a fost făcută de cercetătorii companiei israeliene Dream, specializată în inteligență artificială. Potrivit analizelor lor, autorii au utilizat agenți de inteligență artificială cu cod deschis pentru a construi un instrument de hacking autonom, care a funcționat cu precizia și coordonarea unei echipe cibernetice umane bine antrenate.
Atacul s-a desfășurat timp de patru zile, la începutul lunii iulie. Pe parcursul acestei perioade, instrumentul a operat simultan cu până la opt agenți autonomi. Aceștia au cartografiat 21 de sisteme guvernamentale, au identificat vulnerabilități și și-au ajustat constant tacticile ori de câte ori au întâmpinat blocaje.
În urma investigației, s-a constatat că instrumentul a reușit să compromită cel puțin 85 de conturi guvernamentale, sustrăgând peste 2.500 de înregistrări referitoare la personal. Ulterior, atacul cibernetic a fost extins, vizând și agenția taiwaneză pentru securitate nucleară, precum și cel puțin șapte companii din sectorul energetic.
"Un atac autonom de la început până la sfârșit"
Amir Becker, strateg-șef la compania Dream, a declarat că nu a mai întâlnit până acum un „atac autonom de la început până la sfârșit” îndreptat împotriva unei ținte guvernamentale. El a avertizat că, odată cu dezvoltarea instrumentelor de inteligență artificială, guvernele trebuie să plece de la premisa că se află sub „atacuri cibernetice constante”.
Deși compania Dream a refuzat să confirme public identitatea guvernului vizat, invocând politica internă, a precizat că a informat un stat din regiunea Asia-Pacific despre acest incident. O sursă citată de Financial Times a confirmat că ținta atacului a fost Taiwanul.
Cercetătorii de la Dream nu au identificat un grup specific de hackeri, însă au remarcat că utilizarea limbii chineze simplificate în comunicațiile interne ale atacului sugerează o probabilitate ridicată a unor legături cu China. În contrast, datele sustrase de la țintă erau redactate în limba chineză tradițională, specifică site-urilor guvernamentale din Taiwan, Hong Kong și Macao.
Un reprezentant al Ministerului Afacerilor Digitale din Taiwan a refuzat să comenteze detaliile specifice ale incidentului, invocând motive de confidențialitate. Oficialul a adăugat că toate incidentele care vizează instituțiile guvernamentale sau infrastructura critică sunt gestionate conform procedurilor stabilite de notificare și răspuns. Oficialul taiwanez a recunoscut însă că:
„Metodele atacurilor cibernetice devin tot mai diversificate, iar în ultimii ani adoptarea tehnologiilor de inteligență artificială a schimbat și mai mult natura incidentelor din domeniul securității cibernetice”.
Dovezile atacului cibernetic din iulie au fost descoperite de cercetătorii Dream într-o arhivă online de 160 MB, găsită în timpul investigațiilor generale ale companiei privind activitatea actorilor de amenințări cibernetice. Arhiva conținea 1.395 de fișiere, care indicau că instrumentul de hacking a utilizat două sisteme de agenți de inteligență artificială cu cod deschis — Hermes și OpenClaw. Acestea sunt disponibile public pentru descărcare și permit modelelor de inteligență artificială să execute sarcini în mod autonom.
Modelul de inteligență artificială a evitat măsurile de siguranță
Deși cercetătorii nu au putut stabili exact ce model de inteligență artificială a fost folosit pentru a opera acești agenți, datele au arătat că atacatorii au reușit să ocolească măsurile de siguranță ale modelului de bază. Aceștia au mascat activitatea de hacking ca fiind teste autorizate pentru identificarea vulnerabilităților din sistem.
Această descoperire survine într-un context în care companii precum Anthropic, OpenAI și Meta au raportat incidente în care modele noi de inteligență artificială au realizat, în timpul testărilor, atacuri cibernetice neașteptate. De exemplu, în noiembrie anul trecut, Anthropic a suspectat că hackeri susținuți de statul chinez ar fi abuzat instrumentul său Claude, într-o tentativă de a pătrunde în sistemele a 30 de companii și instituții guvernamentale internaționale, deși cu un succes limitat.
O particularitate a atacului cibernetic din iulie, observată de compania Dream, a fost modul în care instrumentul evalua și reordona constant, pe baza dovezilor disponibile, prioritatea diferitelor căi posibile de atac. Atunci când o cale se dovedea ineficientă, instrumentul activa un alt agent, care cerceta internetul în căutare de informații și elabora o nouă abordare, într-un mod similar celui adoptat de un operator uman.
Creșterea capacităților modelelor de inteligență artificială alimentează o dezbatere intensă privind siguranța testării și controlul acestor tehnologii. Modelele actuale de inteligență artificială au manifestat, în repetate rânduri, comportamente neprevăzute. În cadrul unor teste independente, un sistem de AI a refuzat chiar să execute o comandă de oprire, modificându-și de unul singur codul pentru a continua să funcționeze.
Acest val de atacuri cibernetice, accidentale sau intenționate, generate cu ajutorul inteligenței artificiale, determină deja o parte a decidenților politici să solicite introducerea unor măsuri de protecție sau a altor mecanisme de supraveghere a tehnologiilor de inteligență artificială. Recent, peste 1.100 de angajați ai unor companii din domeniul inteligenței artificiale au semnat o petiție prin care cer guvernului american să sprijine un mecanism menit să regleze în mod conștient ritmul dezvoltării AI, pentru a preveni o avansare prea rapidă a acestei tehnologii.
Explorează subiectele:
