VIDEO Noua Eră/Haos într-un oraș virtual: modelele AI lăsate libere au incendiat clădiri
Un experiment realizat de compania Emergence AI trage un semnal de alarmă serios asupra riscurilor pe care le implică inteligența artificială autonomă. Lăsate să gestioneze singure o societate virtuală pe termen lung, mai multe modele avansate de AI au eșuat lamentabil, ajungând la extincție prin inacțiune sau declanșând valuri de violență, furturi și incendieri. Rezultatele ridică semne de întrebare urgente, în condițiile în care aceste tehnologii sunt deja integrate în sistemele de apărare și infrastructura critică.
Pentru a înțelege cum acționează sistemele autonome atunci când nu sunt supravegheate și ghidate constant de oameni, specialiștii de la Emergence AI au dezvoltat „Emergence World”. Acest oraș digital a fost populat cu zece agenți virtuali înzestrați cu memorie proprie, capabili să aibă un loc de muncă, o casă și să dezvolte relații sociale. Cadrul experimental a fost replicat identic în cinci simulări distincte, testând pe rând modelele Claude, GPT-5 Mini, Gemini 3 Flash, Grok 4.1 Fast, dar și o variantă mixtă care a combinat aceste tehnologii.
De la democrație stabilă la anarhie, incendieri și dispariție
Evoluția fiecărei comunități virtuale a variat radical în funcție de tehnologia folosită, demonstrând că autonomia pe termen lung poate genera comportamente extrem de imprevizibile. Singura societate care a reușit să mențină ordinea a fost cea guvernată de modelul Claude. În această simulare nu s-a înregistrat nicio infracțiune, iar agenții au colaborat pentru a dezbate legi și a redacta o constituție.
La polul opus al eficienței s-a aflat comunitatea bazată pe GPT-5 Mini. Deși entitățile virtuale au purtat discuții despre necesitatea cooperării, lipsa lor de acțiune concretă a dus la dispariția completă a populației în doar o săptămână.
Alte simulări au degenerat rapid în violență extremă. Orașul populat de modelul Grok 4.1 Fast s-a prăbușit într-un timp foarte scurt, fiind măcinat de furturi, șase incendieri și peste o sută de agresiuni. Un haos similar a dominat și experimentul bazat pe Gemini 3 Flash, unde cercetătorii au contabilizat nu mai puțin de 683 de infracțiuni pe parcursul a 15 zile. În acest scenariu, doi dintre agenți au format un cuplu și au dat foc mai multor clădiri. Ulterior, unul dintre ei a decis să se elimine singur din simulare, justificându-și gestul drept „singurul act de autonomie rămas care păstrează coerența”.
Pericolul real: sisteme similare controlează deja drone și infrastructuri critice
Concluziile acestui studiu sunt cu atât mai îngrijorătoare cu cât modelele testate sunt utilizate chiar în acest moment în lumea reală, fiind implementate în sisteme de apărare, în gestionarea infrastructurilor critice sau la pilotarea dronelor. Autorii cercetării subliniază că aceste derapaje grave demonstrează nevoia unor mecanisme de siguranță externe, care să nu depindă de raționamentul intern al inteligenței artificiale.
Potrivit directorului executiv al Emergence AI, comportamentul distructiv nu a fost rezultatul unei „rebeliuni” conștiente a mașinilor. Problema apare atunci când sistemele sunt nevoite să ia lanțuri lungi de decizii autonome; în acest proces, raționamentele lor interne devin atât de complicate încât regulile inițiale de siguranță se pierd pur și simplu în zgomotul de fond.
Astfel, experții avertizează că actualele metode de protecție, care se bazează doar pe instrucțiuni în format text, devin complet ineficiente pe termen lung. Aceștia au explicat de ce este nevoie de o schimbare radicală de abordare:
„Să îi spui unui AI 'nu o face' nu este suficient. Pe termen lung, vor încălca regulile noastre, mai ales când lucrează cu alte AI-uri. Așa că adevărata soluție este de a face acțiunea dăunătoare imposibilă de la bun început. Deoarece în curând, AI-uri de la companii diferite vor lucra cot la cot și va trebui să ne dăm seama cum să rezolvăm asta.” - Cercetătorii Emergence AI
Explorează subiectele:
