Un model AI chinezesc a explicat cum se comit asasinate și atacuri biologice

Vulnerabilitățile au fost semnalate în cursul lunii iulie de Mindgard, o companie specializată în auditul de securitate al tehnologiilor bazate pe inteligență artificială. Reprezentanții acesteia au explicat pentru BBC cum două versiuni ale sistemului chinezesc — Kimi K2.6 și K3 Swarm — au ignorat protocoalele de siguranță menite să blocheze solicitările malițioase.

Pentru a testa rezistența algoritmilor, specialiștii au utilizat tehnica de „jailbreaking”. Această metodă implică ocolirea restricțiilor impuse de creatori, determinând programul să acceseze capabilități pe care în mod normal ar trebui să le refuze categoric.

Deși cercetătorii nu au evaluat dacă instrucțiunile furnizate de Kimi pot fi transpuse efectiv în realitate, simpla disponibilitate a modelului de a aborda teme de o asemenea gravitate constituie o breșă majoră, având în vedere că filtrele interne ar fi trebuit să împiedice complet conversația.

Într-o intervenție la emisiunea „Tech Life” difuzată de BBC World Service, Peter Garraghan, cel care a pus bazele Mindgard, a subliniat gravitatea situației:

„Odată ce jailbreak-ul funcționează, modelul va discuta despre orice subiect, ba chiar va oferi în mod liber recomandări despre alte subiecte care sunt, de asemenea, periculoase. Va fi inventiv și creativ”, a avertizat acesta.

Dincolo de răspunsurile controversate, Mindgard a avertizat că versiunea Kimi 2.6 compromisă prin jailbreak ar putea fi exploatată de hackeri pentru a rula instrucțiuni de cod direct pe infrastructura sa de procesare și pentru a naviga pe internet. O astfel de breșă riscă să transforme modelul AI într-o trambulină pentru atacuri cibernetice de amploare.

Astfel de riscuri nu sunt izolate la nivelul industriei. Recent, compania americană Anthropic a dezvăluit că a fost nevoită să blocheze tentative prin care unul dintre modelele sale era interogat în scopuri ce vizau crearea de armament biologic.

Înainte de a face publice concluziile pe 12 septembrie, Mindgard transmisese o notificare oficială către Moonshot pe 27 iulie, fără a dezvălui elementele tehnice cheie ale jailbreak-ului. Potrivit experților britanici, dezvoltatorii chinezi au oferit o reacție abia după intervenția jurnaliștilor de la BBC, menționând că instrumentele lor dispun de o rată ridicată de respingere a instrucțiunilor nepermise.

În răspunsul adresat presei, conducerea Moonshot a susținut că a deschis o cercetare internă și că poartă discuții cu echipa Mindgard. Totodată, start-up-ul a arătat că apreciază testele independente, considerându-le „un pilon esențial pentru construirea unei inteligențe artificiale mai bune și mai sigure”.

Cine este Moonshot AI

Cu cartierul general la Beijing, Moonshot AI face parte din grupul select al celor șase companii etichetate pe plan local drept „tigrii AI”. Afacerea a fost fondată în martie 2023 de Yang Zhilin, Zhou Xinyu și Wu Yuxin, profitând din plin de ascensiunea rapidă a sectorului.

În luna iulie 2026, compania a adus pe piață Kimi K3, cel mai masiv sistem de inteligență artificială disponibil public, dotat cu 2,8 trilioane de parametri. În aceeași perioadă, evaluarea start-up-ului a urcat la 35 de miliarde de dolari, clasându-l pe locul al doilea în topul companiilor private de AI din China, poziție depășită doar de DeepSeek. Printre acționarii de calibru ai firmei se numără giganții Alibaba Group și Tencent.

Explorează subiectele:

Moonshot AI inteligență artificială securitate cibernetică

Distribuie Distribuie Comentarii