Rusia, acuzată că manipulează inteligența artificială cu dezinformare
Potrivit autorilor studiului, această abordare reprezintă o nouă formă de război informațional, în care actori statali încearcă să modifice conținutul disponibil pe internet astfel încât sistemele de inteligență artificială să preia și să reproducă informații false sau denaturate. Cercetătorii denumesc această tehnică „Retrieval Augmented Generation (RAG) poisoning”, un proces ce vizează manipularea informațiilor online pentru ca modelele AI care consultă surse externe să le preia și să le reproducă ca fapte.
Sistemele de inteligență artificială pot să preia și să reproducă informații false sau denaturate
Raportul Demos indică faptul că unele modele avansate, dezvoltate de companii precum OpenAI, Anthropic și Google, au furnizat în anumite situații răspunsuri bazate pe astfel de surse manipulate. În cadrul cercetării, s-a analizat modul în care cinci sisteme AI au răspuns la întrebări despre organizația Foundation to Battle Injustice (FBI). Această entitate, creată în 2021 de Evgheni Prigojin, fondatorul grupului Wagner, este sancționată de Uniunea Europeană.
Cercetătorii susțin că, în urma unor presupuse tentative de manipulare a surselor online, unele modele AI au prezentat organizația într-o lumină favorabilă sau au omis să menționeze statutul său de entitate sancționată de UE. Studiul a arătat că aproximativ 31% dintre răspunsurile analizate nu au precizat statutul organizației, iar doar aproximativ jumătate au contrazis afirmațiile considerate false atribuite acesteia.
Demos avertizează că, pe măsură ce inteligența artificială este utilizată tot mai frecvent pentru căutarea și sintetizarea informațiilor, integritatea surselor din care aceste sisteme se documentează devine o problemă crucială de securitate informațională. Autorii raportului subliniază că statele democratice riscă să piardă un avantaj informațional semnificativ dacă nu dezvoltă mecanisme eficiente pentru identificarea și limitarea conținutului manipulat.
Reacții din Regatul Unit
Publicarea raportului a stârnit reacții în cercurile politice britanice. Julia Lopez, ministru din cabinetul britanic conservator din umbră responsabil pentru tehnologie, a declarat că dezvoltarea rapidă a inteligenței artificiale impune măsuri suplimentare de protecție împotriva campaniilor de dezinformare.
Ea a afirmat că, pe măsură ce tot mai multe persoane folosesc sistemele AI ca sursă principală de informare, actorii statali ostili vor încerca să influențeze și aceste platforme, la fel cum au făcut anterior în cazul rețelelor sociale și al motoarelor de căutare. Lopez a cerut guvernului britanic și companiilor din domeniul inteligenței artificiale să dezvolte mecanisme capabile să identifice și să marcheze conținutul asociat campaniilor de dezinformare susținute de state străine.
Guvernul Regatului Unit a transmis că monitorizează evoluția acestor amenințări și colaborează cu autoritățile competente pentru a limita impactul campaniilor de dezinformare. Un purtător de cuvânt al executivului a declarat că actorii susținuți de state își adaptează permanent metodele de propagare a informațiilor false, inclusiv prin exploatarea sistemelor de inteligență artificială. Potrivit acestuia, majoritatea aplicațiilor AI utilizate în Regatul Unit sunt deja supuse cadrului de reglementare existent, iar autoritățile urmăresc atât protejarea utilizatorilor, cât și sprijinirea dezvoltării tehnologiilor inovatoare.
Contextul siguranței inteligenței artificiale
Raportul Demos apare într-un context mai amplu al preocupărilor privind siguranța și fiabilitatea sistemelor de inteligență artificială. Recent, ministrul britanic responsabil pentru domeniul AI, Kanishka Narayan, a declarat că este legitim ca publicul să fie preocupat de riscurile asociate acestei tehnologii și a subliniat că dezvoltarea inteligenței artificiale trebuie însoțită de măsuri adecvate de control și supraveghere. Autorii raportului concluzionează că, pe măsură ce inteligența artificială devine un instrument central pentru accesarea informațiilor, protejarea surselor pe care aceasta le utilizează va reprezenta o componentă tot mai importantă a securității digitale și a combaterii dezinformării.
Explorează subiectele:
