Inteligența artificială, între scut și armă: noi riscuri analizate la București
Organizația non-profit AI Human Leadership, structură independentă activă în București și în California (Palo Alto), a reunit joi, 24 septembrie, profesioniști din sfere diverse pentru a analiza modul în care inteligența artificială redefinește apărarea digitală și modul de conducere a organizațiilor.
Foto: Facebook/AI Human Leadership
Pentru a încuraja o transparență totală privind vulnerabilitățile reale din cadrul companiilor și instituțiilor, consultările s-au derulat conform regulilor Chatham House. Dialogul a fost concentrat în jurul naturii contradictorii a noilor tehnologii: deși algoritmii sunt esențiali în identificarea din timp și izolarea atacurilor, aceiași parametri sunt exploatați de hackeri pentru a lansa agresiuni mai greu de detectat.
Lista riscurilor emergente evaluate include escrocheriile de tip phishing ultra-personalizate prin intermediul AI, manipulările profunde de tip deepfake audio și video, dezvoltarea automatizată de malware, dar și slăbiciunile introduse involuntar de agenții AI autonomi integrați în rețelele operaționale.
Dezbaterile au fost împărțite în două axe esențiale. Primul panel a vizat consolidarea rezilienței digitale și adaptarea la noile reglementări europene din tehnologie, explorând rolul pe care AI îl joacă în rezolvarea crizelor de securitate. Totodată, s-a ridicat problema atribuirii responsabilității în rândul liderilor executivi atunci când deciziile critice sunt delegate sau asistate de algoritmi.
A doua componentă a discuțiilor s-a axat pe sistemul de învățământ superior și necesitatea racordării curriculei universitare la transformările aduse de AI generativă, alături de exersarea gândirii critice în rândul cursanților. Participanții au căutat soluții comune prin care mediul universitar, companiile și autoritățile să creeze oportunități menite să determine retenția tinerilor calificați în AI și securitate cibernetică pe piața din România.
„Ne-am dorit să aducem la aceeași masă oameni cu experiențe și perspective diferite și să avem o conversație deschisă, aplicată și utilă. Le mulțumesc tuturor celor care au răspuns invitației noastre și au contribuit la această discuție. Avem convingerea că, împreună, putem contribui la conturarea unor direcții concrete pentru modul în care ne pregătim pentru provocările pe care inteligența artificială le aduce în zona securității cibernetice”, a declarat Ioana Ioniță, președintele AI Human Leadership.
Concluziile și soluțiile rezultate în cadrul întâlnirii vor fi sintetizate într-un set strategic conținând 10 recomandări fundamentale pentru gestionarea raportului dintre securitatea cibernetică și sistemele bazate pe inteligență artificială.
Inițiatorii evenimentului, AI Human Leadership, activează la confluența dintre tehnologie, educație și guvernanță, militând pentru utilizarea critică și responsabilă a instrumentelor digitale, fără înlăturarea factorului uman din centrul deciziei.
Explorează subiectele:
securitate cibernetică inteligență artificială AI Human Leadership
