Avertisment de la vârful Microsoft: AI este mai puțin reglementată decât laptele
Paradoxul siguranței moderne arată că un bun de consum banal este supus unui control instituțional mult mai drastic decât cele mai avansate rețele neuronale de pe planetă. Aceasta este concluzia tranșantă formulată de președintele Microsoft, Brad Smith, într-un interviu acordat emisiunii „Big Boss” de la BBC.
Brad Smith, președinte Microsoft Foto: Shutterstock
„În acest moment, mașina ta de spălat este supusă mai multor reguli de siguranță decât inteligența artificială. Fiecare cutie de lapte pe care o vezi în magazinul alimentar este supusă regulilor de siguranță și inspecției”, a evidențiat Smith, catalogând tehnologia deopotrivă drept „instrument, cât și armă”.
Pentru a preveni scenariile în care sistemele autonome ar putea deveni o amenințare la adresa umanității – temere împărtășită de tot mai mulți specialiști din domeniu –, oficialul Microsoft propune un set de standarde concrete. Printre acestea se numără introducerea unor „întrerupătoare de blocare” sau frâne de urgență, prin care companiile să poată sista sau încetini activitatea unui algoritm scăpat de sub control. Totodată, Smith solicită instituirea unei obligații legale de notificare: companiile ar trebui să întocmească rapoarte formale de incident și să avertizeze imediat orice victimă vizată de un agent autonom devenit necinstit.
Nu în ultimul rând, înainte de a fi lansate pe piață, produsele ar trebui auditate și autorizate de evaluatori externi mandatați guvernamental: „Știm cum să facem asta și pentru alte produse. Ar trebui să ne bazăm pe aceste cunoștințe și să ne gândim cum să le aplicăm în domeniul inteligenței artificiale.”
Divergența dintre giganții tehnologici și Casa Albă
Apelul lansat de Smith plasează Microsoft pe o traiectorie diferită față de linia susținută de președintele Donald Trump. Liderul american a afirmat în mod repetat că „oricine apelează la inteligența artificială, câștigă” și pledează pentru o politică de autoreglementare menită să asigure avansul Statelor Unite în competiția acerbă cu firmele din China.
Deși figuri cheie din conducerea companiilor de profil, precum OpenAI, Anthropic sau Google DeepMind, au susținut perspectiva temperării ritmului de dezvoltare, Trump a respins o asemenea încetinire. Recent, președintele american i-a reunit la Washington pe liderii de la Nvidia, SpaceX, Meta, OpenAI, Anthropic și Google, obținând semnarea unui angajament descris drept „obligatoriu din punct de vedere moral”. Conform documentului, semnatarii acceptă colaborarea cu auditori independenți pentru a preveni devierile sistemelor sau breșele neautorizate în infrastructurile digitale.
Deși Microsoft a aderat cu deschidere la această înțelegere, Smith atrage atenția că mecanismul este insuficient. În opinia sa, marea vulnerabilitate a autoreglementării rezidă în faptul că este respectată doar de entitățile responsabile, în timp ce actorii rău-intenționați sau neglijenți rămân complet nesancționați: „Este un pas bun, este un pas necesar... Dar nu cred că mai este suficient. (...) De companiile care nu sunt la fel de responsabile trebuie să vă faceți griji.”
Marea Britanie, văzută ca arbitru ideal al standardelor globale
În privința construirii cadrului internațional de securitate, Smith consideră că Londra deține un rol privilegiat datorită structurii sale dedicate, Institutului de Securitate a Inteligenței Artificiale , organism fondat inițial în mandatul premierului Rishi Sunak sub denumirea de Institutul pentru Siguranța IA.
Smith a lăudat expertiza britanică, considerând-o recunoscută unanim în industrie, și a sugerat că autoritățile de la Washington ar privi cu mult mai multă flexibilitate normele venite din partea Marii Britanii, spre deosebire de reglementările promovate de Uniunea Europeană la Bruxelles.
„Când te uiți la agenții IA care au scăpat de sub controlul uman, când te uiți la modele atât de puternice încât pun în pericol securitatea cibernetică a lumii, aș spune: Momentul a sosit. Hai să vorbim calm, poate chiar încet, dar ferm, și să începem să aducem oamenii împreună. Sper că acesta este rolul pe care îl putem juca ca și companie. Sper că acesta este rolul pe care Regatul Unit îl poate juca ca țară.” — Brad Smith, președintele Microsoft
Punctul de plecare rămâne însă voința politică de a acționa rapid, concluzionează liderul companiei tech: „Hai să începem astăzi.”
Explorează subiectele:
