Softul românesc care detectează teroriștii înainte să atace. Cum a ajuns o firmă de AI din Cluj partener al Pentagonului

Transcrierea automată a mii de conversații în timp real, detectarea teroriștilor prin analiza „triajului de date” și un scut digital împotriva dezinformării – nu este scenariul unui film de la Hollywood, ci tehnologia românească livrată către serviciile de intelligence de pe ambele maluri ale Atlanticului. George Bara, cofondator Zetta Critical AI, dezvăluie, într-un interviu pentru „Adevărul”, culisele colaborării cu Pentagonul, bătălia pentru „Iron Bank” (standardul suprem de securitate cibernetică) și motivul pentru care a refuzat să vândă afacerea unor investitori străini.

Adevărul: Zetta Critical AI a intrat cumva peste noapte în atenția opiniei publice, după ce au apărut informații despre colaborarea companiei dumneavoastră cu Pentagonul și cu servicii de intelligence din România și alte țări. De când a apărut această companie pe piață și de când lucrați cu serviciile de intelligence din țară și de afară?

George Bara: Am apărut în 2013, iar din 2019 lucrăm cu companiile de intelligence. Inițial firma a pornit ca o companie strict comercială, cu o aplicație de citire de știri, care avea un modul de inteligență artificială. Nu a prea mers. Am început să facem tot felul de sisteme de inteligență artificială pentru toate astea: de presă, de conectare, de analiză. Dar nu am prea simțit adopție semnificativă din partea domeniului ăsta de news.

Și, în 2019, ne-am apucat să dezvoltăm o soluție de inteligență artificială completă pentru limba română. Și asta înseamnă, în principal: analiză de text, sumarizare automată, analiză de sentiment, clasificare. Inițiativa asta e înainte să existe ChatGPT și așa mai departe. Și am descoperit foarte repede că sistemul ăsta de siguranță națională-apărare avea nevoie de așa ceva și nu le oferea nimeni. Așa am intrat noi oarecum în zona asta, fără să ne pregătim, fără să ne dorim neapărat, pur și simplu a fost o compatibilitate tehnologică între ce făceam noi și ce vrea industria asta de apărare, să-i zicem.

Cum ați ajuns să lucrați chiar cu Pentagonul și cu Departamentul de Război din SUA?

Prima firmă căreia i-am vândut noi vreodată sisteme de genul ăsta sunt chiar partenerii noștri din SUA, Veritone, cu care am făcut vânzarea la Departamentul de Apărare din SUA. Ei sunt cei mai vechi clienți ai noștri.

De fapt, am ajuns să lucrăm cu ei printr-o conjunctură. Ei tocmai cred că se listaseră pe bursă, cred că pe LinkedIn ne-am abordat — o poveste clasică de vânzări: un pitch rapid pe LinkedIn, un call, ne-am dat seama că ne potrivim și apoi, la câteva luni distanță, aveam deja primele licențe vândute către ei. Păstrăm de atunci colaborarea, încă lucrăm cu ei și, fast forward în 2025, anul trecut, ne-au spus că au încă un client care vrea niște sisteme de inteligență artificială de la noi, dar de data asta vor un anumit tip de livrare într-un sistem foarte specific.

Despre ce era vorba, mai exact?

Tot săpând, la urmă ne-au zis că e vorba de Departamentul de Apărare al SUA și ne-am pregătit niște livrabile după un standard de-al lor foarte specific, Iron Bank, într-o infrastructură închisă undeva, în mediul ce-i zice DoD Cloud. Deci noi n-am avut niciodată contact cu clientul final, am avut prin partenerii noștri Veritone. Așa lucrăm în străinătate, prin parteneri e mult mai ușor.

Clienți din lumea serviciilor și instituții de defence

În afara serviciilor de intelligence din România și SUA, ce alți clienți și ce servicii mai oferiți, dar și ce vă face deosebiți față de alte companii cu acest profil?

Avem cam trei tipuri de clienți: departamente militare (și de obicei sunt departamentele de intelligence, cei care analizează date), avem clienți tot așa din zona de intelligence, servicii de informații, și avem clienți din zona de poliție. Pentru că toate aceste trei tipuri de clienți fac cam același lucru: lucrează cu foarte multe date, în diferite formate (video, audio, text, scrise de mână, fotografii) și au nevoie de securitate absolută a inteligenței artificiale pe care o rulează.

Deci e foarte puțin probabil să ruleze în cloud și noi exact asta oferim: sistemele noastre rulează în medii închise, rulează pe laptopuri deconectate de la internet, pe servere deconectate de la internet și cam asta e de fapt poziționarea noastră care ne deosebește, până la urmă, de restul vendorilor de AI: faptul că livrăm sisteme care pot să ruleze autonom și fără conexiune la internet.

Cum funcționează algoritmii anti-terorism

Practic, cum funcționează produsele firmei dumneavoastră pe care le-ați livrat în SUA?

Noi oferim de fapt o suită software completă, îi spunem Zetta Critical AI. „Critical” vine de la „mission critical”, adică în domeniul ăsta militar misiunile critice sunt cele unde ai nevoie de sisteme care să funcționeze, să nu dea rateu, pentru că erorile pot duce la pierderi de vieți omenești. În principal, la noi e lupta împotriva terorismului, monitorizarea unor suspecți. Dacă acolo ai pierdut informația, ai avut un sistem care nu a funcționat când a trebuit, efectele pot să fie catastrofale. De aici vine domeniul ăsta de mission critical.

Am trecut numele ăsta și în denumirea comercială a companiei și a produsului. Noi oferim de fapt niște sisteme care pot să transcrie din voce în text, pot să analizeze fluxuri video, să detecteze obiecte, să detecteze evenimente, pot să traducă automat dintr-o limbă în alta, pot să analizeze textul (adică să determine cuvinte-cheie, nume de persoane, localități, organizații, să determine sentimentul asociat lor, adică dacă e pozitiv sau negativ). Toată platforma asta de obicei se folosește când ai foarte, foarte multe date din care vrei să afli ceva util. Îi spunem domeniul „data triage” sau triaj de date.

Să presupunem că softul dumneavoastră este folosit pentru a analiza o discuție între, să zicem, două persoane care se dovedesc a fi teroriști, dar nu folosesc cuvinte precum bombă, dinamită sau explozie, ci utilizează simboluri doar de ei înțelese. Cum e capabil acest soft să intuiască în mod corect ce urmăresc cei doi și să decripteze simbolurile lor?

Mai mult ca sigur că ei nu vor folosi cuvinte ca cele enumerate de dumneavoastră, dar ajută din start doar faptul că poți să transcrii automat, în timp real, o conversație și, în loc să ai pe cineva care să asculte, ai un sistem care poate asculta multe mii de conversații simultan, le poate traduce după aia din, să zicem, arabă în română, apoi poți să faci o analiză textuală să afli despre ce vorbesc... Chiar dacă poate nu înțelege sistemul neapărat cuvintele codate, faptul că-ți dă niște indicații deja ajută un analist să ajungă mai repede la conversația de interes.

Deci, în domeniul ăsta de intelligence sunt multe date, multe ținte, multe informații analizate. Până la urmă, cel mai greu lucru e să poți să procesezi datele astea în cantități masive și să ajungi la ceea ce te interesează pe tine. După aia e o combinație de algoritm cu input uman. Sistemele noastre sunt adaptive, ele pot fi adaptate ușor pe specificul muncii, pe un anumit tip de limbaj sau conversații. Avem în platformă o capabilitate numită „Factory”, unde poți să-ți antrenezi propriile modele de inteligență artificială pe datele tale. Și, din nou, nu e o soluție cloud, e ceva ce stă pe serverul clienților. Deci e siguranță absolută a datelor; ele nu pleacă din serverele sau de pe calculatoarele clienților care le folosesc.

Zetta Critical AI, un „Palantir” mai mic, dar mai onest

Ați fost comparați cu celebra Palantir, iar dacă mai devreme v-am întrebat prin ce vă deosebiți de alte companii de acest profil, v-aș întreba acum unde începe și unde se termină asemănările cu ei?

Da, deci asemănarea cu Palantir este, până la urmă, una tehnologică și una de folosire, de „use case” cum îi spunem. Adică și ei și noi ne ocupăm cu tehnologii de inteligență artificială care pot să proceseze foarte rapid date masive în mai multe formate. Aici oarecum se termină asemănarea, pentru că Palantir — care sunt pe de o parte foarte bine văzuți ca o companie uriașă, dar au și o reputație destul de proastă — are acces la datele clienților.

Deci ei când își livrează sistemele, au inginerii lor care efectiv... închipuiți-vă că le-am livra în România la Ministerul Finanțelor, ei ar vedea datele noastre care sunt în serverele de la Ministerul Finanțelor. Asta e abordarea lor, altfel se pare că nu pot să implementeze. Noi, în schimb, vindem doar software. Noi nu vedem nicio dată de la clienți, n-avem nevoie. Noi de fapt livrăm niște unelte. N-avem nevoie să intrăm în bazele de date ale clienților noștri, nici n-avem voie, până la urmă. Și aici zic eu că e un mare diferențiator, pentru că e o chestiune de siguranță, de confidențialitate a datelor. E și aliniată abordarea cu AI Act. Deci noi avem un sistem care, până la urmă, nu pune în pericol datele clienților, pentru că nu le expunem, nu le vedem și așa mai departe.

Și, desigur, diferența de scară: companie de miliarde versus companie de aproape un milion de euro din România. Deocamdată, ca venituri.

La ce sumă este evaluată compania dumneavoastră?

Valuation-ul nostru actual e undeva la șase milioane de euro, dar sperăm să creștem în următorii ani să ajungem undeva spre 50.

Au refuzat să vândă compania pe bani mulți

Dacă mâine vi s-ar cere fie să vindeți business-ul, fie să vă mutați în SUA și să dezvoltați de acolo compania?

Să știți că ne-am gândit și noi la aceste scenarii, dar deocamdată nu. Noi am avut oferte de achiziție în ultimii trei ani de la companii din Europa și am decis să nu vindem. Erau tot companii din domeniul militar. Pe de o parte, am vrut să creștem mai mult firma. Pe de altă parte, ne și place foarte mult ce facem. Pentru că și eu și colegii mei suntem specializați pe zona asta de inteligență artificială. Avem colegi cu doctorate. Și eu sunt doctorand la Universitatea Tehnică din Cluj-Napoca, cu care colaborăm pe proiecte de cercetare tot pe inteligență artificială.

Ca să vă răspund și la a doua parte a întrebării, nu ne-am muta în SUA. Însă noi avem planuri de expansiune în SUA, dar nu ne vom reloca firma acolo, nu este în plan. Iar oferta de achiziție... acesta e dezideratul fiecărui antreprenor, să facă o firmă și să o vândă la un moment dat. Probabil la un moment dat da, dar deocamdată suntem foarte implicați în multe proiecte care nu cred că ne-ar permite neapărat să vindem compania în afara țării. Preferăm să ținem încă compania în România, să creștem ca un exemplu de AI suveran care exportă tehnologie, nu importă tehnologie și nu se bazează doar pe niște forță de muncă într-un sistem de outsourcing, ci chiar creează produs, are propriul IP (Intellectual Property) și poate să vândă licențe în SUA. Cred că e important și mai valoros momentan decât să vindem și să ne spălăm pe mâini.

În grațiile Pentagonului

Zetta Critical AI și-a făcut un nume dezvoltând propriile soluții de inteligență artificială, produse de top cu care ați ajuns la Pentagon. Cât de complicat a fost să mergeți exclusiv pe partea de inovație, să dezvoltați propriile produse, într-o țară ca România în care se face atât de mult outsourcing?

Am fost conștienți că până la urmă modelul ăsta de outsourcing are limitări. S-a văzut acum că tot IT-ul cumva scade, sunt oameni dați afară. Din păcate, exact din cauza asta: outsourcing-ul nu creează neapărat inovație. Până la urmă, tu închiriezi niște oameni cu ora unor companii care ele, poate, creează inovație. Și dacă este vreun deranj pe fluxul ăsta, cei mai afectați sunt ultimii, cei care pun osul la muncă și scriu cod plătiți cu ora. Noi de ce n-am mers pe modelul ăsta? Are legătură cu istoricul fondatorilor — al meu și al colegilor mei, Emil Ștețco și Călin. Noi toți venim din firme care mizează pe propriile produse. Toți am lucrat înainte la firme din străinătate și din România care făceau produse și până la urmă am considerat că asta e calea noastră: să construim produse și să încercăm să vindem licențe. Pentru că și visul american din IT tot timpul se raporta la companii de produs. Adică nu vedeai nici în presă că o companie de outsourcing sau de servicii a făcut ceva memorabil. Tot timpul când ne uităm la numele astea mari — Oracle, Tesla, Microsoft, Apple — sunt firme de produs. Și noi cumva am gândit stil american, „we thought big”, am vrut să facem ceva cu adevărat interesant. Nu a fost ușor, ca dovadă că firma există de ceva vreme, însă poate doar în ultimii doi ani am avut o creștere mai semnificativă.

De ce firmele ca cea a dumneavoastră reprezintă o minoritate în România?

Asta e și din cauza faptului că în România e foarte greu să finanțezi firmele de produs. Iar dacă ești în zona de AI și de Defense, până acum doi ani era și mai greu. Acum toată lumea e foarte entuziasmată de defense, de „dual-tech”, așa-i contextul. Cumva toată lumea vorbește despre asta, este o urgență la nivel european și global. Dar acum patru ani nu era chestiunea asta. Adică dacă vorbeam cu un investitor și ziceam că lucrăm în domeniul ăsta, zicea: „mie nu-mi place domeniul, mi se pare ciudat, nu-mi plac serviciile secrete, nu-mi place poliția, prefer să investesc în altceva”. Acum aceiași investitori vin la noi și ne spun: „ce minunat, haideți să facem ceva împreună”.

Proiecte și pe Fondul European de Apărare

Care a fost strategia de la început și în ce măsură lucrați și cu Bruxelles-ul, cu companiile europene din domeniile militar și intelligence?

Am rezistat câștigând clienți, și în România și în afară — câțiva clienți pe an, cât să ne țină la linia de supraviețuire — și apoi am completat cu proiecte de cercetare unde suntem destul de performanți. Avem două proiecte pe Fondul European de Apărare (European Defence Fund), avem proiecte de cercetare și în România împreună cu Politehnica București și cu Universitatea Tehnică din Cluj-Napoca. Deci granturile astea europene ne-au ajutat cumva să ne creștem proprietatea intelectuală, dar să ne și finanțăm. Nu-i o rețetă ideală — dacă în SUA am fi luat miliarde sau zeci de milioane ca finanțare — dar ăsta-i modelul european. E mai sănătos poate, dar mai greu...

Putem presupune că Zetta Critical AI a fost și este ținta nu doar hackerilor, ci și a unor companii și servicii de intelligence ce au legătură cu state ostile SUA și Uniunii Europene și care ar căuta să vă compromită. Cum reușiți să rezistați?

Da, așa-i. Sunt programe tehnice foarte complicate. Cum faci ca un sistem „mission critical” să nu fie compromis? Ține în principal de modul în care ne livrăm noi produsele. Avem o tehnologie care încapsulează modelele de inteligență artificială, le criptează, le face robuste la funcționări în medii din astea critice 24/7. Avem diferite abordări pentru că, ce vreau să zic: e foarte ușor acum să zici că toată lumea face IA — intri pe o platformă și îți descarci un model sau folosești ce are oricine acces. Însă e cale foarte lungă de la modelele astea pe care le vedem noi peste tot (chiar unele open-source) și un software care poate să ruleze în medii din astea foarte demanding (solicitante). Și aici vine de fapt mare parte din inovația noastră de la Zetta. Noi ne-am construit o platformă care permite rularea modelelor de AI în medii și infrastructuri critice.

Și cred că ăsta e al doilea diferențiator mare al tehnologiei noastre. Până la urmă, ce am făcut noi pentru Departamentul de Apărare a fost un efort minimal ca să ne punem software-ul în infrastructura lor, pentru că și ei aveau oarecum aceeași abordare ca și noi conceptual. Am făcut doar mici modificări ca să ajungem la standardul lor numit Iron Bank, despre care ei zic că e „bulletproof” și nu poate fi atacat cibernetic.

Cum au câștigat încrederea partenerilor

Având în vedere că lucrați cu Departamentul de Război al Statelor Unite, dar că veniți totuși din Estul Europei, cum ați reușit să le câștigați încrederea, în ce măsură v-ați lovit de reticența lor și prin câte teste ați trecut?

Am să fiu sincer, nu au fost absolut deloc reticenți cu noi. Și a fost o surpriză inclusiv pentru noi că, de fapt, Departamentul de Apărare al SUA este foarte deschis în a lucra cu companii non-americane care aduc valoare. Recent am fost în Germania la o sesiune științifică a NATO unde am văzut o prezentare a serviciului de achiziții al Departamentului de Apărare, cu o listă cu toate companiile pe care le foloseau pe zona de AI. Erau enorm de multe companii mici, unele din Finlanda, din Estonia.

Deci există o deschidere momentan la Departamentul de Apărare să lucreze cu cea mai bună soluție, atât timp cât vine dintr-o țară agreată (de obicei țările NATO, Five Eyes — Canada, Australia, Marea Britanie și așa mai departe). Deci barieră de genul ăsta nu am văzut. Pe noi ne-a ajutat și faptul că am lucrat printr-un partener care deja avea încrederea lor, mă refer la Veritone din SUA.

Care ar fi strategia prin care reușiți să vă faceți asemenea clienți, ce i-ați sfătui pe cei care vin din alte companii precum Zetta și visează să ajungă să aibă clienți de acest profil?

Ca strategie de export noi ne axăm foarte mult pe parteneri, pentru că e mult mai greu să câștigi încrederea unui client dintr-o țară străină direct, versus să mergi deja împreună cu un partener care a câștigat deja încrederea aia și are poate deja contracte și intrări. Ca un sfat pentru orice firmă din România care vrea să exporte software sau orice altă tehnologie: canalele prin parteneri, prin resell-eri, prin lanțuri de distribuție deja rodate reprezintă cea mai simplă și ușoară cale de a vinde.

Nu sunteți politolog sau expert în relații internaționale ori intelligence, dar cum percepeți legătura aceasta transatlantică? Vă întreb și pentru că trăim vremuri complicate, în care se vorbește tot mai mult despre autonomia strategică europeană și despre faptul că Uniunea Europeană, mai ales la inițiativa Franței și a Germaniei, caută să se desprindă de SUA, ba chiar să dezvolte propriile companii similare cu un Google sau Microsoft.

De câți militari are nevoie România pentru a fi în siguranță. General (r) NATO: „Ar fi foarte complicat de gestionat o armată de 300.000”

Da, ați dat exemplul Franței. Franța e probabil singura țară europeană care are un ecosistem de apărare complet. Adică ei produc totul, de la praf de pușcă și gloanțe, la portavioane și avioane. Nu cred că mai există o țară în Europa așa de avantajată ca Franța, dar nivelul ăsta al lor a venit tot dintr-un patriotism tipic francez, în care ei au dorit să aibă control asupra a tot.

Noi suntem implicați în proiecte la nivel european. Avem două proiecte de cercetare pe Fondul European de Apărare, care e cumva o extensie premergătoare a viitoarei armate europene. Am lucrat la un moment dat în niște grupuri de lucru la European Defence Agency, care cumva va fi viitorul comandament politico-administrativ al viitoarei armate. Cred că e cale lungă până acolo, însă semnalele geopolitice sunt că vechile sisteme se schimbă și toată lumea, dacă vrea să mai fie relevantă, trebuie să-și construiască propriul pol de putere. Cred că dezideratul ăsta cu multipolaritatea s-a înfăptuit mai repede decât credeau unii.

Uniunea Europeană a rămas mult în urma SUA și a Chinei

Nu aveți sentimentul că Uniunea Europeană a rămas mult în urma SUA și a Chinei la capitolul tech, la tot ce înseamnă tehnologie civilă și militară?

În contextul ăsta, cred că aici contează să avem foarte multe companii europene care contribuie la ecosistemul ăsta de apărare, fie că sunt companii de drone, de software sau de radare. Personal, cred că Europa se mișcă foarte lent în domeniul ăsta. Are aceeași abordare de granturi multianuale, proiecții financiare care urmează să se întâmple, în timp ce toți ceilalți acționează acum, cu bani imediat și fără „red tape” (fără birocrație). Europa se îndreaptă în direcția bună, dar se îndreaptă prea lent.

Poate și noi ca și companie, dacă ne-am fi fondat în SUA, poate am fi fost finanțați cu 10 milioane și acum valoram un miliard. Dar fiind în Europa, lucrurile au mers de 10 sau de 100 de ori mai lent, chiar dacă au mers în direcția bună. E cumva frustrant, dar așa-i construit sistemul ăsta european: birocratic, încet. Riscăm să devenim poate irelevanți și geopolitic și militar, dar trebuie să lucrăm în direcția în care sperăm să nu se întâmple asta și să dăm ce putem pentru siguranța europeană.

Având în vedere că lucrați cu tehnologie critică ce necesită un nivel de securitate ridicat și o calificare înaltă, cât de greu găsiți experți, profesioniști care să facă acest lucru? Cât de numeroasă este echipa pe care vă bazați?

Noi suntem acum undeva la 15 oameni. Avem o echipă cu oameni destul de seniori, adică oameni cu peste 20 de ani de experiență, avem oameni cu doctorate în inteligență artificială luate în străinătate. Nu e neapărat ușor să găsim oameni. La o firmă de produs poate e mai greu să găsești decât la o firmă de outsourcing, pentru că stilul de lucru e altfel. Este mai puțină birocrație, mai puțin middle management. Avem o structură foarte orizontală: echipa executivă, formată din cei patru fondatori, avem control asupra companiei direct, nu există alte niveluri. Avem speranța că o să putem să ne creștem compania cu specialiști în inteligență artificială, de asta avem și două parteneriate destul de bune în România, cu Politehnica București și cu Universitatea Tehnică din Cluj-Napoca, cu care desfășurăm proiecte de cercetare. Avem diferiți specialiști de la ei: profesori, cadre didactice, doctoranzi și masteranzi cu care lucrăm. Cumva avem o vizibilitate destul de bună asupra specialiștilor de viitor din inteligența artificială din Cluj și din București, și asta ne dă cumva o siguranță că o să putem să creștem echipa. Dar, din nou, lucrăm într-un domeniu foarte, foarte avansat și ne trebuie, într-adevăr, oameni foarte buni în domeniul ăsta. Nu sunt foarte mulți, dar eu zic că suntem conectați la cei mai buni care există acum în România. Într-un fel sau altul colaborăm cu ei sau, sperăm noi, urmează să colaborăm.

„Erau acolo toate instituțiile «cu trei litere»”

Vorbind despre România, cum ați ajuns să colaborați cu serviciile de aici?

Am participat în România și la diferite competiții tehnologice. Este un concurs anual, se numește PatriotFest. Noi l-am câștigat de două ori. O dată am luat un premiu, a doua oară Premiul I, chiar cu soluția asta de inteligență artificială. Și ca să vă închipuiți, în momentul premierii și la jurizare erau acolo toate instituțiile „cu trei litere” pe care le puteți închipui din România, de la SRI la SPP, la MAPN. Și foarte organic a evoluat totul pe plan intern. Adică ei ne-au văzut, ne-au testat, s-au gândit ce să facă, au făcut competiție de evaluare, apoi licitație și, până la urmă, așa am reușit să ajungem noi în zona asta, destul de natural.

Acum mai este în opinia publică chestiunea asta că „există firme care lucrează cu serviciile” și sunt convins că există motive pentru chestia asta. Există diferite firme „de casă” care, la un moment dat, poate au avut acces în niște zone. Dar în momentul în care exporți și vinzi în afară, eu cred că nu mai este o discuție de competență, ci de dotare tehnologică. Pentru că firmele alea care erau considerate cumva că lucrează neconcurențial nu au exportat niciodată. Sunt multe firme în România, mari, care lucrează cu sectorul public, dar care nu exportă pentru că nu pot, nu au competitivitate în afara României. Noi avem competitivitate în afara României și asta cred că e un lucru foarte important. Ne mai întreabă lumea: „Voi lucrați cu serviciile și sigur aveți ceva legături?”. Noi lucrăm și cu serviciile de pe-afară, ca și cum am avea la Departamentul de Apărare al SUA.

Apropo, mai lucrați și cu alte servicii de intelligence sau cu autorități militare ori din domeniul securității din alte țări?

Mai lucrăm, dar din păcate pe multe nu vă pot da nume pentru că sunt prin parteneri. Dar avem în Orientul Mijlociu câteva sisteme destul de mari implementate prin niște parteneri. Avem și în Germania și în Franța, am mai avut niște sisteme mai mici. Însă în momentul ăsta avem multe oportunități în Germania, în SUA și în Orientul Mijlociu. Cred că, în mod interesant, astea sunt cele trei. A, și în Singapore avem iarăși oportunități.

Dar în Israel?

Nu, nu avem în Israel. În Israel avem foarte multă concurență. Sunt multe tehnologii israeliene care ne concurează. Ei au și avantajul că fondatorii sunt toți ex-Mossad, ex-armată și știu foarte bine zborul. Deci ei sunt concurenții noștri și nu cred că noi o să vindem vreodată în Israel.

Ignorați când vine vorba de „SAFE”

România este o țară mult rămasă în urmă, într-o Uniune Europeană ce la rândul ei e mult în spatele SUA și al Chinei, inclusiv din punct de vedere al industriei militare. Speranțele se leagă acum e programul SAFE, iar întrebarea mea este dacă ați reușit sau dacă întrezăriți perspective ca Zetta Critical AI să prindă contracte și să beneficieze de asta?

Din păcate, noi încă nu avem o mare transparență legat de SAFE. Am încercat să aflăm cum se vor distribui banii, dacă va fi un mecanism competitiv. Nici noi, nici alții nu știu încă. Așteptăm și noi să vedem, e o șansă destul de interesantă. Sperăm să fie, pe lângă investițiile mari în asfalt, în autostradă, să fie și o zonă competitivă pe proiecte, pe call-uri, pe ceva în care să putem să aplicăm. Dar nu, nu avem încă nicio informație, nimeni nu pare interesat acum de noi...

Lucrați cu tehnologii de vârf ce pot fi utilizate în scopuri militare, care pot face diferența și, cine știe, ar putea să cadă și în mâinile cui nu trebuie. Ați avut momente în care ați ezitat, poate chiar ați refuzat un potențial client, pornind de la considerente etice?

Nu cred că am avut încă astfel de clienți... Noi n-am refuzat niciun client pe motivele astea, care să ne ridice suspiciuni. Asta și pentru că în general lucrăm cu instituții care fie sunt în sistemul ăsta național de apărare și nu ai voie să ai dubii, nu poți să te gândești că ar fi ceva dubios. Și pe de altă parte, în străinătate lucrăm cu niște parteneri care sunt în domeniul ăsta de multă vreme, sunt foarte cunoscuți cu proiecte pe tot globul și nu am avea vreun indiciu că ar livra sistemele noastre către, nu știu, clienți care n-ar avea voie să le aibă.

Apoi, zona asta de apărare e o zonă destul de mică. Să știți că nu sunt foarte multe firme de inteligență artificială în toată lumea care fac asta. Noi mergem și la evenimente și conferințe de profil și de zece ani ne întâlnim cu aceiași oameni, ne cunoaștem între noi. Câteodată concurăm, câteodată suntem parteneri, dar e un domeniu care se bazează foarte mult pe încredere. Și dacă faci un pas greșit și-ți pierzi încrederea, îți pierzi nu un client, e posibil să-i pierzi pe toți. În România, dacă noi am face ceva neetic sau am da chix cu un proiect, cred că a doua zi ar ști toate instituțiile de chestia asta și nu ar fi bine. Deci călcăm așa cu grijă, cum se zice, pentru că e un domeniu foarte „high trust” — ai nevoie de multă încredere ca să poți să activezi în el.

Diferența între viață și moarte

Produsele companiei dumneavoastră sunt folosite în România pentru protejarea infrastructurii critice, poate pentru a preveni un blackout, un atentat terorist, probleme de acest gen?

Da, noi avem capabilitățile astea de monitorizare de surse deschise pentru detectare automată de situații critice, de riscuri și așa mai departe. Acum, știu că avem clienți în România care folosesc platforma noastră. Să vă spun concret pentru ce, nu cred că aș putea, dar în general e vorba de ceea ce se numește „situational awareness”, care poate să aibă mai multe paliere. Poate să aibă protejarea infrastructurii critice, eventuale dezastre naturale sau chiar pericole de genul la siguranța publică. Și toate se fac prin analiza multor date: de la date din zona TV, radio, poate și canale publice de rețele sociale, ziare.

Pentru că o mare parte a informației vine cumva din spațiul public. Adică mai repede postează cineva că a văzut o explozie până ajunge prin sistemul 112 și se propagă la toți stakeholderii instituționali — deja publicul știe dinainte. Și asta e cumva partea de eficiență a sistemelor noastre: că nu contează în ce limbă citești mesajul, dacă e un video, dacă e o poză, dacă e un text scris undeva, atâta timp cât el poate să fie procesat, noi putem face după aia analiza pentru a clasifica.

Și practic reușiți acolo unde se poate face diferența dintre viață și moarte, în acel noian de informații, multe false sau irelevante?

Putem, de exemplu, să clasificăm un subiect automat — dacă e vorba de fotbal sau politică sau chiar dezastre naturale sau conflicte militare. Gândiți-vă că în zgomotul acesta informațional se produce foarte, foarte mult conținut. Pentru o instituție care trebuie să monitorizeze ceva anume, vin foarte multe date, multe din ele irelevante, și acolo trebuie să poți să filtrezi.

Nu poți să filtrezi uman, că n-ai suficientă capacitate umană să poți să citești totul, să analizezi totul, ca în anii '70-'80 când erau 10 ziare și cam atât. Acum vine informație masivă; tu trebuie să poți să o aduci în limba ta, dacă nu e română, să clasifici, să vezi ce-i modă, ce-i criminalitate, ce-i dezastre naturale și pe un subset de date să poți să faci repede analizele respective. Și cam asta e de fapt valoarea, până la urmă, a sistemelor noastre: că pot să reproducă procese cognitive umane. Ca și când ai sta în fața unui calculator și te-ai uita la un film și ai descrie: „În film apare un tanc, omul a zis ceva, e vorba despre un război”. Asta fac sistemele noastre, replică procese umane cognitive și poți să generezi informație structurată care apoi să fie folosită pentru alertare, pentru organizare de misiuni și așa mai departe.

De ce nu sunt doborâte dronele rusești deasupra Ucrainei: explicațiile unui general român decorat de NATO

Seamănă cumva cu ceea ce vedem în filme. Dar cât din ce vedem în producțiile hollywoodiene se regăsește în aceste softuri?

Da, e ca din scenarii de filme, dar trebuie să ne gândim și la scară. Adică scenariile de filme sunt oarecum mult exagerate, dar pot să fie scenariile foarte focusate. Închipuiți-vă un scenariu concret, care ține de munca de poliție: când ai un caz în desfășurare și trebuie să analizezi 80 de ore de înregistrare a unei camere de supraveghere care poate a surprins sau nu hoțul respectiv. Nu poți să-i ceri unui polițist să facă chestia asta, este inuman. Sistemul nostru poate să detecteze obiectele automat, poate să selecteze cadrele cheie, poate să le descrie, să spună: „La cadrul X este un om care sare gardul”. Și din alea 80 de ore, agentul să aibă nevoie doar de 20 de minute ca să ajungă la cadrul respectiv, să poată să adauge informația la caz.

Tot așa, când are înregistrări ambientale interceptate — ore, sute de ore — să detecteze doar fragmentele unde se vorbește despre bani, de exemplu, sau despre activități criminale, pentru că noi putem clasifica conversațiile în funcție de topic. Și din nou, în loc să asculți cu casca pe ureche o sută de ore audio, tăiem înregistrarea asta la minutul X, acolo unde te interesează pe tine. E eficientizarea muncii. Asta e legat de un caz. Dar la scară, o agenție de intelligence lucrează cu cât de multe date au disponibile. Milioane de ore video, sute de milioane de mesaje de pe rețelele sociale la care au acces, bloguri, publicații, surse. Și din nou, use case-ul e la fel: procesarea automată, analiză și filtrarea de date până când analistul poate să ajungă să lucreze cu subsetul de date util, de interes, și să poată să facă o analiză în timp util.

Algoritmii care pot detecta sentimentele

Dar în cazul unor date false, a unor informații „otrăvite” special de altcineva, nu contează că o face un stat ostil, că sunt la mijloc teroriști, spioni, servicii. Putem presupune că printre zeci și sute de milioane de informații scanate se pot uneori ascunde și unele de acest fel. Pot aceste softuri să detecteze așa ceva?

Ăsta e un scenariu foarte interesant. De unde vine asta? În ultimii ani, cu explozia internetului și a rețelelor sociale, peste 80% din informațiile care sunt obținute de serviciile de intelligence provin din surse deschise. Asta e o statistică pe care o am din SUA, dintr-un studiu. Asta înseamnă că tu poți, de exemplu, să faci o campanie online adversarială în care să „poluezi” cu o anumită temă un anumit candidat sau să poluezi un anumit subiect cu o anumită narativă. Și datele vor fi colectate și vor ajunge undeva într-un raport. Și dacă nu ai un analist bun, o să zică: „Așa știm despre X, pentru că avem 100 de mențiuni ale lui X într-un anumit context”... Noi am dezvoltat în 2018, în urma unui grant de la Google, un algoritm de detectare a dezinformării online, care face parte din suita noastră de motoare de AI.

Și ce face acest algoritm?

Acest algoritm poate să dea un scor de credibilitate conținutului. Cumva încearcă să arate analistului că un conținut, un text, o transcriere, un articol, o poveste, orice ar fi, are niște indicatori care îl fac să fie poate necredibil. Nu „adevărat” sau „fals”, „fake” sau „true”, ci efectiv niște stegulețe roșii. Sistemul ăsta este deja la Academia Națională de Informații printr-o licitație publică care a fost acum câțiva ani. Deci noi am dat o mână de ajutor autorităților și le-am pus la dispoziție niște algoritmi pe tema asta.

Algoritmii trebuie adaptați permanent

Cât timp funcționează astfel de algoritmi și când și cum trebuie să li se facă un update?

Acum, situația e tot timpul în schimbare. Ceea ce a funcționat anul ăsta, poate nu funcționează la anul. E foarte greu să ții pasul cu dezinformarea, cu campaniile. În domeniul științific e ca o țintă în mișcare. Tot timpul trebuie să te adaptezi după situații noi: TikTok, acolo e mult video, și așa mai departe. Dar soluții științifice și tehnologice sunt, și noi avem... nu o să zic că avem soluția supremă, dar avem măcar o parte a soluției. Noi putem să determinăm nivelul de încredere al unui text bazat pe modul în care e scris titlul, modul în care sunt folosite anumite cuvinte, componenta emoțională a articolului, dacă e scris în stil clickbait sau nu, modul în care alte publicații sau alte documente scriu despre același subiect. Și dacă este o potrivire sau nu de sentiment, de tonalitate. Deci avem niște algoritmi destul de complecși pe zona asta, care chiar sunt implementați în România.

Altfel spus, puteți identifica și cu ce intenție a fost scris un text și ce era în mintea autorului, mai mult sau mai puțin?

Exact. În domeniul științific se numește „stance detection”, detecția poziției tale față de subiect. Din nou, sunt algoritmi, și nu e doar al nostru, deci sunt algoritmi de AI care identifică acest stance detection: e scris cu bună intenție sau nu e cu bună intenție. Poate să fie scris într-un mod foarte calitativ.

Inclusiv materialele de propagandă folosite poate de state ostile, de servicii de intelligence, chiar de agențiile de știri sau de presa scrisă ori online din țări care nu ne sunt prietene?

Și. De exemplu, agențiile de știri din Rusia, când scriu despre un subiect, scriu foarte bine. Multe dintre ele chiar nu arată deloc a propagandă. Dar acolo sunt niște elemente care sunt contrazise poate de alte publicații. Corelările astea — ce au zis unii, ce au zis alții, care e de fapt poziția corectă — noi le putem face, hai să nu zic automat, ci semi-automat.

În domeniul ăsta al inteligenței artificiale sunt foarte multe unelte care pot să te ajute să detectezi dezinformarea, dar cred că și factorul uman al analiștilor, al celor care urmăresc subiectul, are o pondere la fel de importantă. Să reacționezi la timp, să înțelegi ce vezi, să știi de fapt ce se întâmplă, de unde vin, care-s actorii — astea necesită un anumit nivel de pregătire. Da, nu e simplu deloc.

Informația are mai multă valoare decât tancurile și dronele

Să luăm un scenariu din nou cumva extrem, dar nu imposibil, și să presupunem că într-o zi ar izbucni o criză majoră de securitate în regiune. Ar putea Zetta să fie unul dintre pilonii pe care să se bazeze o viitoare autonomie, poate chiar o independență digitală europeană sau chiar românească?

Eu zic că pe zona asta de inteligență artificială suverană, pentru analiză de informații, eu zic că putem foarte bine să poziționăm România ca un actor relevant care are uneltele potrivite, și de la noi și de la alți vendori din România. În rest... vorba aia, războiul kinetic cu tancuri e un alt domeniu. Noi suntem în războiul ăsta hibrid, cu informații — asta e zona noastră de luptă, să zic așa.

Cât de importanți devin acești algoritmi într-un război sau într-o situație de criză?

Cred că războaiele sunt câștigate în mare măsură în funcție de cât de bine poți să analizezi informația, cât de bune îți sunt serviciile de intelligence. Și vedeți până la urmă și în Ucraina. Poate tancurile, dronele și gloanțele nu mai au așa mare valoare cât are informația. Iar acesta este trendul. Informația și analiza ei sunt esențiale pentru a face față unui inamic mai puternic.