Pentru a înțelege cum funcționează acest mecanism, am apelat la Yuliia Dukach, șefa departamentului de Investigații privind Dezinformarea la OpenMinds. Cu o experiență de peste șapte ani în jurnalismul de date și un doctorat în sociologie, Yuliia se află în prima linie a frontului informațional, folosind instrumente avansate precum Python și Machine Learning pentru a descoperi operațiunile de influență rusești.
În acest interviu, Yuliia ne avertizează că nu mai este suficient să rămânem în defensivă. Simplul proces de „fact-checking” (demontarea falsurilor după ce acestea s-au răspândit) reprezintă o luptă asimetrică pe care democrațiile riscă să o piardă din cauza resurselor colosale necesare pentru a contracara un conținut generat de AI cu doar câțiva dolari.
De asemenea, explorează provocările majore ale momentului: dificultatea atribuirii (identificarea sursei reale a finanțării din spatele unor conturi virale) și asimetria dintre viteza cu care este creată minciuna și efortul necesar pentru a restabili adevărul. Totuși, oferă și soluții concrete, subliniind nevoia de transparență a platformelor, colaborare transfrontalieră și democratizarea accesului la analiza de date pentru jurnaliști și cercetători.
Mai multe nu pot scrie, pentru a nu priva cititorul de expertiza ei, însă punctez doar că e necesar să pătrundem în universul dezinformării digitale, să înțelegem cum evoluează propaganda în era AI și cum algoritmii și rețelele sociale pot fi atât instrumente de manipulare, cât și unelte de reziliență. Prin intermediul discuției cu Yuliia, descoperim provocările tehnologice și metodologice ale luptei împotriva dezinformării, dar și lecțiile practice și strategice care pot fi aplicate în context european și global, pentru a proteja democrația, informarea corectă și încrederea publică. Iar asta trebuie să facem: să protejăm democrația, informarea corectă și încrederea publică.
Activitatea ta se concentrează pe descoperirea și combaterea propagandei ruse, utilizând date și machine learning. Cum a evoluat rolul datelor în identificarea dezinformării în ultimii ani?
Aș spune că datele au devenit esențiale pentru cercetarea dezinformării în momentul în care rețelele sociale au intrat în uzul general. Odată cu apariția așa-numitei ere Web 2.0 – când oamenii obișnuiți au devenit creatori de conținut – a devenit mai ușor ca oricând ca cineva să-i imite, chiar și de la mii de kilometri distanță.
Pe măsură ce amploarea operațiunilor de influență a crescut, a crescut și povara asupra celor care le investighează. Aici, machine learning devine nu doar utilă, ci necesară. Un exemplu: un canal YouTube nou creat, care publica videoclipuri generate de inteligența artificială – inclusiv imagini false ce pretindeau că arată soldați ucraineni certându-se cu parlamentari ucraineni – a strâns peste 18.000 de comentarii în doar 20 de zile. Iar acel canal era doar un nod într-o rețea mare, interconectată, de conturi active pe mai multe platforme care difuzau conținut similar. Pur și simplu nu există suficienți analiști umani care să poată citi toate acele comentarii, cu atât mai puțin să identifice tipare de comportament specifice boților.
Inteligența artificială generativă a schimbat complet scara problemei. Nu mai este nevoie de o clădire întreagă de redactori în Olgino care să adapteze fluxuri de știri pentru site-uri și canale pseudo-ucrainene. Un prompt bine formulat și câțiva dolari sunt suficienți. Dacă nu folosim și noi inteligența artificială pentru a detecta și analiza aceste operațiuni, nu vom reuși niciodată să ținem pasul.
Ne poți explica modul în care echipa de la OpenMinds combină analiza datelor, machine learning și informațiile open-source pentru a urmări și demasca campaniile de manipulare?
La OpenMinds, combinăm o platformă de monitorizare cu instrumente de analiză a rețelelor sociale și cu cercetare aprofundată – pentru care, adesea, colectăm date direct de pe platforme. Această abordare duală ne permite să urmărim în timp schimbările din strategiile și tacticile operațiunilor de influență, iar apoi să integrăm concluziile în platforma noastră.
Ideea centrală este combinarea tehnologiei cu expertiza. Avem atât o echipă tehnică, cât și una de cercetare, cu experiență practică în detectarea și analiza operațiunilor de influență la scară mare. Niciuna nu funcționează fără cealaltă: tehnologia procesează volumul de date, dar cercetătorii sunt cei care știu ce tipare sunt semnificative și de ce.
Un exemplu recent este cercetarea noastră privind cartografierea rețelelor de canale de Telegram din Rusia, Ucraina și Belarus, pe baza suprapunerii publicului. Analizând ce canale împărtășesc aceiași urmăritori, am putut identifica grupuri de conturi conectate structural – chiar dacă acestea nu folosesc cross-posting sau nu se citează explicit. O parte din aceste constatări au fost ulterior integrate direct în clasificarea algoritmică a canalelor de Telegram pe platforma noastră. Acesta este ciclul pe care încercăm să-l construim: cercetare profundă care alimentează detectarea automată la scară mare.
La fel de importantă este implicarea experților locali atunci când investigăm țări sau regiuni specifice. Tacticile operațiunilor de informare sunt adesea uimitor de similare – dacă nu chiar identice – în contexte diferite. Dar narațiunile, platformele și vulnerabilitățile politice pe care le exploatează sunt profund locale. Prin urmare, colaborarea transfrontalieră nu este un „nice to have”, ci o necesitate metodologică.
Un domeniu în care vedem potențial de dezvoltare este cel al informațiilor open-source (OSINT). Nu este în prezent prioritatea noastră principală, dar îl considerăm un lucru suplimentar al activității noastre și un domeniu în care căutăm activ parteneriate.
Care sunt cele mai frecvente narațiuni sau tehnici folosite în prezent în propaganda rusă care vizează Ucraina și țările vecine?
Printre cele mai comune tehnici, aș începe cu ceea ce numesc recrutare la firul ierbii – cooptarea directă a actorilor locali. Scara diferă enorm: de la partide politice până la utilizatori anonimi dispuși să execute instrucțiuni primite prin Telegram de la FSB pentru o sută de euro.
A doua tehnică majoră este exploatarea deliberată a algoritmilor platformelor. Rusia inundă platformele cu conținut care susține narațiunile sale preferate – cele care destabilizează democrațiile, erodează sprijinul pentru Ucraina și amplifică tensiunile sociale existente. Și o face simultan pe toate platformele majore. Merită subliniat că falsurile evidente reprezintă, de fapt, o mică parte din acest conținut. Mult mai des vedem materiale scoase din context – fraze, evenimente sau opinii private de sensul lor inițial – care, difuzate în volum suficient, creează iluzia că o problemă artificial amplificată este de fapt universală și organică. Aceasta este, probabil, o formă mai periculoasă de manipulare decât falsul direct, pentru că este mult mai greu de demontat.
În cele din urmă, există manipularea opiniei publice în sine: de la sondaje false menite să creeze un consens fabricat, până la zeci de mii de conturi false care inundă secțiunile de comentarii cu narațiunile dorite – sau, cum am văzut înaintea alegerilor din Moldova de anul trecut, chemând la proteste anti-guvernamentale. Scopul nu este doar răspândirea unui mesaj, ci crearea impresiei că acel mesaj este deja ceea ce „crede toată lumea” – chiar dacă, în realitate, aceste opinii aparțin unei minorități infime.
Cum vezi rolul algoritmilor și al conținutului generat de inteligența artificială (precum deepfake-urile) în influențarea viitorului dezinformării?
Majoritatea experților sunt de acord că IA a făcut dezinformarea mai ieftină, mai rapidă și mai ușor de scalat – și sunt de aceeași părere. Dar există două consecințe care primesc mai puțină atenție.
Prima este deficitul de alfabetizare digitală în domeniul IA. Dezvoltarea inteligenței artificiale nu este însoțită de o creștere echivalentă a gradului de înțelegere populară. Chiar și acolo unde platformele marchează conținutul generat de IA, majoritatea oamenilor fie nu observă eticheta, fie nu știu ce înseamnă, fie pur și simplu cred ceea ce văd pe ecranul telefonului.
A doua consecință este, într-un fel, opusul primei: acolo unde conștientizarea crește, crește și neîncrederea generalizată – în tot. Chiar și fără eticheta „AI-generated”, oamenii știu că majoritatea platformelor sunt încă slabe în a marca conținutul sintetic. Așa că nu mai au încredere. Chiar și publicațiile pe care le-au considerat ani la rând surse sigure pot fi imitate perfect pentru a livra un fals convingător. Iar consumul de informație sub o suspiciune permanentă e epuizant. Devine foarte ușor să te retragi complet – ceea ce nu face decât să scadă alfabetizarea media la nivel social.
Mai există o asimetrie importantă: deși IA este un instrument puternic pentru detectarea dezinformării, demontarea unui conținut fals deja răspândit cere mult mai multe resurse decât crearea lui. Pentru fiecare fals pe care îl demontăm, creatorii săi au trecut deja la următorul. Această disproporție structurală – investiția lor mică, răspunsul nostru mare – este, în sine, o formă de victorie pentru ei.
Care sunt cele mai mari provocări cu care te confrunți în detectarea sau demontarea operațiunilor de informare coordonate?
În opinia mea, cele mai dificile două probleme sunt atribuirea și măsurarea eficienței.
Atribuirea este complicată, deoarece linia dintre DIMI (manipulare și interferență informațională internă) și FIMI (echivalentul extern) este rareori clară. Putem identifica 500 de conturi false coordonate pe Telegram, cum a fost cazul Moldovei – dar este aceea singura rețea activă? Cine o controlează și cine o finanțează? Comportamentul neautentic coordonat este, structural, identificabil. Mult mai greu este cazul unui cont popular care devine viral zilnic cu zeci de videoclipuri, toate critice la adresa guvernului. Cum dovedești, doar pe baza datelor publice, că operează cu bani rusești? Și ar trebui măcar să încerci să ceri eliminarea lui de pe platformă? Aici problema libertății de exprimare devine cu adevărat complicată – iar cei interesați să-și protejeze propriile operațiuni de influență știu foarte bine cum să folosească acuzațiile de cenzură ca armă.
A doua provocare este măsurarea eficienței – sau mai exact, incapacitatea noastră de a o măsura relevant. De multe ori, singurele date disponibile despre o operațiune de influență sunt cele privind engagementul: vizualizări, aprecieri, comentarii. Dar un videoclip generat de IA, cu un milion de vizualizări și cinci mii de comentarii, reprezintă cu adevărat o operațiune eficientă? A schimbat ceva sau majoritatea oamenilor doar au derulat mai departe și au uitat în câteva minute? Da, există fenomenul de saturație informațională, iar expunerea repetată la o afirmație crește percepția credibilității ei. Dar se traduce asta printr-o schimbare reală de comportament? Este și mai greu de răspuns în afara contextului electoral. Deoarece nu putem bloca totul, avem nevoie de o înțelegere mult mai clară a narațiunilor care produc cel mai mare impact. Iar sincer – încă nu avem răspunsuri bune la această întrebare.
Ucraina a devenit un fel de „laborator de testare” pentru noile tactici de dezinformare. Ce lecții din contextul ucrainean ar putea ajuta alte țări să-și construiască o reziliență informațională mai puternică?
Unul dintre cele mai evidente elemente este colaborarea între guvern, ONG-uri și mass-media. Companiile de tehnologie care monitorizează platformele și detectează atacurile informaționale fac adesea parte din această alianță. Totuși, ceea ce lipsește încă din acest parteneriat sunt chiar platformele. Aici, nu putem decât să invidiem statele UE care funcționează sub cadrul legislativ DSA.
Mai larg, poate cea mai importantă lecție este înțelegerea faptului că operațiunile informaționale nu se desfășoară doar în jurul alegerilor – deși în Ucraina, după cum știți, nu există alegeri în perioada legii marțiale. Influența este continuă; alegerile sunt doar momentul în care efectele devin cel mai vizibile. Această continuitate a determinat Ucraina să adopte decizii proactive. Am înțeles încă din 2018 că blocarea platformei ruse VKontakte nu era un atac la libertatea de exprimare. În același mod, posturile și canalele TV blocate în 2021 – care erau efectiv proxy-uri ruse – au fost interzise pentru a proteja suveranitatea națională, nu pentru a o restrânge. Acum, când RT și Sputnik sunt deja interzise în toată Europa, iar experții sunt de acord că media controlată de stat nu ar trebui să concureze în condiții egale cu presa independentă, această logică devine tot mai acceptată.
În același timp, am învățat că focalizarea exclusivă pe dezinformarea vizibilă are propriile riscuri. În timp ce cercetătorii și jurnaliștii demontează videoclipuri false generate de IA, Rusia își extinde războiul hibrid împotriva Europei – recrutând persoane pentru sabotaj, spionaj și acte de terorism. Aceste operațiuni sunt mult mai greu de detectat decât o știre falsă și rareori ajung în presă până nu este prea târziu.
De aceea, experiența Ucrainei duce la o concluzie mai largă: nu este suficient să rămâi doar în defensivă – nici în spațiul informațional, nici în altul. Un exemplu este efortul de a ajunge direct la publicul rus, pentru a sparge vidul informațional pe care Kremlinul îl menține în jurul propriei populații. Războiul informațional, cu alte cuvinte, nu este un domeniu separat – este acoperirea pentru ceva mult mai amplu și necesită o strategie pe măsură.
Privind spre viitor, cum crezi că va arăta următoarea fază a războiului informațional? Cum ar trebui să se pregătească jurnaliștii, cercetătorii și factorii de decizie?
Cred că am ajuns deja într-un punct în care majoritatea statelor autoritare, chiar dacă nu își pot permite arme nucleare, pot intra cel puțin în afacerea influenței informaționale – atât împotriva propriilor cetățeni, cât și peste granițe. Există acum o piață bine dezvoltată pentru interferență informațională și atacuri cibernetice. Dacă ai bani, nu îți mai trebuie mare lucru. În multe privințe, teoria „internetului mort” a devenit realitate: boții depășesc numeric oamenii în părți semnificative ale spațiului online, iar proporția traficului automatizat malițios crește constant.
Apărarea propriului spațiu informațional cere tot mai multe resurse, capacități și finanțare – iar IA nu a făcut decât să accelereze și să amplifice acest proces. În viitorul apropiat, ne vom întreba tot mai des cine modelează rezultatele celor mai utilizate chatboturi de IA, cum o face și ce se poate face în privința asta – și dacă suveranitatea digitală mai este un obiectiv realist sau deja o utopie.
Cât despre cum să ne pregătim: m-aș întoarce la trei lucruri.
Primul este colaborarea – transfrontalieră, trans-sectorială și interdisciplinară. Tacticile operațiunilor informaționale nu respectă granițele naționale, iar răspunsurile noastre nu pot fi nici ele limitate de acestea.
Al doilea este scăderea barierei de acces pentru cercetarea și jurnalismul bazate pe date. IA a democratizat cu adevărat accesul la programare și analiză de date – așa-numitul vibe coding nu este o glumă, ci o extindere reală a capacităților unui jurnalist sau cercetător fără formare tehnică. Este o oportunitate pe care ar trebui să o valorificăm activ.
Al treilea este transparența și responsabilitatea platformelor. Ar trebui să avem dreptul de a accesa date complete despre activitatea publică de pe aceste platforme – iar platformele însele trebuie să facă mult mai mult pentru a reduce condițiile structurale care fac manipularea atât de ușoară.
