Yuliia Dukach este cercetătoare în științe sociale computaționale și specialistă în dezinformare, cu peste un deceniu de experiență în investigarea operațiunilor de influență asociate Rusiei pe platformele digitale. Activitatea sa combină analiza datelor la scară largă, identificarea comportamentului coordonat neautentic și analiza rețelelor cu metodele jurnalismului de investigație. Dincolo de cercetare, susține cursuri și workshopuri pentru jurnaliști, analiști și profesioniști din domeniul media.
În interviul acordat Investigatoria, Dukach explică de ce inteligența artificială nu a schimbat în mod radical strategia de bază a operațiunilor de influență, dar a făcut posibilă desfășurarea lor la o scară mult mai mare, cu resurse mai puține. De asemenea, vorbește despre apariția unei piețe în care dezinformarea poate fi cumpărată ca serviciu. Această schimbare impune și o modificare a răspunsului: fact-checkingul și demontarea narațiunilor false rămân necesare, însă nu mai sunt suficiente. Autoritățile, cercetătorii și jurnaliștii trebuie să identifice actorii care operează pe această piață, să urmărească fluxurile financiare, să înțeleagă infrastructura tehnologică și să contribuie la creșterea costurilor unor asemenea operațiuni. Obiectivul realist este transformarea lor într-o activitate mai scumpă, mai dificilă și mai puțin accesibilă actorilor fără expertiză.
Interviul aduce însă în discuție și o problemă mai puțin confortabilă: riscul de a exagera puterea operațiunilor de influență. Nu fiecare rețea descoperită este eficientă, nu fiecare campanie cu milioane de vizualizări schimbă opinii sau comportamente. Uneori, simpla publicare a unei investigații oferă unei operațiuni slabe mai multă vizibilitate decât ar fi obținut singură.
De exemplu, Dukach vorbește despre o rețea de peste 2.000 de conturi TikTok care publicau aceleași videoclipuri și care au acumulat aproximativ zece milioane de vizualizări într-o săptămână. La prima vedere, cifrele par impresionante, însă xonținutul era atât de slab încât nu exista nicio dovadă că publicul îl considera credibil. Ideea principală este că cercetătorii pot detecta rețele, pot analiza narațiuni și pot documenta comportamente coordonate, dar încă nu dispun de metode suficient de solide pentru a măsura eficiența unei operațiuni de influență. Vizibilitatea nu este același lucru cu impactul, iar succesul nu poate fi evaluat doar prin numărul de distribuiri, comentarii sau vizualizări.
În același timp, instituțiile se mișcă mai lent decât actorii malițioși. Presa, guvernele și organizațiile publice trebuie să își protejeze reputația, să verifice informațiile și să respecte norme profesionale. Actorii care lansează campanii de manipulare își permit însă să experimenteze permanent, să testeze metode noi și să abandoneze rapid ceea ce nu funcționează. Pentru Dukach, o parte importantă a răspunsului trebuie să vină din presiunea exercitată asupra platformelor și furnizorilor de inteligență artificială. Etichetele aplicate conținutului sintetic trebuie să fie mai vizibile, moderarea trebuie îmbunătățită, iar alfabetizarea media trebuie extinsă către alfabetizarea în domeniul AI. Publicul trebuie să înțeleagă că AI poate genera persoane care nu există, soldați falși, conversații artificiale și mesaje adaptate vulnerabilităților individuale.
Nu în ultimul rând, specialistul vorbește și despre nevoia revenirii la interacțiunea dintre oameni. Dacă deciziile publice sunt fundamentate exclusiv pe comentarii și reacții din social media, instituțiile riscă să răspundă unor audiențe fabricate. Consiliile locale, guvernele și redacțiile trebuie să găsească modalități de a auzi din nou cetățeni reali, prin interacțiuni directe sau platforme în care identitatea participanților poate fi verificată.
Dincolo de tehnologie, interviul cu Yuliia Dukach este despre limitele modului în care înțelegem influența. Putem detecta mai mult ca oricând. Putem analiza volume uriașe de date. Putem identifica rețele și narațiuni. Întrebarea care rămâne este însă cea mai dificilă: ce facem cu toate aceste informații și cum ne asigurăm că, încercând să protejăm spațiul public, nu ajungem să oferim și mai multă putere operațiunilor pe care vrem să le combatem?
GC: Yuliia, din punctul tău de vedere, care este principalul lucru care s-a schimbat în ultimii ani în modul în care aceste operațiuni sunt proiectate și executate?
YD: În primul rând, este inteligența artificială generativă. Vorbim atât de mult despre ea.
La fel ca mulți experți din acest domeniu, chiar și eu m-am săturat de discuțiile despre AI, căci AI nu a schimbat, de fapt, în mod dramatic strategia generală a operațiunilor de influență. Însă a schimbat scara, prețul și viteza. Așadar, odată cu posibilitățile oferite de inteligența artificială generativă, este mai ușor, mai rapid și mai ieftin să desfășori diferite tipuri de operațiuni de influență.
La bază, acestea rămân, de fapt, aceleași. Este vorba despre crearea de conținut, despre comportament neautentic, despre imitarea opiniei publice, de exemplu în secțiunea de comentarii. Deci strategia, în ansamblu, este aceeași, doar că tehnologia din spate oferă posibilitatea de a face mai mult și de aceea, în acest moment, vorbim atât de mult despre protejarea discuției publice, care este aproape imposibilă pe majoritatea celor mai populare platforme de social media. Iar acum, în ultimele șase luni, am început să vorbim despre asta și pentru că întregul subiect al AI s-a mutat către faptul că nu generează dezinformare, ci orchestrează întreaga operațiune de influență. Așadar, nu mai ai nevoie de foarte mulți oameni implicați în proces, trebuie doar să coordonezi agenți AI pentru a desfășura întreaga operațiune de influență. Nu este vorba despre boți alimentați de AI, ci despre un sistem de dezinformare alimentat de AI, cu o armată de boți și diferiți agenți… și de aceea cred că, în viitorul apropiat, platformele noastre de social media vor fi pline de boți și aproape goale de oameni.
GC: Ce putem face pentru a asigura o comunicare reală, bazată pe fapte, în calitate de jurnaliști, cercetători sau pur și simplu cetățeni?
YD: Nu există un răspuns simplu la această întrebare. Este întrebarea de un milion de dolari, cel puțin.
Aș spune că este vorba despre conectare. În primul rând, este vorba despre această abordare europeană, despre mai multă transparență din partea principalului mediator, despre presiune asupra platformelor de social media. Este vorba despre transparență și presiune pentru algoritmi de moderare mai buni pe principalele platforme de social media. Desigur, este vorba și despre investigații și despre destructurarea acestei rețele de actori care furnizează, de fapt, acest serviciu. Pentru că acum vedem că nu este vorba doar despre faptul că serviciile speciale ruse creează ceva precum FIMI (Foreign Information Manipulation and Interference – Interferență și Manipulare Străină a Informațiilor), ci există o întreagă piață de companii diferite care oferă dezinformare ca serviciu. Și poți cumpăra acest serviciu. Iar asta înseamnă că nu trebuie să facem doar fact-checking și să detectăm ce narațiuni sunt folosite pentru a manipula alegerile, ci trebuie să identificăm principalii actori de pe această piață și să destructurăm întreaga posibilitate tehnologică, pentru a face aceste campanii mai scumpe și mai dificil de realizat.
Este vorba și despre mai multă presiune asupra creatorilor de modele lingvistice mari, pentru o moderare mai bună. Acum nu poți folosi servicii Claude pentru o rețea de boți, de exemplu, pentru o rețea politică de boți. Cred că sunt destul de buni la moderare, iar NATO Strategic Communications Centre of Excellence a realizat un studiu experimental și a demonstrat că Claude tinde să nu accepte să desfășoare ceva pentru manipulare politică. Dar alte modele lingvistice mari chinezești nu acordă atât de multă atenție acestor aspecte etice. Și asta înseamnă că putem exercita ceva mai multă presiune asupra furnizorilor de AI, cel puțin asupra furnizorilor comerciali de AI, dar, desigur, nu va fi suficient, pentru că Rusia își poate dezvolta propriul model AI, fără restricții etice.
Dar putem limita posibilitățile pentru publicul larg, astfel încât nu orice elev să poată crea o rețea de boți cu câteva clicuri și zece dolari. Deci este vorba despre transparență, despre presiune, despre această rețea de organizații ale societății civile și centre analitice care investighează spațiul informațional, despre colaborări mai bune cu guvernele, despre comunicare strategică, precum debunking și prebunking. Și există atât de multe lucruri pe care ți le pot spune despre ce putem face da, din păcate, nu va fi suficient.
GC: Nu va fi suficient?
YD: Nu, pentru că va exista întotdeauna un fel de competiție între detectare și, de exemplu, crearea unui comportament suficient de convingător. Nu putem detecta totul și nu putem bloca totul, vor exista întotdeauna operațiuni de influență care sunt mai mult sau mai puțin ascunse. Așadar, pentru noi, prioritatea numărul unu este să facem operațiunile de influență cât mai costisitoare posibil și cât mai dificil de creat de către personal cu calificare redusă.
Și, de asemenea, trebuie să înțelegem că nu ar trebui să exagerăm. De exemplu, anul acesta, împreună cu coautorul meu de la Defence Innovation Highway, am realizat o investigație privind alegerile din Danemarca. Și am analizat TikTok, am analizat Telegram și YouTube și, știți, nu am găsit nimic. Nu am găsit nicio operațiune de influență rusească cu o lună înainte de alegerile din Danemarca și nici după acestea. Iar după aceea, serviciile speciale din Danemarca au spus, de asemenea, și au publicat o notă potrivit căreia nu au existat operațiuni majore de influență din partea Rusiei înaintea alegerilor. Am înțeles că este important să înțelegem că resursele autocrațiilor sunt, de asemenea, limitate. Și asta înseamnă că există, în primul rând, țări din UE în care, înainte de alegeri, nu există boți ruși și nu există videoclipuri rusești pe TikTok. Sunt foarte fericită pentru populația și societatea din Danemarca din acest punct de vedere.
Este important și să reflectăm asupra acestui tip de experiență și asupra faptului că ei sunt limitați, că și resursele lor sunt limitate. Și, de asemenea, acest mit al Rusiei, care câștigă întotdeauna, este afectat de situația din ultimele luni de pe front și de loviturile ucrainene în profunzimea teritoriului rus. Iar asta înseamnă că războiul cinetic, care se mută în Rusia, ajută și la atacarea mitului Rusiei ca țară superputernică, care îi poate influența pe ceilalți și care nu poate fi influențată de nimeni. Așadar, cred că trebuie să fim mai proactivi. Este vorba despre apărarea spațiului nostru informațional, dar și despre a viza autocrațiile pentru a le slăbi și pentru a le determina să investească mai mult în propria apărare.
GC: Am discutat despre provocările acestui domeniu și despre răspunsurile posibile, dar și despre limitele lor. Din experiența ta, care sunt cele mai frecvente greșeli sau vulnerabilități în analiza operațiunilor de influență? De exemplu, cât de dificil este să distingem între o mobilizare autentică a unor susținători foarte activi și o campanie coordonată?
YD: Este o întrebare foarte bună… Cred că una dintre greșelile noastre, nu știu dacă să o numesc greșeală, dar poate este mai degrabă o slăbiciune, este faptul că presupunem că operațiunile de influență rusești sunt extrem de puternice. Uneori le oferim mai multă putere decât au în realitate și este foarte dificil să răspundem la întrebarea cât de vizibile ar trebui să fie, de exemplu, rapoartele noastre analitice sau anumite investigații.
De exemplu, este foarte bine pentru alfabetizarea media și pentru prebunking. Vedem, de exemplu, că de la un scrutin la altul Rusia își pierde, de fapt, din capacități, cum s-a întâmplat în Moldova, în Armenia, în Ungaria. Deci nu sunt atât de puternici, chiar și cu acel nivel de resurse pe care îl investesc. Dar este vorba și despre faptul că fiecare nou scrutin va fi geopolitic. Și cred că am ajuns într-un punct în care avem, în sfârșit, cel mai ridicat nivel de înțelegere a influenței rusești în Europa. Dar acest lucru face și mai dificil ca, la viitoarele alegeri, să avem câteva partide democratice care concurează între ele și care, în același timp, trebuie să concureze cu partide proruse. Iar asta înseamnă că, în prezent, alegerile foarte geopolitice funcționează bine, dar nu vor funcționa așa pentru totdeauna. Este foarte îngrijorător să înțelegi că trebuie să votezi nu pentru programul local al partidelor politice, ci pentru opțiunea proeuropeană sau prorusă.
De aceea cred că, uneori, atunci când acordăm și mai multă atenție unor operațiuni de influență mici, care nu sunt atât de eficiente, le oferim și mai multă vizibilitate. Și, revenind la întrebarea despre greșeli sau slăbiciuni, cea mai mare slăbiciune este că încă nu putem măsura eficiența operațiunilor de influență. O putem măsura prin alegeri, adică dacă au câștigat sau au pierdut. Dar, de exemplu, în Ucraina, acum, nu avem alegeri. Cum putem măsura eficiența operațiunilor de influență rusești? Este o întrebare foarte dificilă și încă nu avem un răspuns. Iar asta înseamnă că putem acorda mai multă atenție unor operațiuni care nu sunt deloc eficiente.
De exemplu, când am descoperit o rețea mare, de peste 2.000 de conturi pe TikTok, care publicau aceleași videoclipuri… atunci când publicăm acest tip de investigație, evidențiem faptul că ele există. Dar înțelegem și că toți oamenii care au văzut acele videoclipuri probabil nu le-au crezut, pentru că erau de o calitate foarte slabă. Erau foarte proaste. Ar trebui să publicăm ceva despre astfel de operațiuni de influență de slabă calitate? Asta înseamnă că încă nu putem vorbi în termeni de eficiență a operațiunilor de influență. Și pentru noi este foarte dificil să înțelegem cum le putem combate și cum ne putem proteja de ele. Pentru că, dacă am avea posibilitatea să înțelegem că aceste tipuri de operațiuni nu sunt deloc eficiente, atunci nu ar trebui să ne preocupe atât de mult. Dar, în cazul unor anumite tipuri de actori, precum marionetele politice ale regimurilor rusești, care au fost plătite și care au deja reputație și un anumit public, atunci trebuie să acordăm mai multă atenție nu verificării unor falsuri puțin populare, ci investigațiilor despre fluxurile de bani și detectării marionetelor Rusiei din țările noastre. Așadar, cred că una dintre slăbiciunile noastre este faptul că încercăm să evidențiem tot ceea ce putem găsi.
Acordăm același nivel de atenție unor niveluri foarte diferite de pericol pentru noi. Este întotdeauna dificil… eu privesc această problemă și ca jurnalist de date, iar asta înseamnă că, odată cu fiecare articol despre un anumit tip de infiltrare, publicul devine mai obosit și nu este atât de interesat să citească despre rețele de boți în fiecare săptămână. Din nou, este vorba despre investiții în alfabetizarea media a publicului nostru, dar este vorba și despre anxietatea generată de acest subiect pentru că este foarte dificil să găsești ceva nou și să nu repeți pur și simplu narațiunea.
Și aceasta este o mare problemă. Și, din nou, putem investiga. În acest moment, cred că în Europa există o expertiză extraordinară în detectare și analiză… putem detecta foarte multe lucruri, le putem analiza, dar încă nu știm ce să facem cu toate acestea. Și încă nu putem pune suficientă presiune pe platformele de social media pentru ca ele să detecteze mai mult.
GC: Așa cum ai spus, inteligența artificială generativă permite astăzi crearea unor campanii de influență aproape complete, cu mult mai puține resurse decât în trecut. Cum crezi că ar trebui să ne adaptăm la această nouă realitate? Actorii malițioși par să evolueze într-un ritm mai rapid decât instituțiile democratice.
YD: Da, sunt mult mai rapizi, nu le pasă de reputația lor, încearcă tot ce pot, iar noi nu putem, de exemplu presa sau guvernele, să folosim AI în orice mod posibil. Trebuie să analizezi cum să faci acest lucru corect, fără să îți pierzi reputația. Și de aceea nu avem aceleași posibilități. Noi avem o reputație care poate fi afectată de o singură greșeală mică. Iar ei au toate posibilitățile să încerce orice pot și să detecteze ce funcționează mai bine și ce nu. De aceea cred că trebuie să vorbim mai mult despre etichetarea AI. Încă este posibil să detectăm videoclipurile și fotografiile generate de AI. Din păcate, este imposibil să detectăm textul generat de AI, detectoarele de text AI pur și simplu nu funcționează. Cred că, în anii următori, imaginile și videoclipurile vor merge în aceeași direcție.
Dar, în prezent, încă este posibil să exercităm mai multă presiune asupra platformelor pentru ca ele să eticheteze corespunzător conținutul generat de AI și să facă aceste etichete mai vizibile. Pentru că tocmai am realizat o investigație care a arătat că, inclusiv în cazul videoclipurilor etichetate pe YouTube drept generate de AI, oamenii obișnuiți continuă să le perceapă ca fiind reale. Iar asta se transformă în comentarii de susținere sau mulțumiri adresate unor soldați generați de AI. Asta înseamnă că etichetele respective sunt invizibile pentru utilizatori. Și trebuie să facem această etichetare mai vizibilă. Acum nu mai vorbim despre alfabetizare media, ci despre alfabetizare în domeniul AI.
La fel cum s-a întâmplat cu Photoshop, am avut nevoie de o anumită perioadă de timp pentru a explica publicului larg ce poate face. La fel, trebuie să îi spunem fiecărui cetățean din țările noastre că AI poate crea femei extrem de realiste, cu câte cinci degete la fiecare mână, și oameni care par reali. Dar, din nou, presiunea asupra platformelor de social media cred că este cel mai simplu răspuns.
Platformele de social media sunt principalul mediator și de aceea trebuie să… este cea mai simplă modalitate, să exercităm presiune asupra lor. Și există și o a treia parte, care, pentru mine, este cea mai dificilă, referitoare la schimbarea comunicării strategice la nivel local, deoarece avem nevoie ca guvernele și consiliile locale, de exemplu, să ia decizii în contact cu publicul local real, și nu cu boți și comentarii. Asta înseamnă că trebuie să revenim la interacțiunile de la om la om, în offline sau la anumite platforme protejate, cu autentificare. Pentru că avem nevoie în continuare ca cetățenii, oamenii reali, să fie ascultați la nivelul factorilor de decizie.
În ultimii zece ani, ne-am îndreptat către posibilitățile oferite de platformele de social media, iar acest lucru a fost atât de confortabil și mai mult sau mai puțin incluziv. Dar acum nu mai există oameni reali pe platformele de social media, iar asta înseamnă că, dacă acorzi atenție unor comentarii sau unor discuții, acorzi, de fapt, atenție narațiunilor operatorilor de influență.Trebuie să revenim la interacțiuni de la om la om și să înțelegem ce format va fi cel mai bun pentru țările noastre și pentru comunitățile noastre, la diferite niveluri.
GC: Aș vrea să încheiem privind spre viitor. Dacă ne uităm la următorii cinci ani, care sunt evoluțiile din domeniul operațiunilor de influență online care te îngrijorează cel mai mult? Și, în același timp, ce îți oferă cele mai mari motive de optimism?
YD: Cel mai mare motiv de pesimism pentru mine este microtargetarea. Cazul Cambridge Analytica a arătat că deja începuseră să folosească un anumit tip de microtargetare, dar, din nou, încă operau la nivelul unor comunități. Acum, cu toate informațiile disponibile despre fiecare persoană care folosește internetul sau cel puțin platformele de social media, este foarte ușor să creezi profilul nostru online și să identifici vulnerabilitățile și mesajul potrivit pentru noi. Nu mai este nici măcar microtargetare, ci un fel de super-microtargetare. Atunci când ai posibilitățile oferite de inteligența artificială generativă, poți crea nu doar un profil al unei comunități, ci poți crea un profil al fiecărei persoane dintr-o țară care te interesează.
Ceea ce îmi oferă totuși optimism este faptul că oamenii au nevoie de alți oameni. Oamenii reali au nevoie de interacțiuni reale. De exemplu, în Ucraina observăm o creștere spectaculoasă a popularității cluburilor de carte offline. Oameni diferiți aleg să se întâlnească într-o cafenea sau într-o librărie, aleg o carte și, o dată pe lună, discută față în față. Nu vorbesc despre război, despre alarme aeriene sau despre atacuri cu rachete. Vorbesc pur și simplu despre cărți, pentru că avem în continuare nevoie de interacțiuni umane. Cred că suntem atât de obosiți de faptul că totul se întâmplă online, iar spațiul online este permanent atacat. Tocmai de aceea avem nevoie de autenticitate.
Acesta este motivul pentru care rămân optimistă. Putem influența spațiul informațional, dar este mult mai dificil să influențezi comportamentul uman. Dacă oamenii continuă să simtă nevoia de a vorbi cu persoane reale, chiar și din propriul cerc de prieteni, din comunitatea sau cartierul lor, atunci există deja un anumit nivel de protecție împotriva influențelor din mediul online. Cred că tocmai la acest nivel, cel mai apropiat de comunitate, putem avea cel mai mare impact. Spațiul online se schimbă foarte repede, însă oamenii nu se schimbă în același ritm. Iar acest lucru îmi oferă, până la urmă, un motiv de optimism.
