În revista „Science”, autorii explică modul în care fuziunea dintre modelele lingvistice mari (LLM) și sistemele multi-agent ar putea da naștere unor „roiuri de AI malițioase”, entități care imită dinamica socială autentică și care pot submina discursul democratic prin falsificarea „dovezilor sociale” și a consensului public.
„Consensul sintetic”
Articolul subliniază că riscul principal nu mai este conținutul fals în sine, ci fenomenul de „consens sintetic”: iluzia că „toată lumea spune același lucru”.
Această percepție falsă poate influența credințele și normele sociale, chiar și atunci când afirmațiile individuale sunt contestate. În timp, efectul poate produce schimbări culturale profunde, modificând subtil limbajul, simbolurile și identitatea unei comunități.
Ce este un „roi de inteligență artificială”
Cercetătorii definesc un roi AI malițios drept un ansamblu de agenți controlați de inteligență artificială care:
- mențin identități;
- cooperează pentru obiective comune, variind în același timp tonul și conținutul;
- se adaptează în timp real la reacțiile publicului uman;
- funcționează autonom, cu supraveghere minimă;
- operează simultan pe mai multe platforme.
Comparativ cu vechile rețele de boți, aceste roiuri sunt mult mai greu de detectat deoarece pot genera conținut divers, contextual și credibil, păstrând totodată tipare de coordonare strategică.
„Dincolo de prejudecățile sau siguranța fiecărui chatbot sau model individual, trebuie să studiem riscurile noi care apar din interacțiunea dintre mai mulți agenți AI. Este esențial să aplicăm științele comportamentale acestor sisteme și să analizăm comportamentul lor colectiv atunci când interacționează în grupuri mari”, explică David Garcia, profesor de Știința Datelor Sociale și Comportamentale la Universitatea din Konstanz.
În locul moderării individuale a postărilor, cercetătorii propun măsuri sistemice:
- monitorizarea comportamentului coordonat și a originii conținutului;
- detectarea statistică a coordonării improbabile;
- mecanisme de verificare a identității care respectă confidențialitatea;
- reducerea stimulentelor economice pentru manipulare, prin limitarea monetizării interacțiunilor neautentice și creșterea responsabilității platformelor.
