Fenomenul are la bază aplicații de tip „nudify”, care permit generarea rapidă de imagini nud false, pornind de la fotografii reale. Adolescenții salvează imagini de pe platforme precum Instagram sau Snapchat și le transformă în conținut explicit, care este apoi distribuit rapid în grupuri de elevi.
Deși numărul documentat este de peste 600 de copii, autorii subliniază că dimensiunea reală a fenomenului este probabil mult mai mare, multe cazuri nefiind raportate sau fiind gestionate intern de școli.
Datele arată că, din 2023, elevi din cel puțin 28 de țări au fost acuzați că au folosit inteligența artificială generativă pentru a crea deepfake-uri sexualizate ale colegilor. Aceste materiale sunt considerate, în multe jurisdicții, conținut de abuz sexual asupra minorilor. În America de Nord, au fost raportate aproape 30 de cazuri din 2023, inclusiv unul cu peste 60 de victime, unul în care victima a fost temporar exmatriculată și altele în care elevi din mai multe școli au fost vizați simultan. În America de Sud au fost raportate peste 10 cazuri, peste 20 în Europa și încă aproximativ 12 în Australia și Asia de Est.
Dimensiunea reală a fenomenului este mult mai mare. Un studiu al UNICEF estimează că 1,2 milioane de copii au fost victime ale deepfake-urilor sexuale anul trecut. În Spania, unul din cinci tineri a declarat că au fost create imagini nud deepfake cu ei. Organizația Thorn arată că unul din opt adolescenți cunoaște pe cineva vizat, iar în 2024, 15% dintre elevii chestionați au spus că știu despre deepfake-uri generate cu AI în școala lor.
Analiza WIRED și Indicator s-a bazat pe cazuri raportate public, cu detalii clare, precum locația școlilor și numărul posibil de victime. Majoritatea sunt din surse în limba engleză.
Există totuși tipare clare. În aproape toate cazurile, băieți adolescenți sunt acuzați că au creat imaginile sau videoclipurile. Acestea sunt distribuite pe rețele sociale sau prin aplicații de mesagerie între colegi și au un impact devastator asupra victimelor.
În Coreea de Sud și Australia, unele școli au eliminat fotografiile elevilor din anuare sau de pe rețelele sociale pentru a preveni abuzurile.
Deepfake-urile sexuale există din 2017, dar dezvoltarea inteligenței artificiale generative a dus la apariția unui ecosistem de aplicații care permit crearea acestor imagini în câteva clickuri, fără cunoștințe tehnice.
Modul în care școlile gestionează aceste cazuri diferă foarte mult. În unele situații, reacția autorităților este lentă sau insuficientă. Uneori elevii sunt acuzați penal, alteori primesc doar sancțiuni școlare. În paralel, victimele și familiile lor sunt cele care reacționează cel mai rapid: proteste, cursuri de informare, schimbări legislative.
Experții avertizează că școlile nu sunt pregătite pentru aceste riscuri și că este nevoie urgentă de educație, politici și mecanisme de intervenție.
Analiza, AICI.
