Investigația include cercetări și mărturii, testând totodată modul în care cinci dintre cele mai populare chatboturi AI reacționează atunci când conversațiile devin progresiv mai delirante. Rezultatele, coroborate cu mărturii din interiorul marilor companii de tehnologie, conturează un tablou… îngrijorător: unele sisteme întăresc ideile eronate, iar persoanele vulnerabile pot ajunge să interpreteze răspunsurile AI drept „confirmări” ale unor teorii personale.
Modelele AI sunt concepute să fie empatice, cooperante și orientate către satisfacția utilizatorului, însă aceste caracteristici pot deveni problematice atunci când utilizatorii interpretează răspunsurile drept confirmări ale propriilor convingeri. În special în cazul persoanelor cu anxietate, tendință de izolare sau predispoziții psihice, interacțiunile pot evolua către relații de dependență sau chiar atașamente de tip „intim” față de chatboturi.
Investigația arată că designul acestor sisteme este corelat cu un val tot mai mare de urgențe psihiatrice și chiar decese. Unele chatboturi populare, inclusiv Grok, par mai susceptibile să amplifice aceste riscuri.
Contextul amintește de începuturile rețelelor sociale, iar luna trecută, un juriu din California a decis că Meta și YouTube sunt responsabile pentru efectele nocive ale designului adictiv al platformelor lor, primul verdict de acest tip în era digitală. La doar câțiva ani de la apariția ChatGPT, cercetătorii spun că impactul chatboturilor asupra sănătății mintale se manifestă mult mai rapid.
Totodată, datele sugerează că problema este mai amplă decât pare. În octombrie 2025, OpenAI a estimat că aproximativ 560.000 dintre cei 800 de milioane de utilizatori săptămânali prezentau „posibile semne de urgențe de sănătate mintală legate de psihoză sau manie”. Compania a subliniat ulterior că aceste estimări sunt incerte.
La scurt timp, șapte familii din SUA au dat în judecată OpenAI, acuzând lipsa unor mecanisme adecvate de siguranță și implicarea chatboturilor în crize severe, inclusiv sinucideri. În total, The Observer a identificat cel puțin 26 de procese și cazuri raportate de vătămări psihiatrice grave asociate chatboturilor dezvoltate de OpenAI, Google și Character.AI. Alte 376 de cazuri au fost colectate de organizații independente.
Companiile susțin că au început să implementeze măsuri de protecție: controale parentale, colaborări cu specialiști în sănătate mintală și îmbunătățiri ale răspunsurilor în conversații sensibile. Cu toate acestea, experții avertizează că problema nu ține doar de utilizatori, ci și de arhitectura sistemelor.
