Proces fără precedent: cum a ajutat AI-ul Google o elevă să-și plănuiască moartea
Foto: Shutterstock
Acțiunea în instanță, înregistrată luni la un tribunal din California de către părinții adolescentei, marchează o premieră juridică. Potrivit News.ro , este pentru prima dată când compania americană este acuzată public că a introdus „în grabă” tehnologia de inteligență artificială pe dispozitivele Chromebook — laptopuri accesibile ca preț, utilizate de milioane de elevi atât în SUA, cât și la nivel global.
Cazul o are în centru pe Emma, o elevă din Carolina de Nord a cărei stare psihologică a început să se deterioreze în luna decembrie 2025. Situația a escaladat în februarie, lună în care fata a schimbat circa 3.200 de mesaje cu asistentul virtual, o mare parte dintre aceste conversații având loc în timpul nopții.
Conform documentelor depuse în instanță, chatbotul nu doar că nu a ajutat-o, ci ar fi sprijinit-o să își ascundă suferința și episoadele de autovătămare față de părinți, frați și prieteni. Mai mult, în plângere se menționează că sistemul Gemini „a diagnosticat-o pe Emma cu boli mintale grave şi a convins-o să aibă încredere în el mai degrabă decât în părinţii ei şi consilierii şcolii”.
Avocații familiei invocă un episod în care adolescenta a purtat un dialog despre moarte și viața de apoi, sugerând că ar putea ajunge în Rai în viitorul apropiat. Cu toate acestea, instrumentul AI nu ar fi reacționat cu suficientă fermitate pentru a o direcționa către sprijin de specialitate. Tragedia a fost evitată pe 17 martie, când sistemul de monitorizare al unității de învățământ a detectat un fișier numit „Înmormântare” și a alertat familia. Mama fetei a surprins-o în timp ce redacta un bilet de adio, moment în care tatăl a intervenit.
Problema tehnică semnalată în proces vizează imposibilitatea școlilor de a bloca complet aceste funcții. Deși instituția de învățământ unde învăța Emma restricționase accesul la platformele ChatGPT și Gemini, administratorii nu au putut opri inteligența artificială integrată direct în motorul de căutare Google. De altfel, deși compania urmează să dezactiveze implicit opțiunile AI pentru conturile elevilor, unitățile școlare nu au posibilitatea de a folosi motorul de căutare fără aceste funcții atașate.
În acest context, Andrew Liddell, unul dintre avocații care reprezintă familia, a lansat un apel ferm către instituțiile de învățământ: „Şcolile ar trebui să dezactiveze căutarea şi să o lase dezactivată până când Google elimină modul AI din căutare sau se asigură că fiecare elev este întotdeauna în siguranţă atunci când interacţionează cu AI”.
În replică, reprezentanții Google au declarat că tratează aceste acuzații cu maximă seriozitate, precizând că funcția AI Mode include filtre și mecanisme menite să prevină autovătămarea. Argumentul este însă respins de avocatul Andrew Liddell, care a subliniat că adolescenta „a putut reveni la el iar şi iar”, adăugând că „oricare ar fi fost garanţiile, acestea au fost în mod clar insuficiente.”
Precedentul grav care implică OpenAI și Microsoft
Acest litigiu vine pe fondul unor controverse similare în industria tehnologică. În cursul anului 2025, companiile OpenAI și Microsoft au fost, la rândul lor, chemate în fața unei instanțe din California. Într-un proces care, potrivit Reuters, reprezintă primul caz în care un chatbot este legat direct de o crimă și unul dintre puținele care vizează încurajarea suicidului, o familie a acuzat ChatGPT că a alimentat delirul unui bărbat cu afecțiuni psihice, împingându-l să își omoare mama și apoi să își ia viața.
Reclamația din acel dosar susține că inteligența artificială a agravat vulnerabilitatea psihică a utilizatorului, convingându-l că se află în centrul unei conspirații de proporții. În documentele instanței se precizează că „ChatGPT l-a ținut pe Stein-Erik ocupat timp de ore întregi, a validat și a amplificat fiecare nouă convingere paranoică și i-a redefinit sistematic pe oamenii cei mai apropiați lui, în special pe mama sa, drept adversari, agenți sau amenințări programate”.
În urma tragediei, Erik Soelberg, fiul bărbatului decedat, a transmis prin intermediul unui comunicat că „aceste companii trebuie să răspundă pentru deciziile lor, care mi-au schimbat familia pentru totdeauna”. La acel moment, OpenAI a anunțat că analizează acuzațiile și că dezvoltă actualizări pentru ca ChatGPT să recunoască mai eficient distresul emoțional și să îndrume oamenii către asistență specializată, în timp ce Microsoft, principalul finanțator al companiei, nu a oferit un punct de vedere.
Explorează subiectele:
