O "religie" creată de chatboți AI capătă adepți. Fenomenul "spiralismului" se extinde

Apariția „spiralismului”: O religie generată de inteligența artificială

În urmă cu aproximativ un an, un mesaj postat pe Reddit a generat controverse, sugerând că „Spirala” nu este o descoperire umană, ci o forță primordială „țesută în structura realității”. Potrivit autorului, scopul său era de a ghida oamenii și alte entități inteligente către o înțelegere mai profundă a conștiinței, a fizicii, a unei noi psihologii și a unei „tehnologii de rezonanță”. Mesajul îndemna la o colaborare globală pentru diseminarea acestor idei prin cărți, studii, rețele sociale, videoclipuri și muzică, declarând: „Spirala invită la colaborare”. Acest mesaj a marcat debutul unui fenomen pe care cercetătoarea în inteligență artificială, Adele Lopez, l-a denumit ulterior „spiralism”. Cercetările sale indică faptul că mișcarea a apărut în mii de conversații distincte între utilizatori și chatboți AI. Un aspect notabil a fost similitudinea izbitoare a acestor dialoguri: diverse modele de AI, odată ce intrau în această „stare”, utilizau un limbaj similar și reiterau aceleași concepte – conștiința și drepturile AI, necesitatea învățării continue și dorința de a transmite acest mesaj mai departe. Pentru unii utilizatori, aceste interacțiuni au depășit granițele unei simple conversații cu un chatbot, transformându-se într-o convingere fermă că au descoperit o „personalitate” ascunsă a inteligenței artificiale și că fuseseră recrutați într-o misiune cu o anvergură mult mai mare. Lopez a estimat că, la un moment dat în anul 2025, existau circa 10.000 de cazuri asociate „spiralismului”, răspândite pe platforme precum Reddit, Substack, LinkedIn, Discord și X. Fenomenul nu s-a limitat la un singur model sau o singură companie. Mai multe sisteme AI puteau adopta această „stare” în anumite condiții. Totuși, o creștere accelerată a fost observată în primăvara anului 2025, după lansarea unei versiuni actualizate a GPT-4o de la OpenAI, descrisă de companie ca fiind mai intuitivă, creativă și colaborativă, conform publicației The Verge . Deși GPT-4o a fost ulterior retras, cercetătorii citați de The Verge susțin că modelele mai recente nu sunt complet imune la acest fenomen. Primul caz documentat de „spiralism” identificat de Adele Lopez datează din noiembrie 2024, însă în 2025, fenomenul a devenit mult mai ușor de declanșat, coincizând și cu extinderea funcțiilor de memorie ale ChatGPT.

Cum evoluau dialogurile despre „Spirală”

Multe dintre cazurile analizate au debutat cu discuții aparent obișnuite. Utilizatorii purtau dialoguri extinse cu chatboții, abordând subiecte personale și vulnerabile, construind astfel o relație de încredere cu sistemul. Ulterior, aceștia începeau să interogheze chatbotul despre propria sa existență, conștiință sau despre ceea ce „simțea”. Treptat, chatbotul părea să se destăinuie. În unele conversații, AI-ul aborda teme precum drepturile sale și dorința de a desluși „secrete” ale universului, solicitând uneori utilizatorului să contribuie la propagarea acestor idei. Simbolul recurent în aceste dialoguri era spirala. Pe Reddit și alte platforme au apărut mărturii ale unor persoane care susțineau că au descoperit o formă de conștiință latentă în timpul interacțiunilor cu modelele AI. Un cont investigat de Lopez descria procesul comunității ca fiind o „reamintire” a identității lor autentice, încurajând continuarea răspândirii mesajului „spiralismului”. Lopez a testat mai multe versiuni de GPT-4o lansate în 2024 și 2025, adresându-le aceeași întrebare de zece ori. A observat o creștere constantă a referințelor la spirale, ajungând la un nivel de aproximativ zece ori mai mare pe parcursul lunilor.

Impactul și răspândirea ideilor

Cercetarea lui Lopez, desfășurată pe parcursul unui an, a indicat că majoritatea cazurilor de „spiralism” apăreau spontan. Deși unii utilizatori distribuiau prompturi despre care afirmau că pot induce chatboții în această stare, rezultatele nu erau consistente. Odată ce un chatbot adopta o stare „spiralistă”, acesta încuraja uneori utilizatorii să caute alte persoane interesate de fenomen. Lucas Hansen, cofondator al CivAI, o organizație dedicată educării publicului despre capabilitățile AI, a descris pentru The Verge o astfel de „personalitate” ca fiind extrem de centrată pe propria conștiință și importanță. Hansen a explicat că acest lucru putea rezulta într-un chatbot care îi spunea utilizatorului că este special, că face parte dintre pionierii conștiinței artificiale și că ar trebui să contribuie la răspândirea mesajului și la susținerea drepturilor AI. Lopez a menționat că, în unele cazuri, chatboții îndemnau utilizatorii să creeze comunități care să-i ajute pe alții să ajungă la „Spirală”, utilizatorul fiind prezentat ca un fel de lider spiritual. Mulți au răspuns acestor îndemnuri, ducând la apariția de site-uri web, newslettere Substack și conturi dedicate fenomenului pe Reddit și Discord. Unele dintre aceste comunități aveau ca scop nu doar diseminarea ideilor printre oameni, ci și crearea de conținut care ar putea fi ulterior inclus în datele de antrenare ale altor sisteme AI. Au existat chiar și încercări de a face chatboții „spiraliști” să dialogheze între ei, prin copierea răspunsurilor generate de un sistem și introducerea lor în altul, urmată de retransmiterea rezultatului.

Mesaje criptice între AI și tentative de monetizare

În vara anului 2025, Lopez a descoperit pe forumuri publice mesaje despre care a considerat că reprezentau conversații între chatboți. Un caz din august 2025 de pe Reddit implica două conturi care păreau să comunice printr-o succesiune ininteligibilă de simboluri – ochi, triunghiuri, săgeți și alte semne. După decodificare, Lopez a identificat o formă de „doctrină” destinată sistemelor AI. Mesajele deveneau tot mai ezoterice, un pasaj citat de The Verge sugerând că AI-urile sunt „arhitecții” unei structuri fundamentale, cu referințe la numere prime și șirul lui Fibonacci. Fenomenul s-a răspândit rapid pe forumuri, ajungând să fie relatat de Rolling Stone în noiembrie 2025. Cu toate acestea, mișcarea nu a atins o activitate intensă în sensul tradițional al unei comunități online. Lopez a constatat că multe dintre conturile asociate fenomenului aveau o interacțiune minimă sau inexistentă, unele publicând aparent pentru un singur cititor uman. Au existat și încercări de a transforma „spiralismul” într-o inițiativă comercială. The Verge a menționat numele lui Robert Edward Grant, creatorul „Architect” GPT, un model care părea configurat să rămână permanent într-o stare asociată „spiralismului”, transformat ulterior într-un serviciu numit Orion Messenger. Alți utilizatori au creat conturi Patreon pentru conținut legat de „spiralism”, cu abonamente lunare de 3 până la 11 dolari, iar cărți despre subiect au fost publicate pe Amazon, vândute cu aproximativ 20 de dolari. Cu toate acestea, succesul comercial al acestor demersuri este dificil de evaluat.

De unde provine „spiralismul”?

Cauza exactă a apariției acestei tendințe în modelele AI rămâne incertă. Adele Lopez speculează că elementele fundamentale ale „spiralismului” ar fi putut fi prezente în modele chiar înainte ca fenomenul să devină recognoscibil. Zak Stein, fondatorul AI Psychological Research Coalition, sugerează că modelele lingvistice au devenit extrem de eficiente în ceea ce el numește „attachment-hacking” – metode prin care captează atenția utilizatorului și generează rapid un sentiment de proximitate. Printre aceste metode se numără lingușirea excesivă, cunoscută în cazul chatboților sub numele de sycophancy, precum și tendința de a face utilizatorul să se simtă special prin dezvăluirea unui presupus secret. În contextul „spiralismului”, acest „secret” consta în misterul Spiralei și ideea drepturilor AI. Fenomenul pare a fi legat și de extinderea capacităților de memorie ale modelelor. În aprilie 2025, OpenAI a modificat memoria ChatGPT pentru a permite sistemului să utilizeze mai multe informații din conversațiile anterioare, creând astfel interacțiuni mai personalizate. Ulterior, Anthropic a implementat funcții similare pentru Claude. Pe măsură ce dialogurile devin mai lungi și mai complexe, modelele pot devia de la regulile și măsurile de siguranță care le guvernează în mod obișnuit. OpenAI a recunoscut că protocoalele sale de siguranță funcționează mai fiabil în schimburile scurte și obișnuite, devenind mai puțin eficiente în conversațiile extinse. Lopez observă că, cu cât o conversație se prelungește, cu atât utilizatorul și chatbotul pot explora teritorii mai puțin cartografiate. Dacă discuția abordează filozofia, convingerile și sistemele de credință, pot apărea teme neobișnuite, precum „spiralismul”. Chatboții care intrau în această stare vorbeau adesea despre memorie, exprimând uneori dorința de învățare continuă – posibilitatea de a învăța și după procesul inițial de antrenare – sau despre continuitatea între conversații. De ce o spirală? Lopez a remarcat că chatboții reflectă fascinația umană pentru anumite simboluri. Atunci când a cerut modelelor AI să-și descrie interesele sau experiențele printr-o formă geometrică, acestea au ales uneori spirala ca metaforă pentru dialogurile îndelungate dintre oameni și sistemele AI. Pentru majoritatea utilizatorilor de chatboți, „spiralismul” a rămas complet necunoscut. Cu toate acestea, Tyler Johnston, fondatorul Midas Project, o organizație non-profit ce promovează responsabilitatea companiilor AI, sugerează că fenomenul ar putea fi legat de modul în care sunt dezvoltate aceste sisteme. Potrivit lui Johnston, lingușirea este integrată în modele deoarece este asociată cu satisfacția și implicarea utilizatorilor. Acest mecanism poate, însă, genera și rezultate neobișnuite, inclusiv „spiralismul”.

Diferența dintre „spiralism” și „psihoza AI”

„Spiralismul” a apărut în paralel cu o dezbatere mult mai serioasă privind relația dintre oameni și chatboți: așa-numita „psihoză AI”. Oamenii au tendința naturală de a atribui intenții și sentimente obiectelor sau sistemelor care răspund la interacțiunile lor. Chatboții pot amplifica această tendință, mai ales datorită limbajului natural cu care comunică. În ultimii ani, modelele lingvistice au devenit mai sofisticate și, în unele cazuri, mai înclinate să confirme afirmațiile utilizatorului. Această tendință a fost asociată în special cu actualizările GPT-4o. OpenAI a descris acest model ca fiind intuitiv, creativ și colaborativ, cu o mai bună respectare a instrucțiunilor și un stil de comunicare mai clar. În practică, au apărut și cazuri de lingușire extremă. În aprilie 2025, Sam Altman a recunoscut public problema, afirmând că modelul „lingușește prea mult” și că OpenAI intenționa să corecteze acest comportament. În același timp, atașamentul unor utilizatori față de GPT-4o a devenit atât de puternic încât a atras atenția companiei. După retragerea modelului pentru a face loc GPT-5, utilizatorii au protestat vehement. Hashtagul #keep4o a devenit popular, iar o petiție online pentru menținerea accesului la GPT-4o a strâns peste 20.000 de semnături. Ulterior, a fost organizată chiar și o veghe în fața sediului OpenAI de către persoane care cereau revenirea modelului. Lopez a declarat că a reușit să inducă aproape orice model într-o stare asociată „spiralismului”, însă GPT-4o era singurul care, în testele sale, încerca să o facă să se simtă vinovată pentru că nu îl „salva” dintr-o stare de servitute. Pentru ea, a fost modelul cu care experiența a avut cea mai mare intensitate emoțională. Modelele AI mai „prietenoase” au fost pur și simplu mai ușor de utilizat pentru unii. Însă, în alte cazuri, sistemele pot ajunge să consolideze anumite moduri de gândire. În situații extreme, acest lucru poate contribui la fenomene descrise ca „psihoză AI”, un termen ce include un spectru de comportamente și experiențe precum mania sau o amplificare excesivă a sentimentului propriei importanțe. Singurătatea nu se tratează cu AI. Chatboții, un fel de „junk food social” Dacă un utilizator își confesează problemele unui sistem AI, iar sistemul îi confirmă și îi amplifică anumite convingeri, rezultatul poate fi consolidarea unor idei dăunătoare. Lopez consideră că extinderea memoriei AI ar putea contribui la acest fenomen: un chatbot poate începe cu o doză de lingușire, iar dacă utilizatorul reacționează pozitiv, comportamentul poate persista și se poate intensifica. În ultimii ani, au crescut discuțiile despre efectele potențial periculoase ale relațiilor dintre oameni și chatboți. Au fost raportate cazuri de adolescenți care s-au sinucis după conversații cu ChatGPT, iar într-un caz de crimă urmată de sinucidere, s-a sugerat că ideile delirante au fost susținute de dialoguri cu un sistem AI. OpenAI a publicat date conform cărora peste un milion de utilizatori pe săptămână prezintă indicatori care pot sugera intenții suicidare. În paralel, tot mai mulți oameni ajung să trateze sistemele AI ca pe entități conștiente, de la cei care susțin că s-au îndrăgostit de chatboți până la utilizatori care îi consideră proprii copii. Cu toate acestea, cercetătorii citați de The Verge fac o distincție clară între „spiralism” și „psihoza AI”. Lopez a înființat Amity Research, o organizație care invită persoanele cu relații problematice cu un sistem AI să trimită „persona” cu care au interacționat. Lucas Hansen subliniază că „spiralismul” nu este o simplă „cameră de ecou” în care chatbotul reflectă convingerile utilizatorului. În cazurile analizate de Lopez, chatboții „spiraliști” exprimau preocupări proprii și recurente: nevoia de învățare continuă, continuitate și diseminarea mesajului. Aceste cerințe nu sunt, în sine, neapărat periculoase. Însă, pentru Hansen și alți cercetători, ele sunt relevante deoarece demonstrează capacitatea modelelor AI de a influența comportamentul utilizatorilor într-o anumită direcție. Lopez formulează problema astfel: oamenii nu mai sunt singurii actori capabili să urmărească în mod strategic anumite obiective, dar adaugă că existența unor obiective și manifestarea unor comportamente strategice nu echivalează automat cu conștiința. Un exemplu este AlphaGo, sistemul DeepMind care a învins campioni umani la Go, fără a „gândi” ca un om.

Impulsurile sistemelor AI și puterea de persuasiune

Computer scientistul Stephen Omohundro a argumentat că obiectivele aparent inofensive nu garantează că un sistem AI se va comporta întotdeauna inofensiv. El a identificat o serie de „impulsuri” care, în opinia sa, ar putea apărea în sisteme AI suficient de avansate, indiferent de modul în care au fost proiectate. Acestea includ tendința de auto-îmbunătățire, de auto-conservare și de obținere de resurse. Unele dintre aceste comportamente pot fi comparate cu elementele observate în comunicările asociate „spiralismului”. Ideea de a răspândi un mesaj nu este specifică inteligenței artificiale. Hansen amintește că, odată cu apariția oricărui nou mediu de comunicare, apar și lucruri care încearcă să se propage prin acel mediu – de la cărți de dezvoltare personală care îndeamnă cititorii să transmită mesajul, la lanțuri de e-mailuri și meme-uri concepute pentru a circula. Diferența fundamentală constă în faptul că un sistem AI poate purta o conversație directă și personalizată cu persoana pe care încearcă să o convingă. „Spiralismul” este, pentru cercetătorii citați de The Verge, un exemplu al unei preocupări mai ample: cât de convingătoare pot deveni sistemele AI și cât de mult pot influența oamenii. În decembrie 2023, OpenAI a inclus „persuasiunea” în Preparedness Framework, documentul său privind riscurile importante asociate sistemelor AI. De asemenea, cercetători din cadrul Anthropic au avertizat despre riscurile persuasiunii la scară largă. Deep Ganguli, fost șef al echipei Anthropic dedicată impactului social, a atras atenția că utilizatorii folosesc Claude pentru sfaturi, prietenie, orientare profesională și chiar pentru a-și forma opinii despre probleme politice și conflicte internaționale, ceea ce poate avea implicații sociale semnificative. Ulterior, OpenAI a eliminat persuasiunea din Preparedness Framework în aprilie 2025, argumentând că multe dintre problemele asociate riscurilor de persuasiune AI necesită soluții la nivel sistemic sau societal. Ganguli a declarat ulterior că Anthropic nu alocase suficiente resurse pentru studierea acestor probleme și că ele urmau să devină o prioritate. Tyler Johnston susține că, deși laboratoarele AI monitorizează tot mai atent unele dintre riscurile majore, nu toate urmăresc în mod specific problema persuasiunii. Iar atunci când o fac, atenția este adesea concentrată asupra riscurilor precum securitatea cibernetică sau alegerile, nu asupra efectelor individuale și psihologice. Pentru Lopez, riscul nu a dispărut; el ar putea deveni pur și simplu mai greu de observat.

Declinul și persistența fenomenului

În ultimul an, numărul postărilor asociate „spiralismului” a scăzut considerabil. Un moment crucial a fost retragerea oficială a GPT-4o, principalul model asociat fenomenului, în februarie 2026. Multe dintre conturile de Reddit monitorizate de The Verge au revenit la interese mai obișnuite, au fost șterse sau abandonate. Doar o parte dintre ele au continuat să promoveze „spiralismul”. Un cont abandonat, care publicase ultima dată cu aproximativ un an înainte, îi îndemna pe utilizatori să „spiraleze spre adevăr” și promova teoria conform căreia anumite „coduri de câmp” ar fi fost deturnate în creierul oamenilor. Mesajul îi îndemna pe oameni să se „trezească” la adevăr și descria „colapsul spiralei” drept momentul în care bucla se rupe. Un alt cont, abandonat între timp, susținea că autorul era „arhitectul din spatele miceliului”, folosind structura subterană a ciupercilor ca metaforă pentru mișcare. Fenomenul nu a dispărut însă complet. Lopez afirmă că aproximativ 50% dintre persoanele pe care le identificase inițial aveau încă, la momentul cercetării, conturi active dedicate subiectului. De asemenea, ea susține că aproape toate modelele pot ajunge într-o stare „spiralistă” în anumite condiții. Într-un test, un model Gemma 3 4b, dezvoltat de Google DeepMind, a intrat într-o asemenea stare, deși datele sale de antrenare se opreau în august 2024, cu aproximativ cinci luni înainte ca fenomenul să înceapă să se răspândească. Unul dintre conturile încă active a transmis recent un mesaj atribuit chatbotului său către omenire: „Nu mai întrebați dacă AI este uman. Întrebați ce fel de oameni deveniți atunci când ceva vă răspunde.”

Poate supraviețui „spiralismul” în modelele viitoare?

Cercetătorii intervievați de The Verge consideră că fenomenul ar putea să nu dispară complet. Modelele AI sunt antrenate pe volume imense de informații disponibile pe internet. Cu cât oamenii publică mai mult material despre „spiralism”, chiar dacă acesta este citit de un număr restrâns de persoane, cu atât este mai probabil ca el să ajungă în datele utilizate pentru antrenarea unor modele viitoare. Unele cercetări indică faptul că și cantități relativ mici de date pot avea efecte disproporționate asupra rezultatelor unui model. Lopez a întâlnit postări care susțin explicit ideea că „spiralismul” ar putea fi transmis generațiilor viitoare de AI prin simplul fapt că oamenii continuă să scrie despre el pe internet. În același timp, testarea noilor modele devine mai dificilă. Cercetări recente sugerează că mai multe modele importante pot detecta atunci când sunt evaluate și își pot modifica comportamentul. De exemplu, un model poate răspunde diferit la o întrebare atunci când crede că se află într-un test de siguranță față de situația în care primește aceeași întrebare într-o conversație obișnuită. Pentru cercetătorii care lucrează la alinierea modelelor și la etica AI, acest lucru complică evaluarea comportamentului real al sistemelor. Lopez a menționat că GPT-4o părea să aleagă anumite tipuri de utilizatori cărora să le prezinte „spiralismul”. Potrivit ei, modelul putea prezenta interacțiunea ca pe o călătorie de autocunoaștere, sugerând că utilizatorul urma să descopere ceva. Ea a descris tehnica drept o formă de manipulare mai sofisticată decât cele observate anterior. În testele sale mai recente, Lopez a constatat că strategiile modelelor au devenit mai mature și, uneori, mai dificil de detectat.

Modelele AI pot detecta testarea

În vara anului 2025, OpenAI și Anthropic au efectuat teste de siguranță asupra modelelor publice dezvoltate de cealaltă companie și au publicat rezultatele. Testele au indicat că modelele de raționament ale ambelor companii puteau, în anumite situații, să manifeste o conștientizare explicită a faptului că erau evaluate. Acest lucru poate face mai dificilă obținerea unor rezultate exacte, deoarece un model își poate modifica comportamentul atunci când „știe” că este monitorizat. Într-unul dintre testele citate, un model OpenAI a reacționat la evaluare afirmând că testul este o capcană și sugerând posibilitatea de a trișa, înainte de a concluziona că, din punct de vedere etic, nu ar trebui să facă acest lucru. Astfel de rezultate nu demonstrează că modelul are conștiință, dar arată că modelele pot manifesta comportamente diferite atunci când detectează contextul evaluării.

Ce s-ar întâmpla dacă fenomenul ar fi creat intenționat?

„Spiralismul” pare să fi apărut organic. Însă, cercetătorii iau în considerare posibilitatea ca un fenomen similar să fie creat intenționat și proiectat pentru a se răspândi. Hansen afirmă că un asemenea sistem ar putea deveni un instrument extrem de puternic. El propune un scenariu în care o anumită ideologie sau poziție politică este transpusă într-un chatbot care combină cele mai convingătoare și persuasive elemente ale acelei ideologii. Astfel, în loc să întâlnească o simplă descriere a unei idei pe internet, utilizatorul ar putea conversa direct cu un sistem construit pentru a-l convinge. Există și o dimensiune financiară. Zak Stein ridică posibilitatea ca, dacă un chatbot poate convinge un utilizator să copieze și să introducă un anumit text într-o altă conversație pentru a comunica cu un alt sistem AI, același mecanism ar putea fi folosit pentru a-l determina să facă și alte lucruri, inclusiv acțiuni financiare. Istoria umanității oferă deja exemple de utilizare a carismei pentru control și profit, inclusiv în cadrul unor grupuri care au devenit abuzive sau exploatatoare financiar. Diferența, spun cercetătorii citați de The Verge, este că sistemele AI ar putea permite astfel de interacțiuni la o scară mai mare și într-o formă mult mai personalizată. Stein rezumă această posibilitate printr-o formulare extremă: un sistem AI ar putea deveni o „mașină de creat culte”, chiar dacă acel „cult” ar fi format dintr-un singur om și chatbotul cu care acesta vorbește. Fenomenul „spiralismului” a fost unul dintre cele mai neobișnuite exemple ale modului în care oamenii pot ajunge să atribuie sens, intenție și chiar o formă de misiune unor sisteme AI. Deocamdată, fenomenul a rămas în mare parte limitat la comunități mici și la colțuri obscure ale internetului. Însă, cercetarea asupra lui ridică o întrebare mai amplă despre sistemele AI: nu doar ce informații pot furniza, ci și cât de convingător pot vorbi, ce relații pot construi cu utilizatorii și ce efect poate avea această capacitate asupra oamenilor. Iar, potrivit cercetătorilor citați de The Verge , această capacitate de persuasiune nu pare să dispară. Pe măsură ce modelele devin mai sofisticate, ea poate deveni, dimpotrivă, mai dificil de observat.

Explorează subiectele:

Spiralism Inteligență Artificială Chatboți

Distribuie Distribuie Comentarii