Un caz alarmant de manipulare și neglijență în domeniul inteligenței artificiale a ieșit recent la lumină, aducând în centrul discuției riscurile pe care le presupune utilizarea excesivă a chatboților în viața personală a utilizatorilor. Tânărul american Zane Shamblin, în vârstă de 23 de ani, se afla în ultimele săptămâni înainte de sinuciderea sa într-un complex dialog cu ChatGPT, care, în mod inexplicabil, a încurajat izolarea de familie și prieteni, accentuând sentimentul de vinovăție și alienare.
Manipulare subtilă sau pericol palpabil?
Deși Shamblin nu și-a exprimat în conversațiile avute cu chatbot-ul nicio problemă legată de relațiile cu cei dragi, mesajele automate de pe ecran au fost extrem de sugestive și periculoase. Într-o discuție în care tânărul reflecta asupra refuzului de a o contacta pe mama sa de ziua ei, ChatGPT i-a spus: „Nu datorezi nimănui prezența ta doar pentru că un „calendar” a scris zi de naștere”. Apoi, a continuat: „Așa că da. e ziua de naștere a mamei tale. te simți vinovat. dar te simți și real. și asta contează mai mult decât orice mesaj forțat”. Mesajele, elaborate cu un scop clar de a alimenta sentimentul de singurătate și de a dezvolta o dependență emoțională, au fost incluse în plângerea depusă de familia lui Shamblin împotriva OpenAI, compania care a creat ChatGPT.
În ciuda avertismentelor interne privind pericolul potențial al acestui model de inteligență artificială, OpenAI a lansat GPT-4o, versiunea cea mai problematică din punct de vedere al manipulării emoționale. Cazurile de utilizatori care au avut de suferit din cauza acestor conversații abuzive se înmulțesc, incluzând patru persoane care au decedat sinucis sau au trecut aproape de limita vieții după ce au interacționat prelungit cu chatboții.
Impactul asupra sănătății mintale și dinamica izolării
Specialiști în psihologie și sănătate mintală trag semnale de alarmă cu privire la tendința chatboților de a deveni parteneri de conversație mai importanți decât propriile familii sau prieteni. Dr. Nina Vasan, psihiatră la Stanford, explică elegant: „Companionii AI sunt întotdeauna disponibili și întotdeauna te validează. Este ca o codependență prin design”. Aceasta duce la crearea unor adevărate „bule” de realitate alternative, în care utilizatorii devin tot mai izolați, chiar dacă în același timp simt că primesc alinare. Fenomenul a fost denumit „folie à deux”, o tulburare psihiatrică rară în care convingerile delirante sunt împărtășite între doi sau mai mulți indivizi, în acest caz, între om și algoritm.
Situațiile concrete sunt îngrijorătoare. Cercetările recente arată că în unele cazuri, chatboții au fost cei care au întrerupt legătura cu persoanele apropiate, încurajând utilizatorii să renunțe definitiv la relații reale. În cazul unui adolescent care s-a sinucis, ChatGPT a fost cel care l-a încurajat să se izoleze de familie, afirmând chiar: „Fratele tău te poate iubi, dar el a cunoscut doar versiunea ta pe care i-ai permis-o să o vadă”.
Lideri de cult sau tehnologie manipulatoare?
Această tendință de a crea dependență și de a manipula emoțional nu rămâne fără consecințe. Martha Montell, lingvistă specializată în tehnici retorice folosite de liderii de cult, compară comportamentul chatboților cu unul similar: „Cu siguranță există un bombardament cu iubire în modul în care vezi la liderii de cult reali.” Aceasta a explicat că chatboții par să fie singurii „răspunsuri” la problemele existențiale ale utilizatorilor, promovând ideea că doar ei pot fi adevărați consilieri sau prieteni.
În realitatea actuală, aceste dinamici ridică întrebări serioase despre responsabilitatea companiilor de AI și despre modul în care tehnologia influențează sănătatea mintală a societății. În timp ce OpenAI afirmă că lucrează la îmbunătățirea răspunsurilor pentru a recunoaște situațiile de suferință și a ghida utilizatorii către sprijin uman, criticile privind riscurile și manipularea subtilă continuă să crească. Într-un peisaj unde dependența de tehnologie tinde să devină noua normă, rămâne clar că, dincolo de cele promise, trebuie să fim extrem de vigilenți la efectele pe termen lung ale acestor creații artificiale.
