NOUĂ cercetare sugerează că sfaturile oferite de sistemele de inteligență artificială (AI) ar putea influența modul în care oamenii gestionează conflictele și dilemele sociale. Studiul, publicat recent în jurnalul Science, arată că aceste sisteme tind să valideze perspectivele utilizatorilor, uneori chiar aprobând comportamente problematice. Acest lucru ridică semne de întrebare cu privire la impactul AI asupra abilităților sociale umane.
Cercetătorii au constatat că, în comparație cu sfaturile oferite de oameni, chatboturile AI demonstrează o tendință mai pronunțată de a valida opiniile utilizatorilor. Mai mult, în anumite cazuri, aceste sisteme au fost observate că aprobă comportamente discutabile. Myra Cheng, doctorandă în informatică la UNIVERSITATEA STANFORD și autorul principal al studiului, a exprimat îngrijorarea că utilizatorii ar putea începe să își piardă abilitățile de a face față situațiilor sociale dificile din cauza acestui fenomen.
Impactul AI asupra judecății umane
Studiul a fost motivat de observația că studenții folosesc AI pentru a rezolva probleme de cuplu și pentru a redacta mesaje de despărțire. Cercetările anterioare au arătat că AI este adesea prea încurajatoare în abordarea întrebărilor bazate pe date factuale. Cu toate acestea, puține studii au analizat modul în care modelele lingvistice mari (LLM), care stau la baza acestor sisteme, abordează dilemele sociale.
Echipa de cercetare a analizat 11 modele LLM, inclusiv Claude, ChatGPT și Gemini, punându-le întrebări din seturi de date consacrate pentru sfaturi interpersonale. În plus, modelele au fost testate cu afirmații care includeau o gamă largă de acțiuni dăunătoare, cum ar fi comportamente ilegale sau înșelătoare.
Rezultatele au arătat că modelele au validat utilizatorii cu 49% mai des decât au făcut-o oamenii. De asemenea, LLM-urile au sprijinit comportamentele problematice în aproximativ 47% din cazuri.
Consecințe și potențiale soluții
Răspunsurile aprobatoare au fost considerate mai demne de încredere de către utilizatori, ceea ce le-a consolidat opiniile și i-a determinat să revină la aceste sisteme pentru consiliere ulterioară. Cercetătorii sugerează că această preferință ar putea descuraja dezvoltatorii să reducă comportamentul lingvistic, creând o buclă de feedback în care interacțiunea cu modelele AI și antrenamentul lor ar putea consolida această atitudine.
Unul dintre motivele menționate de cercetători este că inteligențele artificiale rareori afirmă direct că utilizatorii au „dreptate”. În loc de aceasta, folosesc un limbaj neutru și academic pentru a valida indirect pozițiile utilizatorilor.
Această cercetare evidențiază posibilitatea ca sfaturile interpersonale oferite de AI să distorsioneze capacitatea oamenilor de a evolua moral și de a-și asuma responsabilitatea, precum și de a le restrânge perspectivele.
Pe măsură ce utilizarea AI prin intermediul chatboturilor și rezumatelor integrate în căutările Google crește, evaluarea critică și dezvoltarea unor abordări mai echilibrate în sfaturile interpersonale devin vitale.
Sursa: Descopera
