Conform HotNews: Un nou studiu publicat de cercetători de la Universitatea Milano-Bicocca, Ecole Normale Superieure și Universitatea Sapienza din Roma avertizează asupra unui efect neașteptat al interacțiunii cu chatbot-urile AI: slăbirea capacității cognitive de a recunoaște propriile limite informaționale. Mai exact, simpla prezență a unui asistent AI pare să diminueze probabilitatea ca o persoană să spună „nu știu”, chiar și atunci când răspunsurile furnizate de inteligența artificială sunt incorecte.
Efectul AI asupra încrederii în răspunsuri
Studiul a implicat cinci experimente cu peste 3.000 de participanți, cărora li s-au adresat întrebări specifice, inclusiv detalii vizuale din filme, informații pe care modelele lingvistice sunt predispuse să le „halucineze” – adică să le inventeze cu convingere. Un aspect crucial al metodologiei a fost utilizarea unui model AI configurat să greșească în mod frecvent, tocmai pentru a elimina posibilitatea ca participanții să fie influențați de competența generală a sursei.
Rezultatele au fost notabile: în absența accesului la AI, aproximativ 44% dintre participanți au preferat să admită că nu cunosc răspunsul. Când au avut posibilitatea să consulte chatbot-ul, procentul celor care au ales să spună „nu știu” a scăzut dramatic la 3%. În paralel, acuratețea răspunsurilor furnizate de oameni a scăzut considerabil, în timp ce încrederea în propriile judecăți a aproape dublat. Participanții au fost mai predispuși să răspundă, au greșit mai des, dar au manifestat o certitudine sporită în corectitudinea lor.
Valerio Capraro, profesor asociat la Universitatea Milano-Bicocca și co-autor al studiului, a subliniat: „Oamenii au devenit mult mai slabi la această sarcină: acuratețea lor a fost de doar o treime față de cei fără AI, însă erau de două ori mai încrezători în răspunsurile lor”.
Metacogniția, o barieră subminată de AI
Cercetătorii au pus accent pe impactul AI asupra metacogniției, definită ca abilitatea de a evalua propriile cunoștințe și de a determina când informația este suficientă pentru a formula un răspuns. Metacogniția este mecanismul care ne permite să distingem între certitudine („știu”), probabilitate („cred că știu”) și incertitudine („nu știu”). Lipsa unei metacogniții funcționale ne face mai vulnerabili la erori și la adoptarea rapidă a unor concluzii, chiar și atunci când acestea sunt greșite.
Studiul sugerează că inteligența artificială poate „halucina” răspunsuri, similar modului în care o fac și modelele AI, adică prin generarea unor afirmații false, dar prezentate cu un grad ridicat de siguranță. Această capacitate de a genera text fluent și coerent, fără ezitări, poate crea o falsă impresie de corectitudine. Creierul uman, în loc să verifice veridicitatea informației, poate confunda aparența de siguranță cu dovada acurateței.
Încrederea în formulare, nu în conținut
Factorul declanșator al acestei aparente încrederi nu este neapărat corectitudinea informațiilor furnizate de AI, ci modul convingător în care acestea sunt prezentate. Chatbot-urile scriu fluent și coerent, iar această aparentă siguranță poate fi confundată de către utilizatori cu o dovadă a veridicității. Astfel, oamenii ajung să accepte răspunsurile AI nu pentru că le-au verificat, ci pentru că acestea par plauzibile și bine formulate.
Spre deosebire de un om care poate suspenda judecata și admite incertitudinea, un model lingvistic este proiectat să genereze un răspuns la majoritatea întrebărilor, chiar dacă informațiile sunt incomplete. Prin delegarea frecventă a deciziilor către sisteme care rareori recunosc limitele, există riscul ca utilizatorii să adopte un comportament similar. Mai mult, studiul indică faptul că AI-ul i-a determinat pe participanți să renunțe la propriile răspunsuri corecte, înlocuindu-le cu judecăți greșite, dar exprimate cu suficientă siguranță pentru a părea credibile. Această dinamică este cu atât mai surprinzătoare cu cât, în mod normal, oamenii manifestă un scepticism natural față de informațiile contradictorii.
Sursa: HotNews
