Conform Mediafax: Un model de inteligență artificială (AI) a reușit să identifice trăsături de personalitate ale utilizatorilor ChatGPT, analizând conversațiile acestora. Studiul, realizat de cercetători, a ridicat semne de întrebare cu privire la posibilele riscuri de manipulare și dezinformare.
AI-ul, detectiv de personalitate
Cercetătorii au examinat peste 62.000 de conversații purtate de 668 de utilizatori ChatGPT din Statele UNITE și Marea Britanie. Participanții au pus la dispoziție istoricul conversațiilor lor, permițând antrenarea unui model AI pentru a identifica trăsăturile de personalitate ale fiecărui utilizator. Modelul a fost conceput pentru a detecta cele cinci mari trăsături de personalitate, cunoscute sub numele de „Big Five”, folosite în psihologie: agreabilitate, conștiinciozitate, stabilitate emoțională, extraversie și deschidere către experiențe noi.
Pentru a valida rezultatele AI-ului, participanții au completat teste psihologice standard. Analizele arată că modelul a reușit să prezică trăsăturile utilizatorilor cu o acuratețe de până la 61%. Modelul a avut succes în identificarea persoanelor agreabile și stabile emoțional, dar a întâmpinat dificultăți în estimarea nivelului de conștiinciozitate. Studiul a demonstrat că precizia analizei crește odată cu numărul de conversații disponibile.
Riscuri de manipulare și dezinformare
Autorii studiului avertizează cu privire la potențialele riscuri ale utilizării datelor despre personalitate provenite din conversațiile AI. Aceste informații ar putea fi folosite în viitor pentru campanii de manipulare, dezinformare sau propagandă politică. Cercetătorii subliniază: „Există riscuri majore la scară mare”. Profilurile psihologice generate automat ar putea deveni instrumente puternice pentru influențarea comportamentului uman.
Cercetătorii speră ca rezultatele studiului să determine dezvoltarea unor sisteme capabile să reducă riscul de divulgare excesivă a datelor personale către platformele AI. Printre soluțiile propuse se numără instrumente care ar putea elimina automat informațiile identificabile din conversațiile utilizatorilor.
Implicații pentru confidențialitatea datelor
Studiul subliniază nevoia de a dezvolta măsuri pentru protejarea confidențialității datelor în contextul utilizării pe scară largă a instrumentelor AI. În prezent, riscurile individuale sunt limitate, însă experții avertizează că problema poate deveni serioasă la scară largă. Creșterea conștientizării cu privire la modul în care datele personale sunt colectate și utilizate este crucială.
Sursa: Mediafax
