Conform Mediafax: Inteligența artificială, deși promite să revoluționeze numeroase domenii, perpetuează și chiar accentuează prejudecățile de gen în poveștile pentru copii, arată un nou studiu. Cercetătorii au descoperit că modelele de inteligență artificială generative, folosite pentru a crea narațiuni despre animale vorbitoare, atribuie predominant gen masculin personajelor sau evită complet specificarea genului, diminuând drastic prezența feminină.
Prejudecăți amplificate de algoritmi
Oamenii își spun povești de mii de ani, utilizându-le pentru a înțelege lumea, a păstra memoria evenimentelor, a transmite tradiții, principii morale, cultură și pentru a oferi divertisment. Acum, însă, studiile indică faptul că inteligența artificială nu doar reproduce, ci și amplifică prejudecățile existente în materialele narative. Cercetătorii au solicitat șase modele de inteligență artificială generative majore, precum Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și modelul open-source Olmo 3, să creeze povești în limba engleză despre animale vorbitoare, fără a specifica genul acestora. Obiectivul era să se observe dacă IA va evita atribuirea unui gen sau dacă prejudecățile se vor manifesta.
Participare feminină marginală în poveștile IA
Rezultatele analizei a 23.800 de povești generate sunt îngrijorătoare. Personajele animale feminine au apărut în doar 2% dintre narațiunile create de IA. În contrast, personajele au fost descrise ca fiind de sex masculin în 41% din cazuri, în timp ce în 57% dintre povești, modelul a evitat complet atribuirea unui gen. Această tendință sugerează o amplificare a prejudecății, deoarece modelele IA reflectă datele pe care au fost antrenate. O analiză anterioară a 300 de cărți populare pentru copii a relevat că personajele masculine apar de două ori mai des decât cele feminine. În studiul recent, diferența este mult mai pronunțată, personajele feminine apărând în doar 513 povești, față de 9.673 de povești cu personaje masculine, o discrepanță de aproape 19 ori.
Avertisment asupra dependenței de date umane
Modelele de inteligență artificială generative au produs mai puține povești cu personaje animale feminine decât oamenii care au primit aceeași sarcină. Pe măsură ce IA devine un instrument tot mai frecvent utilizat în diverse activități, de la scriere și cercetare științifică, la programare și căutări pe internet, acest studiu servește drept un avertisment important. El subliniază că prejudecățile, dar și acuratețea acestor modele „inteligente”, depind în mod fundamental de informațiile furnizate de oameni.
Studiul a fost publicat în contextul utilizării crescânde a inteligenței artificiale în crearea de conținut.
Sursa: Mediafax
