Personaje virtuale create de inteligența artificială (IA), extrem de realiste, ar putea influența în curând opinia publică și să afecteze sistemele democratice, avertizează cercetătorii. Un studiu recent publicat într-o revistă de specialitate detaliază modul în care aceste personaje, controlate de IA, pot imita comportamentul uman online. Ele pot interacționa în comunități digitale, participând la discuții și influențând punctele de vedere cu o viteză remarcabilă.
Cum funcționează aceste personaje virtuale
Spre deosebire de rețelele anterioare de boți, noile generații de agenți IA se pot coordona instantaneu, pot răspunde la feedback și pot menține narațiuni coerente pe mii de conturi. Progresele rapide în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent au făcut posibil ca un singur operator să poată gestiona rețele vaste de „voci” ale IA. Aceste personaje pot părea autentice, adaptând limbajul și tonul la contextul local și interacționând într-un mod natural pentru ceilalți utilizatori.
Aceste sisteme sunt capabile să efectueze milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare. Astfel, ele își pot rafina strategiile de comunicare în timp real, generând ceea ce pare a fi un consens public larg. În realitate, acest consens este creat artificial și conceput pentru a influența discuțiile politice.
Riscurile generate de deepfake-uri și știri false
Deși roiurile de IA complet dezvoltate sunt încă în mare parte teoretice, cercetătorii spun că există deja semne de avertizare. Acestea includ deepfake-uri generate de IA și surse de știri false care au influențat recentele discuții electorale în țări precum Statele Unite, Taiwan, Indonezia și India, potrivit informaticianului dr. Kevin Leyton-Brown.
Organizațiile de monitorizare au identificat, de asemenea, rețele pro-Kremlin care răspândesc cantități mari de conținut online. Se crede că această activitate are ca scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial modul în care aceste sisteme se comportă și ce informații prioritizează.
Impactul asupra democrației
Experții avertizează că aceste „roiuri” de IA ar putea afecta semnificativ echilibrul de putere în societățile democratice. Dr. Leyton-Brown a avertizat că aceste sisteme vor schimba probabil modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
Dezvoltarea acestor tehnologii ridică multiple semne de întrebare cu privire la viitorul dezbaterilor publice și al proceselor democratice, pe măsură ce încrederea în sursele de informații este subminată.
Sursa: Mediafax
