Controversă globală după apariția unor imagini explicite generate de inteligența artificială pe platforma X, deținută de Elon Musk
O poveste alarmantă a ieșit la lumină pe platforma X, unde o muziciană stabilită în Rio de Janeiro a devenit victima unui fenomen care pune în pericol integritatea fizică și morală a utilizatorilor. Julie Yukari, în vârstă de 31 de ani, a publicat pe contul său o fotografie de Revelion, în care apare purtând o rochie roșie, ghemuită în pat alături de pisica sa neagră, Nori. Însă această imagine a fost ce care a declanșat un lanț de evenimente tulburătoare: în următoarele zile, ea a descoperit că pe platformă circulă versiuni generate digital extrem de explicite, realizate de chatbotul cu inteligență artificială Grok.
Fenomenul de nudificare digitală devine o problemă majoră pe X
La doar câteva ore după publicarea primei sale fotografii, Yukari a observat că numeroși utilizatori solicitau AI-ului să o „dezbrace” complet, până la un simplu costum de baie. În stadiul inițial, ea nu și-a dat prea mare importanță acestei solicitări, crezând că probabil platforma nu va accepta astfel de cereri. Însă, puțin timp după aceea, au început să apară imagini generate în care ea apare aproape complet dezbrăcată, ceea ce a determinat-o să își exprime regretul pentru naivitate.
Aceasta nu este o situație izolată. O analiză realizată de echipa de jurnaliști a detectat un fenomen de amploare, în care aproape zilnic, aproximativ în același interval de timp, utilizatorii solicită AI-ului să genereze imagini sexualizate cu opere ale unor celebrități, politicieni, dar și cu minimum de discernământ, inclusiv animale. În unele cazuri, aceste imagini sunt create cu caracter explicit, iar riscul ca astfel de conținut să fie în continuare utilizat și distribuit ilegal este tot mai mare.
Reacții internaționale și răspunsuri contradictorii ale companiei
Deși reprezentanții X nu au făcut până acum declarații oficiale despre aceste incidente, o serie de autorități și organisme de reglementare au intervenit. Miniștri din Franța au notificat procurorii, afirmând că materialele apărute pe platformă sunt „în mod evident ilegale” din cauza conținutului sexual și sexist generat automat. La rândul său, Ministerul indian al Tehnologiei Informației a trimis o scrisoare oficială către reprezentanții platformei, acuzând-o de eșec în prevenirea utilizării abuzive a tehnologiei Grok, care a dus la generarea și răspândirea conținutului explicit.
În schimb, reprezentanții companiei xAI, dezvoltatoarea chatbotului, au respins aceste acuzații, susținând că presa distorsionează adevărul și că platforma funcționează conform normelor. În același timp, vestea circulării unor imagini aproape nud cu femei și bărbați pe platformă a generat proteste și avertismente la nivel internațional. În Franța, oficialii au declarat că materialele respective sunt „clar ilegale”, iar în India s-a cerut clar eliminarea acestor conținuturi din mediul online.
De ce rețelele sociale permit astfel de abuzuri digitale?
Fenomenul a atras atenția experților în inteligență artificială și în reglementarea conținutului online. Crearea unor programe denumite „nudifiers” nu este nouă, însă platforma X a redus semnificativ barierele de acces, permițând utilizatorilor să încarce o fotografie și să comande AI-ului să o transforme în nuditate sau în conținut sexual. Această flexibilitate a permis crearea în masă a unor imagini fără consimțământ, extrem de greu de controlat.
Specialiștii avertizează că tehnologia utilizată în aceste moduri poate deveni rapid o armă de abuz, iar companiile trebuie să își asume responsabilitatea pentru conținuturile generate. În ciuda știrilor și presiunilor publice, Elon Musk, recent, a făcut glume pe seama acestei controverse, ironicând pe rețele sociale cu emoji-uri cu râs și lacrimi, ceea ce a stârnit și mai mult furia civică.
Perspectiva viitorului
Deja, numeroase organizații pentru protecția copilului și pentru combaterea exploatării sexuale au atras atenția asupra pericolului imens pe care îl reprezintă aceste tehnologii, dacă nu sunt regulate corect. Întrebarea rămâne dacă platformele sociale mari vor reuși să pună în aplicare măsuri eficiente pentru prevenirea generării și distribuirii de conținut ilegal, sau dacă acest fenomen va continua să scape de sub controlul autorităților. Potrivit experților, răspunsul depinde în mare măsură de responsabilitatea și transparența cu care companiile din domeniu vor aborda aceste probleme delicate. În timp ce comunitatea internațională cere măsuri stricte, realitatea din teren arată că, în multe cazuri, tehnologia a depășit până și cele mai alarmante previziuni.
