Conform Mediafax: Noul Youth AI Safety Institute, un organism independent dedicat evaluării riscurilor aplicațiilor de inteligență artificială pentru minori, va fi prezentat oficial marți la Copenhaga. Inițiativa este susținută de personalități importante precum președinta Comisiei Europene, Ursula von der Leyen, și fostul secretar de stat american Hillary Clinton. Obiectivul principal al institutului este să acorde calificative aplicațiilor de AI, în funcție de potențialele pericole la care pot fi expuși copiii.
Evaluări axate pe conținut și comportamente periculoase
Experții implicați în acest proiect intenționează să se concentreze inițial pe identificarea și analizarea conținutului și a comportamentelor considerate dăunătoare pentru tineri. Acestea includ încurajarea automutilării, promovarea tulburărilor alimentare și recomandările periculoase generate de inteligența artificială. Coordonarea proiectului este asigurată de organizația americană Common Sense Media, cunoscută pentru sistemele sale de clasificare a conținutului digital pentru copii. Bruce Reed, responsabil pentru politica AI în cadrul organizației și fost consilier al administrației Joe Biden, a declarat că evaluările vor urmări „cele mai grave riscuri” pentru minori.
Europa și discuțiile despre restricții digitale pentru copii
Lansarea institutului vine într-un context european în care se discută intensificarea măsurilor de protecție a minorilor în mediul online. Mai multe state membre examinează posibilitatea impunerii unor restricții privind accesul copiilor la platformele digitale și rețelele sociale. Un sondaj realizat de Politico arată că trei din patru europeni susțin introducerea unei vârste minime pentru utilizarea rețelelor sociale. Comisia Europeană a inclus protecția copiilor online ca o prioritate în noul mandat, analizând inclusiv noi reguli pentru a controla aplicațiile AI conversaționale și companionii virtuali, în baza legislației europene privind serviciile digitale.
Finanțare mixtă din industrie și donații private
Youth AI Safety Institute este finanțat din donații private și din fonduri provenite din industria tehnologică. Printre contributorii financiari se numără companii precum Anthropic, Pinterest și fundația OpenAI. Organizatorii au subliniat că finanțarea nu va influența rezultatele evaluărilor efectuate de institut. În proiect sunt implicate și laboratoarele de cercetare Stanford Brainstorm, organizația Humane Intelligence și compania de cercetare Transluce.
Sursa: Mediafax
