Conform Mediafax: ONU lansează un avertisment urgent privind dezvoltarea necontrolată a inteligenței artificiale (IA). Înaltul Comisar al ONU pentru Drepturile Omului, Volker Turk, a cerut luni, la Geneva, la deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului, instituirea rapidă a unui sistem de guvernanță pentru IA, subliniind că sistemele tot mai autonome ar putea depăși capacitatea oamenilor de a le controla.
Riscuri de autonomie excesivă și șantaj
Volker Turk a avertizat că o inteligență artificială care „evadează din mediul său de testare sau care îi șantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligență artificială mult prea puternică”. El a accentuat necesitatea unor „garanții solide privind siguranța și securitatea IA, înainte să fie prea târziu”. Modelele generative actuale sunt deja capabile să execute sarcini complexe și să ia decizii fără intervenție umană constantă, identificând singure pașii necesari pentru îndeplinirea unei sarcini, ceea ce ridică probleme serioase legate de supravegherea și limitarea comportamentului lor.
„Linii roșii” comune pentru dezvoltarea IA
Comisarul ONU a propus stabilirea unor „linii roșii” comune pentru dezvoltarea și utilizarea inteligenței artificiale, în special pentru statele care găzduiesc infrastructura de IA și cele implicate în lanțurile de aprovizionare. El a solicitat, de asemenea, verificarea independentă a sistemelor de IA și o cooperare sporită între companiile din industrie în ceea ce privește siguranța. Volker Turk a anunțat intenția de a trimite o scrisoare companiilor din sector, îndemnându-le să ia măsuri pentru reducerea riscurilor.
Impactul asupra locurilor de muncă, democrației și drepturilor fundamentale
Pe lângă riscurile legate de autonomia excesivă, ONU atrage atenția asupra impactului IA asupra vieții de zi cu zi. Volker Turk a cerut evaluarea atentă a efectelor tehnologiei asupra pieței muncii, democrației, mediului și drepturilor fundamentale. A fost criticată concentrarea puterii tehnologice în mâinile unui număr restrâns de companii și persoane, subliniindu-se că dezvoltarea IA trebuie să fie însoțită de reglementări care să protejeze drepturile omului.
Exemple de reglementări și avertismentul unui „risc existențial”
Oficialul ONU a menționat ca exemple pozitive măsurile adoptate de Uniunea Europeană și Coreea de Sud. În UE, Digital Services Act (DSA) impune marilor platforme online să evalueze și să reducă riscurile generate de serviciile și algoritmii lor, să asigure transparența și să combată conținutul ilegal, cu amenzi de până la 6% din cifra de afaceri globală pentru nereguli. Coreea de Sud a introdus, de asemenea, reguli specifice IA, inclusiv obligația de a informa utilizatorii atunci când interacționează cu astfel de sisteme și cerințe de transparență pentru conținutul generat artificial. Cu toate acestea, Volker Turk a avertizat că recunoașterea necesității unor reglementări nu s-a tradus încă suficient în măsuri concrete, afirmând: „Împărtășesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existențial pentru umanitate”.
Sursa: Mediafax
