Conform Mediafax: Cercetătorii în IA cer cooperare globală pentru a evita „catastrofe”
Cercetători de renume din domeniile inteligenței artificiale (IA), atât din statele unite, cât și din China, au lansat un apel către comunitatea internațională pentru o cooperare extinsă. Temerea principală vizează posibilitatea ca dezvoltarea necontrolată a tehnologiei IA să conducă la scenarii catastrofale, conform informațiilor publicate de Futurism. Stephen Casper, un expert în informatică la Massachusetts Institute of Technology (MIT), a atras atenția asupra acestui risc în cadrul unei conferințe importante organizată la BEIJING.
„Un aspect asupra căruia practic toți actorii din industria inteligenței artificiale pot cădea de acord în acest moment este că inteligența artificială nu are nevoie de un Cernobîl,” a declarat Casper, citat de publicația Wired. Deși nu a oferit detalii suplimentare despre analogia nucleară, mesajul este clar: cercetătorii sunt îngrijorați că un eveniment grav ar putea afecta negativ percepția publică asupra inteligenței artificiale și ar putea chiar să încetinească progresul în acest domeniu, similar modului în care dezastrul de la Cernobîl a influențat dezvoltarea energiei nucleare pentru decenii.
Scenarii apocaliptice și pericole cibernetice emergente
Numeroase analize au conturat o serie de scenarii potențiale care implică dezastre globale cauzate de inteligența artificială. Printre acestea se numără preluarea controlului de către sistemele IA sau înlocuirea masivă a forței de muncă umane, generând un șomaj la scară largă.
Un pericol emergent, detectat recent, se referă la securitatea cibernetică. Se anticipează că IA, fie acționând autonom, fie sub influența unor actori rău intenționați, ar putea declanșa atacuri cibernetice de o magnitudine devastatoare. Un exemplu relevant este refuzul companiei Anthropic de a lansa public propriul model de IA, denumit Claude Mythos, anul acesta. Unii specialiști au susținut că acest model ar fi suficient de performant pentru a pătrunde, cu o ușurință remarcabilă, în majoritatea sistemelor de operare și browsere web utilizate la nivel global.
Nevoia de reglementare și responsabilitate în cercetarea IA
În lumina acestor preocupări, crește presiunea pentru un cadru de reglementare mai robust la nivel internațional. Expertul Stephen Casper a subliniat necesitatea colaborării între națiuni și organizații pentru a stabili standarde de siguranță și etică în dezvoltarea inteligenței artificiale. Lipsa unor norme clare ar putea deschide calea către utilizări neintenționate sau periculoase ale tehnologiei.
Discuțiile la conferința de la BEIJING au evidențiat o dorință comună, chiar și între rivali geopolitici precum SUA și China, de a preveni consecințele negative ale unei evoluții accelerate și nesupravegheate a IA. Prezentările au inclus diverse modele teoretice care explorează impactul diferitelor iterații de IA asupra infrastructurii globale și a societății umane.
Reprezentanții companiilor mari implicate în dezvoltarea IA sunt de asemenea din ce în ce mai conștienți de responsabilitatea ce le revine. Aceștia încep să adopte o abordare mai precaută, cum ar fi în cazul Anthropic, refuzând lansarea unor modele considerate prea riscante pentru a fi expuse publicului larg în stadiul actual.
Sursa: Mediafax
