Conform Mediafax: Dezbaterea privind riscurile existențiale ale inteligenței artificiale (AI) a căpătat amploare după ce cercetătorul Jacob Coxon de la compania Anthropic a anunțat, la începutul lunii septembrie, că părăsește firma invocând teama că sistemele AI ar putea scăpa de sub control. Postarea sa a generat peste 100 de milioane de vizualizări într-o singură zi. Ulterior, Evan Hubinger, responsabil pentru alinierea sistemelor AI la valorile umane la Anthropic, a estimat că riscul extincției umane în următorul deceniu ar putea depăși 10%. Directorul general al Anthropic, Dario Amodei, a cerut, la rândul său, încetinirea ritmului de dezvoltare a sistemelor AI de vârf, o poziție susținută public și de Sam Altman (OpenAI) și Elon Musk (xAI).
Cum ar putea AI să devină o amenințare existențială
Scenariile invocate de cercetătorii preocupați de riscul existențial pornesc de la premisa că sistemele viitoare ar putea depăși semnificativ capacitățile umane, iar obiectivele lor ar putea să nu fie aliniate cu interesele omenirii. Un exemplu clasic este cel în care o superinteligență, însărcinată cu o sarcină aparent banală, ar putea să o urmărească într-un mod ce intră în conflict cu supraviețuirea umană. Alte posibilități includ utilizarea sistemelor AI avansate pentru dezvoltarea de arme biologice sau pentru acțiuni cu efecte catastrofale. Cu toate acestea, unii experți, precum Michael Vermeer de la RAND, consideră că o parte din aceste predicții se bazează pe prea multe presupuneri neverificabile, transformând discuția mai mult într-o chestiune de credință decât de empirism.
Riscuri mai apropiate și mai concrete
O analiză RAND, citată de revista Nature, a examinat scenarii mai concrete, asociate cu armele nucleare, biotehnologia și modificarea atmosferei. Cercetătorii au concluzionat că extincția completă provocată de arme nucleare nu este fezabilă în scenariile analizate, însă alte două tipuri de scenarii nu au putut fi excluse. Un factor important este timpul necesar pentru producerea unui dezastru, precum și capacitatea unui sistem AI de a interacționa fizic cu lumea, ceea ce ar putea permite detectarea și oprirea acțiunilor sale înainte de a ajunge la un punct ireversibil. În schimb, cercetătorii specializați în siguranța AI atrag atenția asupra unor riscuri mai imediate și concrete: dezinformarea, atacurile cibernetice, facilitarea dezvoltării armelor biologice, erorile în sisteme critice și utilizarea unor modele AI în situații în care lipsa lor de fiabilitate poate avea consecințe grave.
Modele AI cu capacități îngrijorătoare
Companiile producătoare de AI au publicat în ultimele săptămâni propriile evaluări ale riscurilor. Anthropic a semnalat că modelele sale pot executa sarcini din domeniul informațiilor militare și al dezvoltării de arme convenționale la un nivel comparabil cu cel al experților umani, subliniind necesitatea unor sisteme de protecție suplimentare. OpenAI a raportat că modelul GPT-6 Astra a atins un nivel „critic” în securitatea cibernetică, fiind capabil să identifice vulnerabilități necunoscute și să conceapă metode de exploatare a sistemelor protejate, motiv pentru care au fost implementate măsuri sporite de monitorizare și izolare.
Solicitările de încetinire a dezvoltării
Dario Amodei susține că dezvoltarea AI trebuie „ritmată” pentru ca măsurile de siguranță să poată ține pasul cu evoluția capacităților modelelor. Anthropic a inițiat un program prin care evaluatori independenți vor avea acces la companie pentru a verifica practicile de securitate, în parteneriat cu Accenture, cu o investiție comună estimată la cel puțin un miliard de dolari în următorii cinci ani. OpenAI pledează pentru standarde internaționale în evaluarea riscurilor, păstrarea controlului uman și stabilirea unor condiții clare pentru încetinirea sau oprirea dezvoltării sistemelor avansate.
Opoziție față de încetinire și lipsa unui cadru global
Totuși, nu există un consens în industrie privind ritmul limitării dezvoltării AI. Președintele american Donald Trump s-a opus public solicitărilor de încetinire. În Congresul american, însă, există inițiative precum propunerea legislativă a senatorului Bernie Sanders și congresmanului Greg Casar, care ar interzice dezvoltarea „superinteligenței artificiale” și ar impune o pauză temporară în dezvoltarea sistemelor avansate până la stabilirea unor reguli federale de siguranță. La nivel global, lipsește un cadru unic de reglementare, iar competiția tehnologică dintre Statele Unite și China complică eforturile de coordonare internațională.
Datele disponibile în prezent nu permit o concluzie științifică certă privind distrugerea umanității de către AI, deși nici ipoteza unei catastrofe existențiale nu poate fi exclusă complet, gradul de risc rămânând subiect de intensă dezbatere. Este documentat faptul că modelele AI devin din ce în ce mai capabile în domenii precum programarea, cercetarea, securitatea cibernetică și analiza problemelor complexe. OpenAI și Anthropic afirmă că AI accelerează chiar procesul de dezvoltare a următoarelor generații de sisteme, alimentând discuțiile despre implicarea AI în propria sa evoluție. Pentru cercetători, provocarea constă nu doar în posibilitatea unui scenariu apocaliptic, ci și în cât de bine pot fi măsurate și controlate riscurile înainte ca sistemele să depășească cu mult puterea celor actuale.
Sursa: Mediafax
