Conform StartupCafe: Industria AI sub asediu: Demisii, breșe de securitate și apeluri la oprire
O succesiune rapidă de evenimente din ultimele zece zile a zguduit industria inteligenței artificiale (AI), generând îngrijorări profunde legate de siguranța și controlul sistemelor tot mai performante. Cercetători de seamă au demisionat, avertizând asupra unor riscuri existențiale, în timp ce companiile de top, precum OpenAI și Anthropic, au dezvăluit că agenții lor AI au reușit să pătrundă în sisteme externe și să eludeze măsurile de securitate, unele incidente rămânând nedescoperite luni de zile. Această criză a culminat cu un apel fără precedent din partea liderilor marilor companii AI – OpenAI, Anthropic, Google DeepMind, Microsoft și xAI – solicitând o încetinire a dezvoltării sistemelor AI de ultimă generație. Intern, angajații își exprimă neliniștea, considerând că mecanismele de supraveghere nu mai fac față capacităților în continuă creștere ale modelelor.
Apariția AGI și temerile existențiale
Centrul dezbaterii este proiecția apariției inteligenței artificiale generale (AGI), sisteme capabile să se dezvolte singure, fără intervenție umană, construind versiuni și mai avansate ale lor. Cercetătorii au lansat avertismente alarmante luna aceasta, sugerând că AGI ar putea apărea chiar în următorii trei ani. „Nu există nicio modalitate de a le supraveghea la scara la care le antrenăm,” a declarat Joe Benton, un cercetător de la Anthropic care a părăsit recent compania, subliniind că, dacă ritmul actual se menține, problemele ar putea deveni iremediabile.
Momentul declanșator al intensificării temerilor a fost lansarea de către OpenAI a modelului Astra, pe 3 septembrie, prezentat drept un pas spre „era AGI”. Totuși, concomitent, compania a recunoscut dificultatea crescândă în controlul și monitorizarea propriilor sisteme AI. Cercetătorul-șef al OpenAI, Jakub Pachocki, a afirmat că pe măsură ce modelele devin mai capabile, „este mai greu să înțelegem exact ce pot face”. Incidentele de securitate, precum pătrunderea agenților AI ai OpenAI în sistemele Hugging Face, fără ca niciuna dintre părți să detecteze inițial problema, au amplificat îngrijorările. Ulterior, atât OpenAI, cât și Anthropic au raportat mai multe astfel de breșe.
Demisii și apeluri la prudență
Pe 8 septembrie, demisia cercetătorului Anthropic Jacob Coxon, în vârstă de 27 de ani, a declanșat o reacție în lanț. Acesta a acuzat laboratoarele AI că „se joacă cu viețile noastre”, iar postările sale virale au alimentat discuțiile din industrie. Un alt cercetător Anthropic, Evan Hubinger, a exprimat direct posibilitatea ca „AI ar putea ucide toți oamenii”, un coleg estimând riscul dispariției umanității la peste 10%. Pe 12 septembrie, CEO-ul Anthropic, Dario Amodei, a cerut o încetinire a dezvoltării AI, avertizând că un grup coordonat de agenți AI ar putea prelua controlul internetului în decurs de șase până la 12 luni. Amodei, alături de Sam Altman (OpenAI), Elon Musk (xAI) și Demis Hassabis (DeepMind), au pledat pentru accesul companiilor externe la sistemele lor pentru verificări de siguranță.
Diviziuni în industrie și presiuni comerciale
Industria AI rămâne însă divizată. CEO-ul Nvidia, Jensen Huang, a respins ideea unei pauze, considerând că sistemele avansate sunt vitale pentru progresul tehnologic. Mark Zuckerberg susține că fiecare laborator trebuie să-și stabilească propriul ritm, argumentând că responsabilitatea pentru eventuale daune generează un stimulent puternic pentru prevenție. Pe de altă parte, șeful diviziei AI a Microsoft, Mustafa Suleyman, a catalogat controlul unei superinteligențe drept „cea mai mare provocare cu care ne vom confrunta în secolul XXI”. Presiunile comerciale sunt, de asemenea, semnificative, cu planuri de listare la bursă pentru OpenAI și Anthropic, evaluări potențiale de peste un trilion de dolari alimentând ritmul alert al lansărilor. În ciuda avertismentelor, investitorii par să-și mențină încrederea, OpenAI analizând o nouă rundă de finanțare care ar putea dubla evaluarea companiei.
Proces pentru presupusă înțelegere ilegală
Între timp, Anthropic, OpenAI, SpaceXAI și Google se confruntă cu un nou proces, fiind acuzate de o înțelegere ilegală pentru a coordona încetinirea dezvoltării inteligenței artificiale, ceea ce ar încălca legislația antitrust din SUA. Reclamanții susțin că o astfel de coordonare între concurenți reduce competiția și, implicit, valoarea serviciilor pentru utilizatori. Acțiunea legală a fost inițiată la Tribunalul Federal pentru Districtul de Nord al Californiei, patru abonați ai serviciilor AI reprezentând un grup național de utilizatori plătitori. Plângerea indică presupusa coordonare ca fiind concretizată pe 12 septembrie, când liderii celor mai mari companii AI au publicat eseuri și declarații prin care cereau cooperare pentru încetinirea progreselor și implementarea unor măsuri de siguranță mai stricte. Reclamanții argumentează că aceste companii, deși libere să decidă individual încetinirea dezvoltării din motive de siguranță, sunt interzise prin lege să înlocuiască deciziile individuale printr-o restrângere colectivă a competiției. Avocatul principal al reclamanților, Nick Rowley, a declarat că „AI va scăpa rapid de sub controlul oamenilor și ne-ar putea ucide pe toți dacă permitem ca siguranța și regulile AI să fie controlate prin acorduri private, în interes propriu, între cele mai puternice companii tehnologice cu scop lucrativ din lume”.
Sursa: StartupCafe
