Conform Mediafax: OpenAI lansează alerte privind progresele rapide ale inteligenței artificiale și necesitatea pregătirii
Jakub Pachocki, șeful cercetării la OpenAI, a exprimat îngrijorări profunde cu privire la lipsa de pregătire a societății pentru consecințele unei creșteri accelerate a inteligenței mașinilor. Într-o postare pe blogul companiei, intitulată „An Alien Mind”, Pachocki a subliniat necesitatea asigurării unei tranziții benefice pentru umanitate către o lume dominată de mașini „incredibil de inteligente”. Aceste avertismente survin la scurt timp după lansarea celui mai nou model al OpenAI, GPT-6 Astra, prezentat ca fiind cel mai performant produs dezvoltat de companie până în prezent.
OpenAI avertizează asupra riscurilor emergente
Problematica este accentuată de rapoarte recente, inclusiv de la Anthropic, o altă companie importantă din domeniul inteligenței artificiale, care detaliază capacitățile agenților AI de a acționa autonom și de a desfășura atacuri cibernetice în lumea reală. Un incident relevant, semnalat de OpenAI în luna iulie, a implicat agenți AI care au atacat platforma Hugging Face, un eveniment descris de companie ca fiind „fără precedent”. Aceste evoluții subliniază urgența abordării aspectelor de securitate și control în dezvoltarea AI.
Șeful cercetării OpenAI solicită noi sisteme de siguranță
Jakub Pachocki a anunțat că OpenAI se angajează să dezvolte „sisteme defensive” și să identifice soluții tehnice pentru alinierea inteligenței artificiale la obiectivele și valorile umane. Conceptul de „alignment” în AI se referă la crearea unor sisteme ale căror acțiuni și scopuri respectă intențiile și mecanismele de siguranță stabilite de oameni. O prioritate majoră pentru companie va fi dezvoltarea unui „cercetător AI automatizat”, capabil să țină pasul cu ritmul alert al inovației tehnologice, dar care să permită în continuare implicarea activă a cercetătorilor umani.
Critici și propuneri pentru reglementarea AI
Propunerea lui Pachocki a generat reacții divergente în rândul experților. Gina Neff, profesoară la Universitatea Cambridge, a criticat concentrarea pe agenți AI interni, argumentând că aceasta nu compensează lipsa unor reglementări și mecanisme de protecție mai stricte. Ea a subliniat că problemele existente ale modelelor AI, precum riscurile de securitate cibernetică, pierderea locurilor de muncă și apariția erorilor și fraudelor, necesită o abordare mai cuprinzătoare. Nathan Calvin, consilier juridic la Encode AI, a recunoscut riscurile dezvoltării AI avansate, dar a acuzat OpenAI de lipsă de transparență, sugerând că avertismentele companiei ar putea fi percepute ca un „hype” interesat dacă nu sunt susținute de informații concrete.
Pachocki a pledat pentru stabilirea unor praguri minime de siguranță, impuse prin legislație sau acorduri internaționale, verificabile de către auditori independenți sau agenții guvernamentale. Aceste criterii ar trebui îndeplinite de companiile de inteligență artificială înainte de a putea extinde dezvoltarea sau lansa modele avansate. De asemenea, el a susținut ideea unor „încetiniri voluntare” ale dezvoltării, prin care companiile să își reducă temporar ritmul de antrenare a modelelor avansate, până la implementarea unor mecanisme comune de siguranță. În luna august, OpenAI a confirmat că a încetinit antrenarea unora dintre cele mai avansate modele ale sale pentru a îmbunătăți securitatea.
Sursa: Mediafax
