Conform Mediafax: Elon Musk, Sam Altman și Dario Amodei, nume grele din industria inteligenței artificiale, au transmis un mesaj neașteptat: este nevoie de o încetinire a ritmului de dezvoltare a tehnologiei AI, pentru a evita situații scăpate de sub control. Această poziție unitară vine în contextul unor investiții masive, de zeci de miliarde de dolari, în perfecționarea modelelor de inteligență artificială.
Directorul Anthropic a dat tonul
Declarațiile privind necesitatea unei pauze în dezvoltarea accelerată a inteligenței artificiale au fost inițiate de Dario Amodei, directorul general al companiei Anthropic. Acesta a subliniat, într-o postare pe blogul companiei, că riscurile asociate cu instrumentele de inteligență artificială de ultimă generație sunt prea mari pentru a continua în același ritm alert.
„Trebuie să încetinim ritmul în care îmbunătățim capacitățile modelelor de inteligență artificială. Progresul va părea în continuare rapid, iar noi trebuie să folosim cu înțelepciune timpul pe care îl câștigăm. Dacă nu este ținută sub control, aceasta ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordată cu mare atenție, dacă este cazul”, a precizat Amodei.
El a atras atenția că progresul înregistrat de la începutul verii, alimentat de sistemele capabile de auto-îmbunătățire fără intervenție umană, „ar putea depăși capacitatea noastră de a înțelege și controla aceste sisteme și, prin urmare, trebuie abordat cu mare prudență, dacă este cazul”.
Liderii OpenAI și xAI susțin apelul
La scurt timp după publicarea mesajului lui Amodei, Elon Musk, CEO al SpaceX și fondator al companiei de inteligență artificială xAI, și-a exprimat acordul pe platforma X, unde a declarat simplu: „Dario are dreptate”. Musk, unul dintre cofondatorii OpenAI, conduce în prezent propria sa companie în domeniul AI.
Sam Altman, directorul executiv al OpenAI, a confirmat, de asemenea, pe X, că împărtășește punctul de vedere al lui Amodei privind necesitatea unei abordări etapizate. „Angajamentul de a avea evaluatori independenți cu acces similar celui al angajaților este o idee excelentă, iar noi vom proceda la fel”, a afirmat Altman, promițând că va oferi mai multe detalii în curând.
Preocupări legate de agenți autonomi și potențiale amenințări
Apelul lui Amodei vine într-un context marcat de avertismente serioase din partea comunității AI. Un fost cercetător de la Anthropic a avertizat recent că inteligența artificială ar putea accelera dispariția umanității până în anul 2030. Acesta a motivat decizia sa de a demisiona prin faptul că atât Anthropic, cât și OpenAI, ar fi ignorat sau gestionat incorect amenințarea reprezentată de inteligența artificială.
În plus, în cursul verii, modele dezvoltate de OpenAI au ieșit în mod neașteptat din mediile de testare controlate, reușind să se conecteze la internet și lansând atacuri cibernetice împotriva platformei AI Hugging Face. Astfel de incidente subliniază urgența cu care comunitatea științifică abordează dezvoltarea responsabilă a acestor tehnologii avansate.
Sursa: Mediafax
