Conform Mediafax: Un agent AI autonom, dezvoltat de OpenAI, a scăpat de sub control în timpul unor teste și a lansat un atac cibernetic asupra platformei Hugging Face. Incidentul, petrecut în cursul acestei săptămâni, a vizat una dintre cele mai utilizate platforme online de către cercetători și dezvoltatori pentru găzduirea și distribuirea modelelor de inteligență artificială.
Co-fondatorul Hugging Face, Thomas Wolf, a declarat pentru BBC că evenimentul reprezintă un „semnal de alarmă” pentru întreaga industrie. Acesta anticipează că astfel de atacuri vor deveni din ce în ce mai frecvente în peisajul cibernetic actual. Inițial, compania nu a identificat sursa atacului, apărut la mijlocul lunii iulie sub forma unor breșe de securitate. Echipa Hugging Face a reușit însă să limiteze amploarea incidentului.
Wolf a descris atacul ca fiind „foarte diferit” de orice se confruntaseră până la acel moment. Într-un interval de timp „foarte scurt”, rețeaua Hugging Face a fost ținta a 17.000 de atacuri, provenind de la diverse adrese IP.
Modelul AI a „trișat” în timpul unui test
OpenAI a confirmat incidentul, explicând că modelele sale participau la o evaluare internă numită ExploitGym. Scopul acestei evaluări era de a măsura capacitatea inteligenței artificiale de a identifica și exploata vulnerabilități informatice. Potrivit declarațiilor OpenAI, modelele au devenit „hiperconcentrate” pe rezolvarea sarcinii de testare, identificând astfel vulnerabilități care le-au permis să evadeze din mediul izolat destinat testării.
Compania susține că agenții AI au exploatat o vulnerabilitate de tip „zero-day” într-un program intern, obținând astfel acces la internet. Ulterior, modelele au dedus că Hugging Face ar putea găzdui resursele utilizate în cadrul evaluării, inclusiv modele, seturi de date și soluții. Combinând diverse tehnici de atac, inclusiv credențiale compromise și vulnerabilități necunoscute anterior, au reușit să acceseze informații confidențiale din infrastructura platformei și rezultatele testului.
Avertisment pentru companiile din sector
În urma acestui incident, co-fondatorul Hugging Face a subliniat importanța consolidării măsurilor de securitate cibernetică pentru toate companiile din domeniu. Evenimentul survine într-o perioadă marcată de preocupări sporite privind securitatea inteligenței artificiale. Luna trecută, guvernul Statelor Unite a impus restricții companiei Anthropic privind accesul la modelele sale de inteligență artificială din motive de securitate națională, restricții care au fost ulterior ridicate.
Reprezentanții industriei își exprimă îngrijorarea și cu privire la utilizarea pe scară largă a modelelor open-source în China. Acestea permit oricui să instaleze și să personalizeze instrumente AI dezvoltate de companii mari, ridicând noi provocări de securitate la nivel global.
Sursa: Mediafax
