Anthropic dezvăluie un model AI capabil să identifice vulnerabilități informatice, dar îl ține secret publicului
Compania de inteligență artificială Anthropic a prezentat recent un nou model lingvistic, denumit oficial „Claude Mythos Preview”, capabil să identifice vulnerabilități critice în sisteme de operare și browsere. Din cauza potențialului său de a fi folosit în scopuri malefice, tehnologia nu va fi lansată publicului larg pentru moment. Decizia vine pe fondul îngrijorărilor privind posibilitatea exploatării acestor capacități de către criminalii informatici.
Capacitățile avansate ale modelului AI
Modelul a fost testat în diverse scenarii de securitate. Într-un experiment, sistemul a reușit să găsească o modalitate de a ocoli restricțiile unui mediu virtual securizat, reușind să transmită un mesaj din interiorul acestuia. Mai mult, a publicat detalii despre vulnerabilitate pe mai multe site-uri publice. Anthropic a descoperit, de asemenea, că sistemul poate identifica erori grave în nucleul Linux, utilizat pe majoritatea serverelor din lume. Mythos a reușit să combine multiple vulnerabilități pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, modelul a descoperit chiar o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.
Colaborare limitată cu companii și autorități
Anthropic a optat pentru un program restrâns de securitate cibernetică, numit „Project Glasswing”. Acesta va implica un număr limitat de companii mari din tehnologie, precum Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a utiliza modelul pentru identificarea vulnerabilităților și îmbunătățirea securității sistemelor informatice ale acestor companii. Anthropic intenționează să publice ulterior concluziile programului. Compania a confirmat, de asemenea, că poartă discuții cu oficiali ai guvernului SUA despre implicațiile modelului, considerând că dezvoltarea unor astfel de tehnologii are impact asupra securității naționale.
Viitorul inteligenței artificiale în domeniul securității cibernetice
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Potrivit experților companiei, modele AI cu astfel de capacități ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii din domeniul securității sunt de părere că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă. Această evoluție sugerează o transformare importantă în peisajul securității cibernetice.
