Un model de inteligență artificială (AI) destinat securității cibernetice, dezvoltat de compania Anthropic și numit Mythos AI, a fost accesat de utilizatori neautorizați, în ciuda faptului că se afla într-un stadiu de testare restrâns. Incidentul a ridicat semne de întrebare cu privire la securitatea tehnologiilor AI în stadiu de dezvoltare și la riscurile asociate cu accesul neautorizat la acestea. Modelul se afla într-un program intern de testare, dedicat unor companii selectate.
Cum a fost accesat modelul
Potrivit informațiilor disponibile, accesul la Mythos AI a fost facilitat de un furnizor terț implicat în testare. Utilizatorii neautorizați, care făceau parte dintr-un grup interesat de modele AI nelansate public, au reușit să obțină acces prin intermediul unui forum online privat. Nu doar că au pătruns în sistem, dar au folosit modelul în mod repetat. Acest lucru subliniază vulnerabilitățile potențiale ale sistemelor aflate în stadiu de testare și importanța unor măsuri de securitate riguroase.
Reacția companiei Anthropic
Un purtător de cuvânt al Anthropic a confirmat că firma investighează situația. Până în prezent, compania a transmis că nu există dovezi care să indice că infrastructura sa internă a fost compromisă. Anthropic a avertizat anterior că tehnologia Mythos AI, datorită capacităților sale avansate în domeniul securității cibernetice, „poate genera riscuri fără precedent” dacă ajunge în mâini nepotrivite. Modelul este testat în cadrul unui program intern numit Project Glasswing, care implică doar un număr limitat de parteneri din tehnologie și sectorul financiar.
Implicațiile pentru companii
Printre companiile care testează modelul Mythos AI se numără nume mari precum Amazon, Apple și JPMorgan Chase. De asemenea, instituții financiare precum Goldman Sachs, Citigroup, Bank of America și Morgan Stanley sunt implicate în testarea tehnologiei. Modelul este utilizat în principal pentru identificarea vulnerabilităților informatice și consolidarea sistemelor de securitate. Incidentul ar putea genera preocupări în rândul acestor companii, cu privire la securitatea datelor și a sistemelor lor informatice.
Compania Anthropic continuă investigațiile legate de acest incident.
Sursa: Mediafax
