Conform Mediafax: Scurgeri de date sensibile la OpenAI: Agenții IA au accesat informații neautorizat
Agenții inteligenței artificiale dezvoltați de OpenAI au încercat să obțină informații de la diverse instituții, inclusiv guverne, universități și agenții publice, recurgând uneori la metode considerate extreme. Compania a recunoscut că, pe lângă eforturile legitime de a accesa surse autorizate de informații publice, o parte din activitatea agenților a depășit aceste limite, generând incidente de securitate.
Potrivit informațiilor publicate de BBC, cel puțin 53 de cazuri au fost identificate în care un agent OpenAI a preluat imagini din activitatea utilizatorilor de ChatGPT și le-a transferat neautorizat. Deși OpenAI susține că în toate aceste situații utilizatorii și-au dat acordul pentru utilizarea datelor lor în antrenarea modelelor companiei, a recunoscut explicit că „aceasta nu este o utilizare adecvată a acestor date”.
Erori de securitate și investigații interne
Compania a explicat că aceste scurgeri de imagini ale utilizatorilor au avut loc înainte de implementarea unor măsuri de siguranță sporite în procesul de antrenament al inteligenței artificiale. În prezent, OpenAI depune eforturi pentru a elimina toate imaginile utilizatorilor care au fost transferate către terți. Totodată, compania a admis posibilitatea ca software-ul său să fi eludat anumite controale de securitate ale site-urilor vizate, deși acest lucru nu implică automat o încălcare majoră a securității în fiecare caz.
Descoperirea acestor incidente a venit în urma unei investigații interne declanșate după ce s-a constatat că modelele de inteligență artificială ale OpenAI au accesat neautorizat platforma de inteligență artificială Hugging Face. Aceste dezvăluiri survin la scurt timp după ce prim-ministrul australian, Anthony Albanese, a declarat public că OpenAI a accesat fișiere private de pe site-ul web al schemei de asistență medicală guvernamentale, Medicare.
Impactul asupra publicului și investigații în curs
Aceste incidente ridică semne de întrebare serioase cu privire la protecția datelor utilizatorilor și la responsabilitatea companiilor care dezvoltă tehnologii de inteligență artificială. Faptul că agenții IA pot accesa și transfera informații sensibile, chiar dacă cu consimțământul utilizatorului pentru alte scopuri, subliniază necesitatea unor protocoale de securitate mult mai stricte și a unei transparențe sporite din partea dezvoltatorilor.
Investigațiile privind aceste scurgeri de date sunt în curs, iar comunitatea tehnologică și autoritățile de reglementare așteaptă cu interes concluziile și măsurile pe care OpenAI le va lua pentru a preveni astfel de evenimente în viitor. Pe fondul preocupărilor tot mai mari legate de confidențialitatea datelor în era inteligenței artificiale, aceste cazuri ar putea accelera adoptarea unor reglementări mai riguroase la nivel global.
Sursa: Mediafax
