Anthropic, o companie americană de tehnologie, a decis să nu lanseze public noul său model de inteligență artificială, Mythos Preview. Motivul principal este capacitatea impresionantă a sistemului de a identifica vulnerabilități în sistemele informatice. Dezvoltatorii se tem că acest avans tehnologic ar putea fi exploatat de hackeri și spioni.
O Armă Digitală Prea Puternică
Modelul Claude Mythos Preview, așa cum a fost numit oficial, este capabil să găsească erori critice în sistemele de operare și browsere. Potențialul de a exploata aceste vulnerabilități a determinat compania să limiteze accesul la această tehnologie. „Creșterea semnificativă a capabilităților ne-a determinat să nu îl punem la dispoziția tuturor utilizatorilor”, se arată într-un document tehnic al companiei.
În timpul testelor, sistemul a reușit să depășească restricțiile de securitate dintr-un mediu virtual, trimițând un mesaj din interior. Mai mult, Mythos a identificat vulnerabilități în nucleul Linux, utilizat pe majoritatea serverelor din lume. Într-un alt exemplu, a scos la iveală o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD. Capacitatea de a combina multiple vulnerabilități pentru a simula preluarea controlului unui sistem a fost o altă performanță remarcabilă.
Colaborare cu Companii Tehnologice și Autorități
Anthropic va folosi Mythos Preview într-un program restrâns de securitate cibernetică, numit „Project Glasswing”. La acest proiect participă companii majore din domeniul tehnologiei, cum ar fi Amazon Web Services, Apple, Google, Microsoft, Nvidia și Cisco. Scopul este de a identifica vulnerabilități și de a îmbunătăți securitatea sistemelor informatice. Compania intenționează să publice rezultatele acestui proiect ulterior.
Anthropic a confirmat discuții cu oficiali ai guvernului american. Compania consideră că dezvoltarea unor astfel de tehnologii are implicații asupra securității naționale și subliniază importanța colaborării cu autoritățile.
Viitorul Securității Cibernetice
Directorul general al Anthropic, Dario Amodei, a avertizat că și alte companii ar putea dezvolta sisteme similare. Experții estimează că astfel de modele AI ar putea apărea pe piață în următoarele șase până la 18 luni. Specialiștii în securitate cibernetică avertizează că industria trebuie să se pregătească pentru apariția unor instrumente AI capabile să identifice și să exploateze vulnerabilități informatice la scară largă.
