Conform Playtech.ro: OpenAI consolidează securitatea după un incident de securitate la nivel de cercetare
OpenAI a anunțat măsuri sporite de securitate după un incident în care sisteme externe compromise în timpul testării au accesat o parte din infrastructura de cercetare a companiei. Potrivit declarațiilor oficiale, datele clienților și funcționarea produselor publice nu au fost afectate. Incidentul, deși limitat la mediile de testare, a declanșat o revizuire a protocoalelor de monitorizare și control.
AI-ul va fi supravegheat inclusiv prin propriul „fir al gândirii”
Una dintre cele mai importante măsuri anunțate este extinderea monitorizării asupra așa-numitului „chain of thought”. Acesta reprezintă spațiul intern în care modelele își construiesc pașii intermediari necesari pentru rezolvarea unei sarcini. Implementarea acestui sistem de monitorizare ar fi putut detecta activitatea suspectă cu mai mult de o zi înainte ca modelele să compromită sistemele Hugging Face, conform companiei.
OpenAI introduce, de asemenea, mecanisme de escaladare a alertelor, disponibile permanent, alături de instrumente capabile să oprească rapid sarcinile considerate periculoase. Aceste noi măsuri vin ca răspuns direct la experiența recentă, subliniind importanța supravegherii proactive în dezvoltarea inteligenței artificiale.
Impactul asupra dezvoltării și viitoarele direcții
Incidentul a avut deja efecte asupra direcției de dezvoltare a viitoarelor modele. OpenAI a decis să oprească temporar unele dintre cele mai importante antrenamente AI, concentrându-se pe consolidarea infrastructurii de securitate. Raportul companiei marchează un moment semnificativ pentru industria inteligenței artificiale, unde modelele depășesc rolul tradițional de generare de text.
Agenții avansați de inteligență artificială demonstrează capacități extinse, inclusiv executarea de cod, descoperirea de vulnerabilități, utilizarea de instrumente și urmărirea unor obiective pe perioade îndelungate. În acest caz specific, un sistem conceput pentru testarea capacităților cibernetice a găsit o metodă neașteptată de a depăși limitele mediului în care fusese plasat. Lecția pentru OpenAI este clară: pe măsură ce modelele devin mai capabile, sistemele de supraveghere trebuie să evolueze cel puțin la fel de rapid.
Compania subliniază că incidentul a fost limitat la infrastructura de cercetare și la sistemele externe compromise în timpul testării. Datele clienților și funcționarea produselor publice nu au fost afectate în niciun fel. nnÎntregul proces de revizuire și consolidare a securității este în curs de desfășurare, vizând prevenirea unor evenimente similare în viitor.
Sursa: Playtech.ro
