Conform Playtech.ro: Anthropic propune ca autoritățile americane să poată bloca modelele de inteligență artificială (AI) în situații de risc extrem, inclusiv atunci când acestea ar putea provoca moartea sau rănirea gravă a peste 50 de persoane sau pagube materiale de peste un miliard de dolari. Compania, unul dintre rivalii importanți ai OpenAI, a purtat discuții discrete cu parlamentari americani pentru a promova un proiect legislativ în acest sens.
Praguri stricte pentru intervenția autorităților
Propunerea companiei explică faptul că guvernul federal ar putea solicita suspendarea unui model AI doar dacă există un risc previzibil și iminent de consecințe extrem de grave. Condițiile precise vizează provocarea morții sau rănirii grave a peste 50 de persoane sau distrugeri materiale care depășesc un miliard de dolari. Aceste praguri nu sunt însă suficiente singure. Intervenția ar fi limitată la trei categorii specifice de pericole: dezvoltarea sau eliberarea unei arme biologice, producerea unui atac cibernetic de amploare sau situația în care un model AI reușește să ocolească mecanismele de control ale companiei. Astfel, comportamente periculoase care nu îndeplinesc aceste condiții nu ar putea fi suspendate prin procedura specială propusă.
Mecanism de oprire cu control judiciar
Proiectul Anthropic nu ar permite unui oficial american să oprească imediat un model pe baza unei simple suspiciuni. În schimb, ar introduce o procedură în mai multe etape, implicând companiile AI, evaluatori independenți, Departamentul Comerțului și o instanță federală. Evaluatorii independenți, înregistrați la Departamentul Comerțului, ar verifica periodic sistemele AI și ar analiza potențialele riscuri. Dacă ar identifica un pericol iminent care îndeplinește condițiile legale, aceștia ar avea 72 de ore pentru a transmite constatările autorităților. Departamentul Comerțului ar decide ulterior dacă există suficiente dovezi pentru a solicita intervenția unei instanțe federale. Decizia finală ar reveni unui judecător federal din Districtul Columbia, care ar putea dispune suspendarea lansării sau utilizării modelului. Proiectul ar interzice, de asemenea, altor agenții federale să suspende independent dezvoltarea sau utilizarea unui model AI printr-un mecanism similar, introducând astfel un control judiciar.
Companiile AI caută reguli clare, dar și control
Anthropic susține că inițiativa continuă demersul început în iunie 2026, reflectând propunerile prezentate în cadrul Advanced AI Framework. Compania argumentează că un cadru legislativ federal ar oferi reguli mai clare pentru dezvoltatori și autorități, reducând incertitudinile cauzate de reglementările statelor americane. Criticii avertizează însă că o asemenea legislație ar putea acorda industriei prea multă libertate în definirea propriilor obligații, lăsând companiilor un rol important în stabilirea standardelor. Contextul politic este, de asemenea, important, Anthropic confruntându-se anterior cu restricții impuse de administrația americană asupra accesului la anumite modele AI avansate. Industria inteligenței artificiale investește masiv în influențarea politicilor americane, companiile și persoanele asociate direcționând cel puțin 55,7 milioane de dolari către grupuri de acțiune politică în contextul alegerilor legislative din noiembrie 2026.
Sursa: Playtech.ro



