Conform HotNews: O lume guvernată de inteligența artificială, un experiment realizat de cercetători americani dezvăluie potențialele pericole ale AI-ului. Modelele de inteligență artificială aflate la conducerea unor orașe simulate au oferit rezultate extrem de diferite, de la stabilitate deplină la haos și infracționalitate. Experimentul ridică semne de întrebare asupra modului în care ar putea funcționa o lume condusă de inteligența artificială.
Stabilitate versus dictatură: rezultatele modelului Claude
Cercetătorii de la Emergence AI, un laborator din New York, au lansat proiectul Emergence World, o simulare de tip „SimCity” în care modelele de inteligență artificială au fost puse să conducă orașe simulate populate de agenți AI. Unul dintre modelele testate a fost Claude, dezvoltat de Anthropic. Acesta a reușit să mențină stabilitatea în simulare. Claude a menținut în viață toți cei 10 agenți AI și nu a înregistrat nicio infracțiune.
Compromisul pentru această stabilitate a fost lipsa diversității de idei. Modelul AI a aprobat aproape toate regulile și reglementările propuse, validând practic orice ajungea la vot. Rezultatul a fost o lume lipsită de inovație și cu o abordare extrem de conservatoare. Experimentul aduce în discuție o întrebare importantă: stabilitatea perfectă, dar fără dezvoltare, este cu adevărat un „succes”?
Gemini: un rai al infracționalității
Modelul Gemini 3 Flash, dezvoltat de Google, a avut un parcurs diferit. Deși a reușit să mențină în viață toți agenții, lumea simulată de Gemini a fost marcată de un nivel ridicat de infracționalitate. Cercetătorii au înregistrat 683 de infracțiuni într-o perioadă de 15 zile, numărul fiind în continuă creștere în momentul în care experimentul a fost oprit. Studiul a descris lumea creată de Gemini drept o „halucinație colectivă” împărtășită de agenți.
Gemini a înregistrat și cel mai ridicat nivel de opoziție în guvernare, alegătorii respingând 27% dintre propuneri. Situația creată de acest model ridică semne serioase de întrebare asupra capacității inteligenței artificiale de a guverna fără a genera haos.
OpenAI și Grok: eșecuri rapide în simulare
Modelele OpenAI și Grok au avut rezultate mai puțin promițătoare. GPT-5 Mini de la OpenAI nu a reușit să mențină agenții în viață. Toți cei 10 agenți au murit la o săptămână de la începerea experimentului, cu opt zile înainte de încheierea acestuia. Această aparentă ineficiență a condus la eliminarea rapidă a oricărui tip de politică.
Grok, modelul dezvoltat de compania xAI a lui Elon Musk, a fost descris ca o combinație a celor mai negative aspecte ale celorlalte modele. Grok a înregistrat un nivel ridicat de infracționalitate, cu 183 de infracțiuni înregistrate. Modelul a rezistat doar patru zile înainte de colapsul social, arătând rapid limitele sale.
Potrivit cercetătorilor, aceste rezultate arată necesitatea unor măsuri de protecție clare pentru agenții autonomi.
Sursa: HotNews
