Conform Mediafax: \nInteligența artificială OpenAI a fost recent confruntată cu o situație neașteptată. Modelele sale de limbaj, inclusiv sistemul Codex folosit pentru generarea de cod, au început să folosească referințe la creaturi fantastice, precum „goblini”. Aceste mențiuni, apărute în mod neintenționat, au generat o serie de măsuri corective din partea companiei.
Creștere explozivă a termenilor „goblin” și „gremlin”
\n\nFenomenul a fost observat încă din noiembrie, dar a luat amploare odată cu lansarea modelului GPT-5.4. Utilizarea termenilor precum „goblin” și „gremlin” a crescut cu peste 3.800% față de versiunile anterioare. Investigațiile interne au relevat faptul că „personalitatea Nerd” a chatbot-ului a jucat un rol important. Aceasta încuraja răspunsurile creative și neobișnuite, iar sistemul de evaluare favoriza utilizarea unor elemente din cultura fantasy.\n\nÎn unele cazuri, chatbot-ul descria erorile din programare drept „mici goblini”. În alte situații, inteligența artificială se autodefinea drept un „goblin cu torță” care căuta probleme în cod. Aceste referințe, deși neintenționate, au determinat OpenAI să ia măsuri rapide. Efectul s-a extins și la alte moduri de funcționare ale AI, din cauza interconectării sistemelor de antrenare.\n\n
Modificări majore pentru a corecta problema
\n\nPentru a remedia această problemă, OpenAI a eliminat complet personalitatea „Nerd” și a revizuit sistemele interne de evaluare. De asemenea, au fost introduse reguli clare care interzic menționarea creaturilor fantastice, cu excepția situațiilor în care acestea sunt strict relevante. Compania a subliniat importanța menținerii coerenței și a utilității răspunsurilor generate de inteligența artificială.\n\nAceste ajustări fac parte din eforturile continue ale OpenAI de a asigura fiabilitatea și precizia modelelor sale de limbaj. Scopul este de a evita răspunsuri neașteptate sau irelevante. Compania a fost nevoită să intervină rapid, deoarece menționarea goblinilor nu era singura problemă.\n\n
Viitorul inteligenței artificiale și rolul OpenAI
\n\nEchipa OpenAI este în continuă evoluție. Aceștia se confruntă cu multiple probleme. Inteligența artificială se dezvoltă într-un ritm accelerat. Provocările ridicate de tendința modelelor de limbaj de a folosi referințe la creaturi fantastice demonstrează complexitatea acestui proces.\n\nOpenAI a luat măsuri rapide pentru a rezolva această problemă. Compania a modificat atât sistemele de evaluare cât și personalitățile chatbot-urilor. Lansarea modelelor îmbunătățite este așteptată în următoarele luni.
Sursa: Mediafax
