Conform Mediafax: Fable 5 de la Anthropic, sub asaltul criticilor din cauza restricțiilor excesive
Lansarea noului model de inteligență artificială, Fable 5, dezvoltat de compania Anthropic, a fost marcată rapid de controverse. Cercetători, dezvoltatori și utilizatori obișnuiți au reclamat că platforma blochează sau limitează răspunsurile la numeroase întrebări din domenii sensibile precum biologia, medicina sau securitatea informatică, conform informațiilor vehiculate de NBC News. Mai mult, în unele cazuri, sistemul nu doar refuza să ofere informații, ci redirecționa conversația către un alt AI, aparent mai puțin performant, fără a notifica utilizatorul despre această schimbare.
Apelul la scuze și explicațiile Anthropic
Reacțiile negative, intense și numeroase, au determinat compania Anthropic să intervină și să modifice o parte dintre restricții în mai puțin de 48 de ore de la lansarea oficială. Într-un comunicat, compania și-a cerut scuze, recunoscând că „a făcut alegerea greșită și regretă că nu a găsit echilibrul potrivit”. Potrivit Anthropic, aceste măsuri restrictive au fost implementate din motive de siguranță. Compania susține că modelele din familia Mythos, din care face parte și Fable 5, sunt suficient de avansate pentru a putea fi folosite în scopuri considerate periculoase, inclusiv în identificarea de vulnerabilități informatice sau în cercetări biologice cu implicații serioase.
Întrebări banale, tratate ca potențiale amenințări
Testele efectuate după lansare au scos la iveală aspecte surprinzătoare ale funcționării Fable 5. Sistemul a fost capabil să considere suspecte și întrebări aparent banale. NBC News a semnalat situații în care Fable 5 a refuzat să comenteze pe marginea unor personalități precum Elon Musk sau a directorului Anthropic, Dario Amodei, considerând respectivele solicitări potențial periculoase. De asemenea, modelul a evitat să ofere răspunsuri referitoare la cercetarea cancerului sau la anumite investigații medicale, chiar dacă acestea nu prezentau nicio componentă ilegală sau riscantă. Criticii au acuzat firma că a depășit limita în eforturile sale de control al utilizării inteligenței artificiale.
O altă decizie controversată a vizat introducerea unor filtre discrețiale pentru întrebările care ar fi putut contribui la dezvoltarea unor sisteme AI concurente. Aceasta însemna că Fable 5 ar fi putut oferi intenționat răspunsuri de o calitate inferioară, fără ca utilizatorul să fie informat. În urma criticilor primite din partea comunității AI, Anthropic a renunțat rapid la această abordare și a promis o mai mare transparență în viitor.
Sursa: Mediafax
