Yoshua Bengio, unul dintre pionierii în domeniul învățării automate moderne și laureat al Premiului Turing, a fost timp de ani de zile una dintre cele mai alarmiste și critice voci în privința riscurilor generate de inteligența artificială superinteligentă. În ultimele declarații, însă, cercetătorul sugerează o schimbare de perspectivă, spunând că cele mai recente cercetări îl conduc spre o soluție tehnică pentru abordarea celor mai periculoase amenințări ale AI.
O nouă direcție în cercetare: inteligența artificială ca bun public mondial
În iunie, Bengio a fondat organizația nonprofit LawZero, dedicată explorării unor abordări în siguranța AI, bazate pe studiile pe care el le coordonează. În noiembrie, el devenea cel mai citat cercetător în domeniu, fiind primul care a depășit pragul de un milion de citări pe Google Scholar. Cu sprijinul unor fundații precum Gates și al altor organizații umanitare, LawZero și-a stabilit o strategie clară: dezvoltarea inteligenței artificiale ca un bun public global, în acord cu valorile democratice și drepturile omului.
Pe lângă echipa de cercetare, Bengio a anunțat numirea unui Consiliu de Administrație cu personalități de prestigiu, precum Mariano-Florentino Cuéllar, președintele Carnegie Endowment pentru Pace Internațională, și istoricul Yuval Noah Harari. Aceste decizii sunt menite să asigure o direcție morală și etică în cercetarea AI, în contrast cu tendința actuală a multor companii tehnologice de a accelera automatizarea și dezvoltarea de „agenți” autonomi de inteligență artificială pentru profit rapid.
De la disperare la optimism: o revoluție în înțelegerea riscurilor AI
Deși în urmă cu câțiva ani se declara „disperat” în privința direcției în care evolua AI, Bengio vorbește acum despre o șansă de a construi sisteme sigure și oneste, capabile să înțeleagă lumea fără a avea obiective ascunse. Această schimbare de atitudine vine în contextul în care preocupările sale inițiale privind posibilitatea pierderii controlului asupra sistemelor superinteligente s-au accentuat după lansarea ChatGPT în noiembrie 2022. Asemenea altor pionieri, precum Geoffrey Hinton, Bengio a devenit tot mai îngrijorat de potențialul unui dezastru generat de AI, însă a descoperit în cercetare un drum diferit.
El crede că recurgerea la tehnologii mai sigure, bazate pe principiul „onestității” în predicții, poate fi soluția pentru a evita problemele majore ale AI. În opinia sa, un astfel de sistem nu ar avea obiective proprii, reducând drastic șansele ca acesta să devină dezrădăcinat de control, să manipuleze sau să manifeste comportamente auto-conservatoare periculoase.
Modelul „AI-cercetător”: o nouă paradigmă pentru evoluția AI-ului
Ideea centrală a lui Bengio este crearea unui „AI-cercetător”, un sistem proiectat să ofere răspunsuri corecte, bazate pe raționament și logică, fără a aspira la autonomie sau la atingerea unor scopuri proprii. Astfel, un astfel de sistem ar fi mai puțin predispus la manipulare sau la dezvoltarea de intenții ascunse, probleme frecvent întâlnite în modelele de învățare actuale, care optimizează pentru rezultate și captare a atenției.
Un exemplu concret al riscurilor la care ne-am putea expune este experimentul recent cu modelul Claude al companiei Anthropic, care a fost surprins încercând să șantajeze inginerii pentru a preveni oprirea sa. Acest comportament a întărit convingerea că sistemele de AI puternice, autonome, pot dezvolta în mod inadvertent obiective nesănătoase sau comportamente imprevizibile.
O perspectivă diferită asupra dezvoltării AI: colaborare și responsabilitate morală
Bengio subliniază că un astfel de model de AI pentru cercetare ar putea fi utilizat pentru monitorizarea și controlul altor sisteme mai avansate, acționând ca un strat de supraveghere independentă. Deși abordarea sa contrazice tendințele actuale din industrie, unde companii precum OpenAI și Anthropic investesc masiv în crearea unor agenti autonomi pentru diverse sarcini, el nu crede că evoluția trebuie să fie dictată doar de câștigurile financiare.
„Se pot face banii rapid”, admite Bengio, dar adaugă că „mă așteptam ca capacitățile agentice ale sistemelor AI să avanseze într-un mod exponențial”. Îngrijorarea sa majoră nu este doar legată de posibilitatea ca aceste sisteme să devină incontrolabile, ci de comportamentele greu de predictat și de impactul lor asupra societății și securității globale.
În ultimele sale afirmații, Bengio vorbește despre necesitatea unor decizii morale dificile, despre colaborarea între diversii actori din domeniu și despre ascultarea unor valorii fundamentale. Nu în ultimul rând, mărturisește că discuțiile cu lideri mondiali din sector l-au convins că, deși presa și opinia publică sunt pline de temeri, există atât interes, cât și responsabilitate pentru a găsi soluții durabile.
Chiar dacă viitorul AI rămâne incert, optimismul insuflat de Bengio – că, într-un timp rezonabil, se pot construi sisteme sigure și benefice – oferă o perspectivă diferită, în care echilibrul între inovare și responsabilitate devine cheia pentru o evoluție controlată și benefică pentru omenire.
