Yoshua Bengio, unul dintre părinții inteligenței artificiale moderne și laureat al Premiului Turing, ridică o întrebare fundamentală despre viitorul tehnologiei: „Cum putem construi o inteligență artificială care, prin însăși concepția sa, să nu le facă rău oamenilor?”. Această preocupare, exprimată de cel mai citat cercetător în viață la nivel mondial conform Google Scholar, devine tot mai urgentă pe măsură ce AI-ul pătrunde în tot mai multe aspecte ale vieții noastre.
Bengio, o voce proeminentă în dezbaterile despre siguranța AI, conduce alături de jurnalista Maria Ressa panelul științific independent al ONU dedicat inteligenței artificiale, format din 40 de experți. Experiența sa directă în dezvoltarea AI, combinată cu o puternică responsabilitate etică, îl poziționează ca un ghid esențial în navigarea pericolelor potențiale ale acestei tehnologii revoluționare.
Provocarea siguranței în proiectarea AI
Întrebarea lui Bengio nu este una retorică, ci o invitație la o regândire profundă a modului în care sunt concepute și implementate sistemele de inteligență artificială. Focusul se mută de la simpla îmbunătățire a performanței algoritmilor la integrarea intrinsecă a unor mecanisme de protecție și alinieri cu valorile umane.
Aceasta implică cercetare și dezvoltare în domenii precum explicabilitatea AI (AI explicabil), reducerea bias-urilor din datele de antrenament și crearea unor sisteme care să poată raționa etic și să ia decizii în concordanță cu siguranța și bunăstarea umană. Abordarea proactivă, de la stadiul de concepție, este considerată crucială pentru a evita consecințe neprevăzute și potențial dăunătoare.
Rolul reglementării și al colaborării internaționale
Alături de discuțiile tehnice, Bengio subliniază importanța unui cadru de guvernanță solid pentru AI. Rolul său în cadrul panelului ONU reflectă necesitatea unei colaborări internaționale pentru a stabili standarde și politici care să ghideze dezvoltarea și utilizarea responsabilă a inteligenței artificiale la nivel global.
Colaborarea dintre experți din diverse domenii – tehnologie, etică, drept, sociologie – este vitală pentru a anticipa și a contracara riscurile, dar și pentru a maximiza beneficiile pe care AI-ul le poate aduce umanității. Dezbaterile din cadrul panelului ONU vizează identificarea celor mai bune practici și recomandări pentru state și companii, asigurând că progresul tehnologic nu se face cu prețul securității și libertății individuale.
Bengio a subliniat importanța discuției la scară largă, implicând societatea civilă, factorii de decizie politică și comunitatea științifică, pentru a construi un consens cu privire la principiile fundamentale care ar trebui să ghideze dezvoltarea AI. Această abordare multi-stakeholder este esențială pentru a asigura că AI-ul va servi interesele colective.
Panelul științific independent al ONU dedicat inteligenței artificiale își propune să prezinte primele recomandări concrete în cursul anului 2024.
Sursa: Facebook.com
