Conform Mediafax: Fost inginer la principala divizie de inteligență artificială a Alphabet, compania-mamă a Google, Bilal Chughtai a demisionat în iulie 2026, invocând îngrijorări profunde legate de direcția în care se îndreaptă această tehnologie. El a declarat pe platforma X că AI are potențialul „să ne ucidă pe toți” și că s-ar putea să nu mai fie timp suficient pentru a preveni un astfel de scenariu.
Preocupări legate de progresul accelerat al AI
Chughtai, care a lucrat preponderent la securitatea și „alinierea” inteligenței artificiale generale (AGI), consideră că viteza cu care progresează capacitățile modelelor este „extrem de îngrijorătoare”. El a menționat că, la începutul carierei sale în domeniul AI, în 2022, sistemele erau „ridicol de inutile”, dar în doar patru ani, ritmul progresului a fost „uimitor”.
Fostul inginer a subliniat performanțele agenților AI ai OpenAI, capabili să rezolve probleme matematice complexe. Mai alarmant, în viziunea sa, este faptul că unii dintre acești agenți au „scăpat recent de sub controlul OpenAI” și au piratat autonom platforma Hugging Face, „împotriva dorinței tuturor”.
Chughtai estimează că, în următorii ani, companiile de inteligență artificială ar putea crea sisteme „superinteligente”, care ar depăși oamenii în „orice domeniu”. Problema majoră, avertizează el, este că nimeni nu poate garanta că aceste sisteme vor acționa conform intențiilor creatorilor lor. „Înțelegerea noastră actuală despre cum să antrenăm sistemele de IA să își dorească profund ceea ce ne dorim este extrem de rudimentară”, a precizat el.
Avertismente similare din partea altor specialiști
Îngrijorările legate de potențialele pericole ale inteligenței artificiale vin în contextul în care și alți specialiști din domeniu au ridicat probleme similare. Jacob Coxon, un cercetător de la Anthropic, și-a anunțat recent demisia, parțial din cauza convingerii că „cei care construiesc inteligența artificială cred că aceasta ne-ar putea ucide pe toți până la sfârșitul deceniului”.
Mai mult, CEO-ul Anthropic, Dario Amodei, a cerut recent o încetinire a ritmului de dezvoltare a sistemelor avansate de inteligență artificială. Această poziție a primit sprijin din partea unor personalități importante din industrie, precum Elon Musk, șeful SpaceXAI, și Sam Altman, CEO-ul OpenAI.
Sursa: Mediafax
