NOUA funcție de rezumate generate de Inteligența Artificială (AI) în motorul de căutare Google, denumită „AI Overview”, suferă de o problemă majoră: acuratețea. Un studiu recent arată că sistemul oferă răspunsuri corecte în doar 9 din 10 cazuri, ceea ce, la scara uriașă a căutărilor Google, se traduce în zeci de milioane de răspunsuri discutabile în fiecare oră. Această deficiență ridică semne de întrebare serioase cu privire la fiabilitatea și impactul acestor instrumente AI asupra utilizatorilor.
Defecte în surse și interpretare
Una dintre principalele probleme este legată de sursele pe care AI le utilizează pentru a genera răspunsuri. Cercetătorii au constatat că platforme precum Facebook și Reddit sunt citate frecvent, chiar și în răspunsuri incorecte. Mai mult, chiar și atunci când AI citează surse credibile, există riscul unei interpretări eronate a informațiilor. Această vulnerabilitate deschide calea manipulării intenționate, indivizi malițioși putând crea conținut fals și să îi crească vizibilitatea cu scopul de a induce în eroare sistemul.
Riscuri pentru utilizatori și necesitatea scepticismului
Faptul că prezentările AI apar în partea de sus a paginii de rezultate crește încrederea utilizatorilor în aceste informații, chiar dacă nu sunt întotdeauna exacte. Experții avertizează că dependența excesivă de astfel de tehnologii ar putea afecta capacitățile cognitive. Deși o eroare la fiecare zece răspunsuri poate părea minoră, aceasta devine alarmantă având în vedere numărul mare de căutări efectuate zilnic. Utilizatorii sunt sfătuiți să trateze cu scepticism informațiile generate de AI și să verifice întotdeauna sursele.
Măsuri de precauție și viitorul AI
Google utilizează aceleași mecanisme de filtrare ca motorul de căutare și afirmă că multe dintre exemplele problematice provin din interogări nerealiste. Cu toate acestea, este esențială o abordare precaută. Recomandarea sistemului însuși – „AI-ul poate greși, așa că verifică informațiile!” – rămâne un avertisment relevant.
