Inteligența Artificială (AI) generativă, inclusiv funcția „AI Overview” de la Google, oferă răspunsuri incorecte în pofida eforturilor de precizie. Un studiu recent indică faptul că, deși acuratețea este de 90%, erorile pot fi semnificative, având în vedere volumul uriaș de căutări procesate zilnic. Aceste erori ridică semne de întrebare cu privire la fiabilitatea acestor instrumente în furnizarea de informații corecte și complete.
Problemele de Acuratețe ale AI
Deși 90% pare un procent bun, eficacitatea funcției scade în practică. Google ar putea procesa până la cinci trilioane de căutări până în anul 2026. Asta înseamnă zeci de milioane de răspunsuri discutabile la fiecare oră și sute de mii de erori în fiecare minut. Acuratețea este dificil de monitorizat constant. Un răspuns greșit poate fi corectat la o nouă căutare, ceea ce face sistemul imprevizibil. Prezentările AI apar în partea de sus a paginii de rezultate, utilizatorii având tendința de a le considera o sursă de încredere.
Surse și posibile manipulări
O parte din problemele sistemului provin de la sursele utilizate. Cercetătorii au descoperit că platforme precum Facebook și Reddit sunt citate frecvent. Răspunsurile corecte includeau Facebook în 5% dintre cazuri, cele greșite în 7%. AI-ul citează uneori surse credibile, interpretându-le însă eronat. Există și riscul manipulării intenționate. Persoanele care înțeleg vulnerabilitățile sistemului ar putea crea conținut fals și să îi crească artificial vizibilitatea, influențând răspunsurile AI.
Verificarea informațiilor rămâne esențială
Este important ca oamenii să privească cu scepticism astfel de instrumente. O eroare la fiecare zece răspunsuri poate părea minoră, dar devine relevantă dacă ne gândim la câte căutări facem zilnic. Studiile sugerează că dependența excesivă de astfel de tehnologii poate afecta capacitățile cognitive ale utilizatorilor. Chiar și Google avertizează că “AI-ul poate greși, așa că verifică informațiile!”.
