Un studiu recent a evidențiat amploarea utilizării inteligenței artificiale în consultarea personală, reluând discuția despre rolul acesteia în deciziile cotidiene. Concluzia principală este că, deși la prima vedere pare o soluție de încredere, implicarea AI în situații personale poate crea așteptări nerealiste și dependență.
Utilizarea AI în decizii personale devine tot mai frecventă, nu doar pentru găsirea de informații, ci și pentru sfaturi sau recomandări în chestiuni sensibile. Potrivit studiului, răspunsurile generate de astfel de asistenți devin, uneori, mai credibile decât ale persoanelor apropiate sau ale experților umani.
Un aspect interesant al cercetării este faptul că, în situații în care un om ar fi avut dreptate să își manifeste dezacordul față de decizia AI, mulți utilizatori au preferat să îi acorde crezare roboticii. Acest fenomen sugerează o schimbare în percepția asupra autorității informației și un potențial risc pentru discernământul critic al utilizatorului.
Specialiștii încearcă să înțeleagă dacă această încredere sporită în AI afectează abilitatea de a lua propriile decizii. În multe cazuri, oamenii preferă să fie îndrumați de soluțiile tehnologice, chiar dacă acestea pot contraveni opiniei lor inițiale. De exemplu, oameni care s-au consultat cu AI despre probleme de sănătate sau aspecte financiare au raportat că au fost sfătuiți să urmeze calea indicată de robot, chiar dacă opinia lor era diferită.
Incertitudinea legată de performanța și acuratețea AI în situații sensitive a fost evidentă în studiu. Mulți utilizatori recunosc că se bazează pe recomandările AI fără a-și verifica ulterior sursele sau a-și evalua propriile convingeri.
Specialiștii în psihiatrie și etică digitală avertizează asupra pericolului înțelegerii greșite a rolului AI în viața personală. O dependență excesivă poate duce la pierderea discernământului și la reducerea capacității de a evalua critic informațiile.
De exemplu, cazurile în care utilizatorii au fost sfătuiți să nu urmeze indicațiile unui medic sau să ignore sfaturile unui avocat sunt deja documentate. Studiul subliniază însă că, în unele situații, recomandările AI s-au potrivit cu cele ale experților umani, dar, în altele, au fost eronate sau au creat confuzie.
Un aspect esențial identificat este lipsa unei reguli clare privind responsabilitatea în cazul deciziilor greșite generate de AI. Autoritățile de reglementare din domeniu lucrează la normele care să limiteze și să clarifice aceste situații.
O confirmare recentă a impactului a fost dată de un eveniment din 14 martie 2023, când un software de consultanță online a recomandat unui client un tratament medical neadecvat. La scurt timp, s-a declanșat o alarmă cu privire la utilizarea fără supraveghere a inteligenței artificiale în domenii vulnerabile.
