Inteligența artificială, sub semnul întrebării: jumătate din sfaturile medicale oferite de chatbot-uri sunt problematice
Studiile recente ridică semne serioase de întrebare cu privire la acuratețea și fiabilitatea informațiilor medicale furnizate de chatbot-urile cu inteligență artificială. Un studiu recent, citat de surse interne, arată că aproape jumătate din răspunsurile oferite de aceste instrumente la întrebările legate de sănătate sunt considerate problematice. Acest lucru alimentează îngrijorările cu privire la potențialul dezinformării în domeniul medical.
Cercetătorii au analizat performanța unor chatbot-uri populare, inclusiv Gemini (de la Google), DeepSeek, Meta AI, ChatGPT (de la OpenAI) și Grok (de la xAI), în furnizarea de informații medicale. Studiul a inclus 50 de solicitări, structurate în cinci categorii medicale susceptibile de dezinformare: cancer, vaccinuri, celule stem, nutriție și performanță atletică. Rezultatele au fost alarmante.
Evaluarea detaliată a răspunsurilor chatbot-urilor
Din cele 250 de răspunsuri analizate, aproape 50% au fost considerate problematice. Dintre acestea, 30% au fost evaluate ca fiind oarecum problematice, iar 19,6% au fost clasificate ca fiind extrem de problematice. Aceste date sugerează o problemă majoră în acuratețea și fiabilitatea informațiilor furnizate de aceste instrumente.
Interesant este faptul că studiul nu a identificat diferențe semnificative de performanță între diferiții chatbot-i testați, cu excepția Grok, care a generat cele mai multe răspunsuri problematice. Cele mai precise răspunsuri au fost observate la întrebările despre vaccinuri și cancer, în timp ce cele mai puțin exacte s-au referit la celule stem, nutriție și performanță atletică.
Un alt aspect îngrijorător este calitatea citărilor. Chiar dacă chatbot-urile au returnat majoritatea referințelor solicitate, scorul mediu de completitudine a fost de doar 40%. Niciunul dintre instrumente nu a generat o listă de referințe completă și precisă. Mai mult, răspunsurile au fost adesea greu de înțeles pentru o persoană obișnuită, fiind accesibile doar celor cu un nivel educațional superior.
Implicații pentru utilizarea în domeniul medical
Autorii studiului avertizează că implementarea continuă a chatbot-urilor cu inteligență artificială în unitățile medicale, fără o supraveghere adecvată, riscă să amplifice dezinformarea. Acest lucru ar putea avea consecințe grave pentru sănătatea pacienților, care ar putea fi induși în eroare de informații inexacte sau incomplete.
Această descoperire pune sub semnul întrebării rolul pe care aceste instrumente îl pot juca în domeniul medical, subliniind importanța unei evaluări riguroase a informațiilor furnizate și a unei supravegheri atente din partea profesioniștilor din domeniul sănătății. Rămâne de văzut modul în care dezvoltatorii acestor tehnologii vor aborda aceste probleme pentru a îmbunătăți acuratețea și fiabilitatea informațiilor oferite.
