Aproape jumătate dintre răspunsurile oferite de asistenții virtuali bazați pe inteligență artificială în legătură cu tratamentul cancerului conțin erori sau informații incomplete. Un studiu recent, publicat într-o prestigiosă revistă medicală, arată că aceste sisteme pot induce în eroare pacienții, îndreptându-i spre terapii nevalidate. Rezultatele cercetării, realizate de experți de la Lundquist Institute for Biomedical Innovation, trag un semnal de alarmă cu privire la utilizarea necontrolată a inteligenței artificiale în domeniul medical.
Informații eronate despre tratamentele alternative
Studiul a analizat răspunsurile generate de unele dintre cele mai utilizate platforme de inteligență artificială, inclusiv Grok (xAI), ChatGPT (OpenAI), Gemini (Google), Meta AI și DeepSeek. Cercetătorii au adresat întrebări care vizau teme sensibile, precum legătura dintre tehnologia 5G sau utilizarea antiperspirantelor și cancer, sau siguranța anumitor tratamente. Rezultatele au arătat că o proporție semnificativă din răspunsuri a fost considerată „parțial problematică” sau „foarte problematică”.
Specialiștii au constatat că aceste sisteme au tendința de a prezenta un „echilibru fals” între sursele științifice validate și sursele nevalidate. Astfel, pacienții pot fi induși în eroare, primind informații contradictorii sau incomplete. Chatboturile au furnizat chiar referințe către clinici care promovează terapii alternative, în detrimentul tratamentelor medicale standard. Aceste abordări pot avea consecințe grave pentru pacienți, inclusiv întârzierea accesului la tratamentele adecvate și agravarea stării de sănătate.
Riscurile de utilizare necontrolată a ia
Cercetătorii subliniază că utilizarea inteligenței artificiale în domeniul medical, fără educație publică și supraveghere adecvată, poate amplifica răspândirea informațiilor eronate. Un sondaj Gallup arată că un număr considerabil de adulți din Statele Unite apelează la aceste instrumente pentru sfaturi legate de sănătate. Cu toate acestea, nivelul de încredere în răspunsurile primite este limitat.
Informațiile eronate despre terapii alternative sunt deja larg răspândite în mediul online. Unele dintre aceste produse, neevaluate de autoritățile de reglementare, pot avea efecte adverse grave. Răspunsurile incorecte ale chatboților IA pot genera îngrijorare inutilă în rândul pacienților, inclusiv prin estimări eronate privind prognosticul bolii.
Impactul asupra pacienților
Concluziile studiului subliniază importanța unei abordări prudente în ceea ce privește utilizarea inteligenței artificiale în domeniul medical. Specialiștii avertizează că, în lipsa unei educații adecvate și a unei supravegheri atente, aceste instrumente pot influența în mod negativ deciziile pacienților. Studiul realizat de Lundquist Institute for Biomedical Innovation evidențiază necesitatea unor reglementări mai stricte și a unei informări corecte a publicului cu privire la riscurile și beneficiile utilizării inteligenței artificiale în sănătate.
Sursa: Mediafax
