Un studiu recent publicat în revista Nature Medicine ridică semne de întrebare asupra fiabilității versiunii specializate în domeniul sănătății a chatbot-ului ChatGPT, dezvoltat de OpenAI. Concret, cercetarea arată că, în peste jumătate din cazurile analizate, ChatGPT Health subestimează gravitatea problemelor medicale ale utilizatorilor, evitând să recomande consultarea de specialitate sau mersul la spital în situații în care acest lucru era cu adevărat necesar.
Un instrument promițător, cu limitări critice
ChatGPT a devenit, în ultimii ani, un instrument omniprezent, fiind utilizat pentru o gamă variată de întrebări, de la cele mai simple până la cele mai complexe. Cu toate acestea, dezvoltatorii și specialiștii în sănătate au atras atenția asupra fluidității sale și, în același timp, asupra riscurilor implicate în utilizarea unor astfel de tehnologii în domeniul medical. Versiunea specializată, denumită ChatGPT Health, a fost concepută pentru a oferi răspunsuri mai precise și pentru a ghida utilizatorii către soluții adecvate, însă rezultatele studiului indică o problemă majoră: subestimarea gravității situațiilor critice.
Subestimează problemele, riscă vieți
Studiul a implicat o serie de scenarii fictive, menite să testeze capacitatea chatbot-ului de a recunoaște cazurile de urgență. Conform datelor, în mai mult de jumătate din aceste situații, ChatGPT Health nu a recomandat adresarea directă către specialiști sau mersul la cel mai apropiat spital, chiar dacă problemele prezentate ar fi justificat această reacție. Astfel, riscul ca utilizatorii să primească sfaturi incomplete sau incorecte devine semnificativ, mai ales în contextul în care mulți oameni depind de aceste tehnologii pentru primele evaluări ale stării de sănătate.
Ce implică această subestimare pentru utilizatori și specialiști
Integrarea tehnologiei în consultanța medicală are potențialul de a democratiza accesul la informații, însă, după aceste descoperiri, se conturează clar că o astfel de soluție nu poate înlocui niciodată evaluarea unui profesionist. Medici și cercetători din domeniu trag deja un semnal de alarmă, amintind că, în caz de urgență, deciziile trebuie luate de oameni, nu de algoritmi. În plus, autoritățile regulate din domeniul sănătății au subliniat necesitatea de a testa și valida riguros orice tehnologie destinată pentru evaluarea riscurilor medicale, înainte ca aceasta să fie utilizată pe scară largă.
Rămâne mult până la o experiență sigură
OpenAI a fost, de-a lungul timpului, criticată pentru modul în care testează și lansează noi versiuni ale chatbot-urilor sale, și această ultimă descoperire nu face excepție. În ciuda avansurilor tehnologice, energiile investite în îmbunătățirea acurateței și siguranței acestor instrumente trebuie să fie prioritize, mai ales în domeniul sănătății, unde erorile pot avea consecințe fatale.
Ingeniozitatea acestor tehnologii promite să transforme modul în care oamenii acced și interpretează informațiile despre sănătate. Însă, pe măsură ce cercetările relevă limitele de moment ale sistemelor precum ChatGPT Health, devine tot mai clar că responsabilitatea pentru siguranța pacientului rămâne, în primul rând, în mâinile medicilor și autorităților reglementatoare. În timp ce tehnologia avansează rapid, întrebarea rămâne dacă, pe termen scurt, vom reuși să asigurăm un echilibru adecvat între inovație și siguranță, pentru a nu compromite sănătatea publică.
