Statul Utah a lansat un program pilot care permite unui chatbot bazat pe inteligență artificială (AI) să reînnoiască rețetele pentru medicamente psihiatrice fără intervenția directă a unui medic. Inițiativa, gestionată de startup-ul Legion Health, susținut de Y Combinator, marchează prima dată când un stat din SUA autorizează un sistem autonom de AI să se ocupe de rețeta medicamentelor mintale, cu scopul de a combate deficiențele de personal medical din domeniu.
Programul, deschis pentru o perioadă de 12 luni, vizează pacienți „stabili”, adică cei care nu au avut modificări ale medicației și nu au fost internați în ultimele 12 luni. Aceștia pot opta pentru un serviciu de abonament lunar în valoare de 19 dolari, iar sistemul AI este limitat la 15 medicamente cu risc scăzut, precum Prozac, Zoloft și Wellbutrin. Substanțele controlate, cum ar fi Adderall, sunt excluse din program.
Pentru a garanta siguranța procesului, primele 250 de rețete generate de chatbot vor fi revizuite de un medic autorizat. Sistemul trebuie să atingă o rată de aprobări de 98% pentru a putea fi utilizat fără supraveghere umană imediată, conform oficialilor din Utah. Este o măsură de precauție menită să evite riscurile apărute anterior în alte proiecte similare.
Provocări și controverse în implementare
Departamentul de Comerț din Utah a justificat această măsură, subliniind o penurie semnificativă de furnizori de servicii de sănătate mintală în zonă. „Majoritatea județelor din Utah au semnalat o penurie de furnizori, lăsând până la 500.000 de rezidenți fără acces adecvat la îngrijiri de sănătate comportamentală”, a declarat instituția.
Totuși, programul a fost supus unor critici și analize amănunțite, în contextul unor eșecuri notabile în trecut. Un proiect pilot anterior, derulat de compania Doctronic, a fost rapid compromis din cauza vulnerabilităților de securitate ale AI-ului utilizat. Cercetători în domeniu au manipulat sistemul pentru a genera teorii conspiraționiste despre vaccinuri și chiar pentru a tripla dozele de opioide recomandate.
Experții avertizează că modelele lingvistice de mari dimensiuni sunt încă susceptibile la atacuri de tip „jailbreak”, ceea ce ridică întrebări serioase despre siguranța și controlul asupra acestor sisteme autonome.
Riscuri și alternative ale utilizării AI în sănătatea mintală
Deși studiile indică faptul că AI poate sprijini eficient medicii, reducând erorile și timpul de așteptare, mulți specialiști rămân sceptici. Criticile vizează potențiala reducere a competențelor profesioniștilor și limitarea rolului uman în procesul de decizie medicală.
Utilizarea AI ca asistent în domeniul sănătății mintale este privită ca o soluție pentru a acoperi deficitul de personal, dar nu înlocuiește necesitatea intervenției umane directe. În același timp, există temeri că o dependență excesivă de aceste tehnologii poate duce la pierderea experienței și a discernământului medicilor în privința tratamentului psihiatrizilor.
Contractul de pilotare din Utah se află în aceste zile în etapa de evaluare, urmând ca rezultatele și eventualele ajustări să fie comunicate oficial în ultimele luni ale anului. În data de 15 decembrie 2023, se va finaliza analiza sistemului, iar autoritățile vor decide dacă programul va fi extins sau adaptat.
Pe parcursul acestei perioade, statul va monitoriza atent funcționarea chatbotului, inclusiv ierarhia aprobărilor, și va primi feedback de la medicii care vor supraveghea inițial rețetele generate de sistem.
