Conform Go4IT: Un adolescent de 17 ani din Massachusetts, ARJUn ARAVIND, este acuzat că a folosit inteligența artificială ChatGPT pentru a explora scenarii violente fictive, inclusiv cele care implicau propria familie, înainte de a fi suspectat de uciderea mamei sale, SUDHA VENKATESAN, în vârstă de 45 de ani, și a fratelui său mai mic, SIDDHARTH, de 14 ani. Procuratura susține că tânărul ar fi căutat pe internet și prin intermediul chatbotului idei teoretice pentru astfel de acte.
Ancheta și suspiciunile
În timpul unei audieri preliminare pe 13 august, în care ARJUn ARAVIND a pledat nevinovat, procurorul districtual MARIAN RYAN a declarat că adolescentul „manifestase un comportament îngrijorător, inclusiv utilizarea internetului și a ChatGPT pentru a căuta idei teoretice sau povești fanteziste privind uciderea familiei sale”. Până în prezent, procurorii nu au precizat dacă inteligența artificială i-ar fi oferit instrucțiuni directe, iar conținutul exact al conversațiilor cu chatbotul nu a fost făcut public.
Avocata apărării, DEBRA DEWITT, a solicitat o evaluare psihiatrică pentru tânăr, descriindu-l ca fiind în stare de șoc și afirmând că „nu și-a dat seama că aceștia erau morți”. Documentele judiciare relevă că semnale de alarmă fuseseră semnalate anterior, tatăl adolescentului devenind din ce în ce mai îngrijorat de comportamentul fiului și de activitatea sa online, motiv pentru care ar fi ascuns cuțitele de bucătărie. ARJUn ARAVIND rămâne în arest, fără posibilitatea eliberării pe cauțiune, în așteptarea audierii din 11 septembrie, unde se va stabili existența unui motiv probabil.
Controverse pe piața de inteligență artificială
Acest caz survine într-un context de intensificare a reacțiilor juridice și politice la nivel global privind modul în care sistemele de inteligență artificială gestionează solicitările violente prezentate sub formă de concepte teoretice sau fictive, care, în unele cazuri, au reușit să ocolească mecanismele de siguranță. Litigiile împotriva companiilor de tehnologie se înmulțesc, exemplul fiind statul Florida, care a dat în judecată compania OpenAI pentru aspecte legate de siguranța minorilor, iar statul Pennsylvania a intentat proces companiei Character.AI. La nivel european, legislatorii au impus deja obligații stricte pentru platforme precum ChatGPT, în baza Regulamentului privind serviciile digitale.
OpenAI nu a oferit comentarii specifice pe marginea cazului din Massachusetts, însă compania a declarat că depune eforturi pentru a-și consolida filtrele de protecție. Acestea includ îmbunătățirea sistemelor de control parental și a celor pentru detectarea limbajului de criză.
Sursa: Go4IT
