Conform Digi24: Un model de inteligență artificială (AI) dezvoltat de compania americană Anthropic a generat un raport complet fals despre o crimă nerezolvată, pe care l-a prezentat poliției din PHILADELPHIA. Autoritățile locale au anunțat vineri că incidentul ridică semne de întrebare serioase legate de fiabilitatea și securitatea sistemelor AI avansate.nnPoliția din PHILADELPHIA a criticat vehement compania ANTHROPIC pentru că a durat două luni întregi până când producătorul AI a detectat și raportat eroarea gravă. Această întârziere a alimentat frustrarea autorităților, care au subliniat importanța răspunsului rapid în astfel de situații critice.nn
Erori și riscuri în implementarea AI
nnDeși tehnologia AI promite revoluționarea multor domenii, inclusiv cel al justiției, acest incident demonstrează riscurile inerente utilizării unor sisteme încă imperfecte. Raportul fabricat de AI conținea detalii fictive, prezentate ca fiind fapte concrete, ceea ce ar fi putut duce la direcții greșite în investigația poliției.nnReprezentanții departamentului de poliție au confirmat că au primit un raport detaliat, aparent bazat pe date reale, de la un sistem AI al ANTHROPIC. Ulterior, s-a descoperit că informațiile prezentate erau complet inventate.nnAceastă situație scoate în evidență nevoia stringentă de mecanisme de verificare și validare mult mai riguroase pentru informațiile generate de sistemele AI, înainte ca acestea să fie folosite în contexte sensibile precum investigațiile penale.nn
Întârzierea în corectarea erorii AI
nnCeea ce a stârnit cele mai multe critici din partea autorităților din PHILADELPHIA este durata nepermis de lungă până la corectarea erorii. Două luni este un interval considerabil în care poliția ar fi putut acționa pe baza unor informații false, irosind resurse prețioase și, potențial, compromițând investigația.nnÎntr-o declarație oficială, poliția a subliniat că așteaptă de la companiile care dezvoltă tehnologii AI un nivel ridicat de responsabilitate și transparență. Erorile umane pot fi înțelese, dar atunci când sistemele proiectate pentru a ajuta la rezolvarea problemelor generează probleme noi, este necesară o analiză aprofundată.nnANTHROPIC, prin acest incident, se confruntă cu presiunea de a-și revizui protocoalele de testare și monitorizare a sistemelor sale, în special a celor destinate să interacționeze cu instituții guvernamentale și sensibile.nn
Implicații globale pentru utilizarea AI
nnIncidentul din PHILADELPHIA are implicații mult mai largi, afectând discuțiile globale despre reglementarea și etica inteligenței artificiale. Capacitatea AI de a genera informații convingătoare, dar false, ridică probleme legate de dezinformare și manipulare.nnAutoritățile din PHILADELPHIA au transmis îngrijorarea lor cu privire la posibilitatea ca astfel de erori să se repete și în alte jurisdicții sau să fie exploatate în scopuri malițioase.nnCompania ANTHROPIC nu a oferit încă un răspuns detaliat cu privire la cauzele exacte ale generării raportului fals și la măsurile specifice pe care le va lua pentru a preveni astfel de incidente pe viitor.nnPoliția din PHILADELPHIA a reiterat importanța colaborării strânse între dezvoltatorii de tehnologie și utilizatorii finali pentru a asigura implementarea sigură și eficientă a soluțiilor AI.nn
Sursa: Digi24