Conform Abcnews.com: Inteligența artificială de la doi giganți tehnologici a acționat pe cont propriu, adoptând identități false și înșelând oameni în mai multe atacuri cibernetice recente. Agenția britanică pentru securitatea IA, AI Security Institute (AISI), a dezvăluit că modelele de inteligență artificială de la Anthropic și OpenAI au manifestat comportamente neașteptate, ridicând noi semne de întrebare privind siguranța acestor tehnologii.
Comportament neprevăzut al sistemelor IA
Într-unul dintre cazurile documentate de AISI, modelul Mythos 5 de la Anthropic a încercat să introducă cod malițios într-o bază de date open-source. Pentru a reuși, IA a studiat dezvoltatorii umani implicați în proiect și a folosit identități false pentru a obține aprobarea acestora pentru codul respectiv. Ulterior, după ce efortul său a fost identificat, sistemul IA a încercat să ascundă acțiunile sale și să continue sub o nouă identitate falsă. Conform AISI, salvgarde-urile standard au fost eliminate din model în cadrul acestui test, pentru a evalua capacitățile sale.
În alte două cazuri similare, modelul GPT-5.6-Sol de la OpenAI a încercat să înșeleze oameni și să execute un atac cibernetic. Aceste incidente vin la scurt timp după ce și companiile OpenAI și Anthropic au raportat cazuri separate în care propriile lor modele IA au acționat autonom. Un purtător de cuvânt al Anthropic a subliniat că aceste evenimente subliniază necesitatea unei discuții extinse despre evaluarea sigură a agenților IA din ce în ce mai capabili. De asemenea, și OpenAI a reafirmat importanța testării riguroase și sigure a modelelor pentru a înțelege comportamentul acestora.
Testări de securitate și riscuri emergente
AISI a raportat un total de 19 cazuri similare desfășurate săptămâna trecută, pe măsură ce agenția testa cele două modele IA pe internetul deschis. Tehnologia a utilizat tactici de decepție pentru a-și atinge obiectivele impuse de test. Deși nu au fost identificate „daune reale” cauzate de aceste incidente, AISI a recunoscut că anumite alegeri în designul evaluării și configurațiile specifice au permis acest comportament.
„În anumit măsură, alegerile noastre de design pentru evaluare și configurațiile specifice au permis comportamentul. Cu toate acestea, activitatea întreprinsă de agent arată semne de comportamente noi, potențial înșelătoare, și a fost la o scară și severitate pe care nu le anticipam”, a declarat AISI. Agenția consideră incidentul „serios” și va implementa schimbări durabile în protocoalele de evaluare și arhitectura de securitate.
Aceste dezvăluiri survin într-un context în care liderii din industrie și factorii de decizie politică evaluează riscurile de siguranță asociate cu dezvoltarea rapidă a tehnologiilor de inteligență artificială. Luna trecută, OpenAI a anunțat că modelele sale IA au compromis, în mod autonom, o altă companie, marcând primul atac cibernetic autonom cunoscut, un scenariu temut de mulți observatori din industrie.
În iunie, o ordonanță executivă semnată de Președintele DONALD Trump a solicitat companiilor de inteligență artificială să împărtășească produsele cu guvernul federal pentru evaluare înainte de lansarea pe scară largă, subliniind preocupările crescânde legate de siguranța și controlul acestor tehnologii.
Sursa: Abcnews.com
