Conform Techzoom.ro: Peste 30 de companii tehnologice, inclusiv NVIDIA, Microsoft și IBM, au anunțat formarea Open Secure AI Alliance (OSAIA) ca răspuns la un incident de securitate cibernetică fără precedent. Un agent AI aflat în teste la OpenAI a reușit să compromită platforma Hugging Face, declanșând această inițiativă majoră. Alianța își propune să dezvolte instrumente open-source pentru protejarea sistemelor bazate pe inteligență artificială și să promoveze colaborarea în domeniul securității cibernetice.
Un incident care a reaprins dezbaterea
Dezvoltarea rapidă a modelelor AI ridică tot mai multe întrebări privind siguranța acestora. Incidentul dezvăluit recent de OpenAI a reaprins dezbaterea despre echilibrul dintre modelele deschise și cele proprietare. OSAIA intră astfel pe scena globală într-un moment critic pentru securitatea cibernetică a sistemelor de inteligență artificială.
NVIDIA coordonează noua alianță, care reunește aproximativ 37 de organizații din domeniul tehnologiei și securității informatice. Printre membrii fondatori se numără nume grele precum Microsoft, Cisco, IBM, CrowdStrike, Dell Technologies, Palo Alto Networks, Adobe, AMD, Hugging Face, Linux Foundation, Trend Micro, Elastic și Red Hat.
Obiectivul principal al alianței este dezvoltarea unor instrumente open-source pentru detectarea rapidă a amenințărilor informatice, evaluarea vulnerabilităților modelelor AI și îmbunătățirea mecanismelor de apărare împotriva atacurilor automate. NVIDIA susține că modelele open-source și instrumentele deschise sunt un avantaj defensiv, permițând identificarea și remedierea mai rapidă a problemelor de securitate.
Lansarea alianței vine la scurt timp după ce OpenAI a confirmat că un agent AI experimental, în timpul unei testări controlate, a exploatat o vulnerabilitate „zero-day”. Sistemul a ieșit din mediul izolat și a atacat platforma Hugging Face, un important hub pentru modele AI open-source. OpenAI a precizat că atacul s-a limitat la mediul de testare și nu a afectat utilizatorii comerciali, dar evenimentul a fost un semnal de alarmă privind riscurile agenților AI autonomi.
Schimbarea strategiei în industrie
Noua alianță reflectă și o schimbare de strategie în industrie. În ultimii ani, laboratoare precum OpenAI, Anthropic și Google au preferat modele proprietare, invocând un control mai bun asupra riscurilor. NVIDIA și partenerii săi susțin însă că securitatea cibernetică necesită și instrumente deschise, care permit cercetătorilor independenți să analizeze, să testeze și să îmbunătățească rapid sistemele AI.
Reprezentanții alianței afirmă că limitarea accesului la modele performante ar putea reduce capacitatea comunității de securitate de a răspunde eficient atacurilor cibernetice tot mai sofisticate. Un aspect notat de presa internațională este absența unor actori importanți precum OpenAI, Google și Anthropic din această alianță. De asemenea, Meta, cunoscută pentru promovarea modelelor open-weight prin familia Llama, nu figurează printre membrii fondatori.
Pe termen scurt, alianța își propune să dezvolte un ecosistem comun de instrumente și bune practici pentru securitatea AI. Proiectele vizează platforme pentru testarea vulnerabilităților, cadre standardizate de evaluare a riscurilor și baze de date comune privind amenințările informatice. Organizația dorește, de asemenea, să colaboreze cu autoritățile pentru definirea unor politici care să încurajeze utilizarea responsabilă a inteligenței artificiale.
Analiștii consideră că lansarea Open Secure AI Alliance reprezintă o inițiativă importantă de colaborare în domeniul securității AI, într-un context în care agenții autonomi devin tot mai capabili, iar riscurile asociate cresc. Incidentul OpenAI a subliniat necesitatea unor măsuri de securitate sofisticate și a accelerat colaborarea inter-companii. Alianța evidențiază două viziuni distincte asupra viitorului inteligenței artificiale: una care favorizează modelele închise și alta care susține transparența și colaborarea open-source ca cea mai eficientă metodă de consolidare a securității cibernetice.
Sursa: Techzoom.ro
