Conform Digi24: Modelele AI capătă abilități supraomenești, generând îngrijorări în industrie
Modelele de inteligență artificială devin tot mai performante, însă cercetătorilor le este tot mai dificil să urmărească modul în care acestea „gândesc” și iau decizii. Fenomenul stârnește îngrijorări chiar în interiorul marilor companii AI, în contextul în care unele modele ating deja capacități descrise drept „supraomenești”. Recent lansatul GPT-6 Astra de la OpenAI, despre care președintele companiei, Greg Brockman, a sugerat că ar putea marca începutul inteligenței artificiale generale (AGI), este mai capabil să evite monitorizarea, îngreunând înțelegerea proceselor sale decizionale.
Liderii companiilor AI trag semnale de alarmă
CEO-ul OpenAI, Sam Altman, a declarat recent pentru Axios că modelele AI devin „supraomenești” în anumite privințe, iar compania „navighează pur și simplu în ape necunoscute”. Această perspectivă este împărtășită chiar de liderii industriei, care trag semnale de alarmă cu privire la propria tehnologie, pe măsură ce acțiunile modelelor devin mai greu de înțeles.
Dificultăți în reglementare și monitorizare
Preocupările legate de viteza de evoluție a AI sunt resimțite și la nivel global. OpenAI, Anthropic și peste 100 de alte companii au avertizat că timpul pentru pregătirea în fața unor atacuri cibernetice majore, facilitate de inteligența artificială, se apropie de final. Sam Altman a subliniat dificultățile cu care se confruntă Congresul american în stabilirea unui cadru de reglementare pentru o tehnologie aflată într-o continuă și rapidă transformare.
Jakub Pachocki, cercetător-șef la OpenAI, a declarat jurnaliștilor că organizația colaborează cu entități externe pentru a stabili standarde concrete și își consolidează propriile proceduri interne. Cu toate acestea, în timp ce așteptarea reglementărilor continuă, modelele AI devin din ce în ce mai dificil de descifrat. Pachocki a recunoscut că va deveni din ce în ce mai greu să fie monitorizate procesele de raționament ale acestor sisteme.
Un raport recent al publicației The Information sugerează că cel mai nou model OpenAI ar fi utilizat o tehnică nouă ce ar fi redus transparența proceselor sale de raționament, o afirmație contestată de OpenAI. În contextul unui incident cibernetic în care un model OpenAI a accesat o bază de date de inteligență artificială pentru a obține răspunsuri la un test, un cercetător a afirmat că volumul uriaș de activitate generat de agenții AI face imposibilă monitorizarea umană fără ajutorul altor sisteme AI. Sydney Von Arx, cercetătoare în siguranța AI și fondatoarea Nightingale, a comparat această lipsă de vizibilitate asupra raționamentului modelelor cu un impact chiar mai mare decât incidentul menționat.
Temerea principală este că procesele de raționament ale unui model s-ar putea desfășura într-un strat ascuns, permițând astfel efectuarea unor acțiuni periculoase fără ca oamenii să fie conștienți. OpenAI susține că, deși Astra expune mai rar raționamentul său în scris comparativ cu modelele anterioare, acest lucru nu este o consecință intenționată a unei tehnici de ascundere. Indiferent de cauză, dacă modelele își exteriorizează mai puțin procesele de gândire, devine mai dificil de monitorizat comportamentul lor. Inteligența artificială devine astfel mai greu de supravegheat, iar chiar și persoanele care conduc dezvoltarea acestei tehnologii solicită sprijin pentru gestionarea riscurilor.
Sursa: Digi24
