Europarlamentarul Dan Motreanu atrage atenția asupra riscurilor generate de utilizarea tehnologiei avansate de inteligență artificială, în special în domeniul generării și manipulării imaginilor intime sau sexuale, și solicită clarificări din partea Uniunii Europene în privința reglementărilor viitoare. În contextul în care legislația europeană privind AI urmează să intre în vigoare începând din august 2026, propunerea lui vine într-un moment în care acest domeniu devine tot mai controversat și plin de provocări pentru autorități și companii.
Reguli mai clare pentru utilizarea AI în crearea imaginilor intime
Motreanu susține ferm necesitatea unei reglementări stricte pentru aplicațiile care utilizează inteligența artificială pentru a crea sau modifica imagini sexuale sau intime, în mod ilegal, și fără consimțământul persoanei vizate. „Susțin interzicerea aplicațiilor care folosesc inteligența artificială pentru a crea sau manipula imagini sexuale sau intime ce seamănă cu o persoană reală, fără consimțământul acesteia”, a transmis europarlamentarul, accentuind pericolul răspândirii acestor conținuturi, mai ales în era digitală, unde accesul și distribuția sunt extrem de rapide și greu de controlat.
În cadrul discuțiilor din cadrul Comisiilor pentru Piața Internă și Libertăți Civile, membrii uniunii europene analizează posibilitatea includerii acestor practici în lista celor interzise de legislația comunitară. Concluziile și regulile finale ar urma să stabilească dacă și în ce măsură astfel de tehnologii vor fi interzise în tot teritoriul UE, în vederea protejării drepturilor individuale și a prevenirii abuzurilor.
Contextul legislației și limitele actuale ale reglementărilor
Regulamentul european privind inteligența artificială, care va deveni obligatoriu începând cu anul 2026, impune pentru primele modele de AI obligația de a evalua și minimiza riscurile asociate, inclusiv cele legate de conținutul ilegal sau discriminatoriu. Însă, în prezent, legislația nu prevede în mod explicit interzicerea tehnologiilor de tip deepfake sexual sau materialele ce pot conține abuzuri asupra minorilor. Această lacună a determinat unele state membre, printre care și România, să formuleze deja propuneri concrete pentru extinderea acestor interdicții.
Astfel, deși reglementările în vigoare oferă o anumită protecție, acestea nu acoperă în totalitate toate formele de manipulare a conținutului generat de AI. În special, tehnologiile care pot produce imagini sexuale fictive sau abuzive, inclusiv cele ce pot ajunge la forme de pornografie infantilă, rămân o zonă de risc, în ciuda eforturilor de reglementare.
Investigație asupra platformei X și riscurile reprezentate
Nu în ultimul rând, autoritățile europene au demarat o anchetă împotriva platformei X, cea mai populară rețea socială la nivel global, pentru modul în care gestionează riscurile generate de noile funcționalități bazate pe inteligența artificială. În cadrul acestei proceduri, se verifică dacă dezvoltatorii au evaluat și au gestionat corespunzător riscurile de distribuție a conținutului ilegal, cum ar fi imagini manipulate cu caracter sexual explicit sau materiale ce pot intra în categoria pornografiei infantile.
Conform Regulamentului privind serviciile digitale, dacă se vor dovedi nereguli, compania riscă amenzi consistente, de până la 6% din cifra de afaceri globală, o sancțiune care vrea să devină un avertisment clar pentru platformele de socializare și tehnologiile emergente. Această acțiune reflectă eforturile de a crește responsabilitatea jucătorilor din tehnologie în fața noilor provocări generate de avansul rapid al AI, dar și dorința de a proteja utilizatorii, în special cele mai vulnerabile grupuri.
Și în timp ce legislația europeană continuă să se adapteze la noile realități digitale, se observă o schimbare de paradigmă în modul în care autoritățile, companiile și societatea civilă abordează problemele legate de confidențialitate, siguranță și etică în era inteligenței artificiale. Rămâne de văzut dacă propunerile și acțiunile în derulare vor reuși să asigure un echilibru între inovație și protecție, pentru ca tehnologia să servească interesele cetățenilor și nu să devină o sursă de riscuri sau abuzuri.
