Experții avertizează că inteligența artificială (IA) ar putea remodela profund modul în care opinia publică este formată și cum funcționează democrațiile. Cercetările recente indică faptul că personaje virtuale extrem de realiste, controlate de IA, sunt pe cale să joace un rol major în spațiul online. Aceste „roiuri” de IA pot genera mesaje convingătoare și pot influența dezbaterile publice prin intermediul conturilor false.
Un studiu publicat într-o revistă științifică detaliază capacitatea acestor agenți IA de a imita comportamentul uman online. Sistemele pot intra în comunități digitale, pot participa la discuții și influența punctele de vedere cu o viteză extraordinară. Spre deosebire de rețelele de boți anterioare, acești agenți IA se pot coordona instantaneu, pot răspunde la feedback și pot menține narațiuni coerente pe mii de conturi.
Cum funcționează aceste personaje virtuale
Progresele rapide în domeniul modelelor lingvistice de mari dimensiuni și al sistemelor multi-agent au făcut posibil ca un singur operator să gestioneze rețele vaste de „voci” ale IA. Aceste personaje pot părea autentice, pot adopta limba și tonul local și pot interacționa într-un mod care pare natural pentru ceilalți utilizatori. Mai mult, ele pot desfășura milioane de experimente la scară mică pentru a determina care mesaje sunt cele mai convingătoare.
Acest lucru le permite să-și rafineze strategiile de comunicare în timp real și să genereze un aparent consens public larg. În realitate, acest consens este creat artificial și conceput pentru a influența discuțiile politice și sociale.
Riscuri concrete și semnale de alarmă
Deși roiurile de IA pe deplin dezvoltate sunt încă în mare parte teoretice, cercetătorii atrag atenția asupra semnalelor de avertizare existente. Deepfake-urile generate de IA și sursele de știri false au influențat recentele discuții electorale în țări precum Statele Unite, Taiwan, Indonezia și India. De asemenea, organizațiile de monitorizare au identificat rețele pro-Kremlin care răspândesc volume mari de conținut online.
Se crede că această activitate are ca scop modelarea datelor utilizate pentru antrenarea viitoarelor sisteme de IA, influențând potențial modul în care aceste sisteme se comportă și ce informații prioritizează.
Impactul asupra democrației
Experții avertizează cu privire la potențialul impact major al acestor sisteme asupra echilibrului de putere în societățile democratice. Dr. Kevin Leyton-Brown, informatician, a subliniat că aceste sisteme vor schimba probabil modul în care oamenii au încredere în informațiile online. „Nu ar trebui să ne imaginăm că societatea va rămâne neschimbată odată cu apariția acestor sisteme. Un rezultat probabil este scăderea încrederii în vocile necunoscute de pe rețelele sociale, ceea ce ar putea da putere vedetelor și ar face mai dificilă afirmarea mesajelor venite de la nivelul de bază”.
În contextul acestor evoluții, atenția se îndreaptă către necesitatea unor măsuri de reglementare și a unei educații sporite a publicului cu privire la pericolele potențiale ale informațiilor generate de IA. Este crucială dezvoltarea unor instrumente de detectare a conținutului falsificat și a strategiilor de combatere a dezinformării.
