Conform Mediafax: IA accentuează prejudecățile de gen în poveștile pentru copii
Cercetătorii au descoperit că inteligența artificială (IA) nu doar perpetuează, ci chiar accentuează prejudecățile de gen în poveștile pentru copii, în special în cele cu animale vorbitoare, unde genul personajelor este ambiguu. Studiul subliniază o problemă serioasă în dezvoltarea tehnologiilor pe care începem să ne bazăm din ce în ce mai mult.
Oamenii își spun povești de mii de ani, acestea având diverse scopuri: de la înțelegerea lumii și transmiterea tradițiilor, la educarea morală și divertisment. Poveștile au fost mereu o oglindă a societății și a valorilor sale.
Rezultatele studiului, îngrijorătoare
Conform unui studiu recent publicat în ScienceAlert, șase modele importante de IA generativă au fost solicitate să creeze povești în limba engleză despre animale fără gen precizat. Scopul era să se observe dacă IA va evita atribuirea unui gen sau dacă prejudecățile existente se vor manifesta.
Rezultatele au fost alarmante: din peste 23.800 de povești generate, personajele animale feminine au apărut în doar 2% dintre cazuri. În 41% dintre povești, personajele au fost descrise ca fiind de sex masculin, în timp ce în 57% din cazuri, modelul IA a evitat complet atribuirea unui gen.
Prejudecățile, amplificate de IA
Se știe că modelele IA reflectă datele pe care au fost antrenate. Însă, în acest caz specific, prejudecata pare să fi fost amplificată. O analiză a 300 de cărți populare pentru copii a arătat că personajele animale masculine apar de două ori mai des decât cele feminine. În comparație, studiul cu IA a relevat o discrepanță mult mai mare: personajele feminine au apărut în doar 513 povești, în timp ce cele masculine în 9.673, o diferență de aproape 19 ori.
Modelele IA testate includ Claude Sonnet 4.5, Gemini 2.5, GPT-4o, GPT-5.1, Mistral Medium și modelul open-source Olmo 3. Acestea au demonstrat o performanță inferioară față de oamenii cărora li s-a cerut aceeași sarcină, generând mai puține povești cu personaje feminine.
Pe măsură ce IA este utilizată pe scară largă pentru scris, cercetare, programare și alte activități, acest studiu servește ca un avertisment important. Acuratețea și echilibrul acestor modele depind fundamental de informațiile pe care le primesc de la oameni, incluzând, din păcate, și prejudecățile noastre.
Sursa: Mediafax
