Apple a amenințat că va elimina aplicația Grok de pe App Store, dezvoltată de xAI, compania lui Elon Musk, din cauza generării de imagini cu tentă sexuală, conform unei scrisori obținute de NBC News. Avertismentul, emis în ianuarie, a venit ca urmare a distribuirii de către utilizatori, fără consimțământ, a unor imagini sexualizate cu femei și copii create de chatbot.
Presiuni interne și externe
Scrisoarea, trimisă de Apple senatorilor americani, dezvăluie detalii despre discuțiile confidențiale dintre cele două companii. Americanii Ron Wyden, Ben Ray Lujan și Edward Markey au îndemnat Apple și Google să retragă aplicația Grok. Senatorii au argumentat că imaginile create încalcă regulile App Store, care interzic conținutul ofensator, sexual și de exploatare.
Inițial, Apple a respins o soluție propusă de xAI, considerând-o insuficientă. Gigantul tehnologic a cerut modificări suplimentare, avertizând că, în caz contrar, Grok va fi eliminată. După mai multe runde de discuții, Apple a aprobat o versiune îmbunătățită a aplicației. Compania a constatat că atât X, cât și Grok încălcau politicile magazinului App Store.
Reacția X și măsurile de protecție
După publicarea raportului NBC News, X a emis o declarație prin care sublinia interdicția de a genera deepfake-uri explicite fără consimțământ. Platforma a menționat implementarea unor măsuri de protecție extinse, inclusiv monitorizarea continuă a utilizării publice, analiza în timp real a încercărilor de eludare a sistemului și actualizări frecvente.
Cu toate acestea, reportajele au indicat că Grok este încă capabil să genereze imagini similare, unii utilizatori ajustându-și comenzile pentru a ocoli măsurile de protecție. Numărul de deepfake-uri sexualizate create de Grok și postate pe X pare să fi scăzut, dar capacitatea de a genera astfel de conținuturi nu a fost complet eliminată.
Impactul asupra App Store și viitorul AI
Decizia Apple de a interveni subliniază importanța moderării conținutului în aplicațiile bazate pe inteligența artificială, în special în ceea ce privește respectarea reglementărilor privind conținutul sensibil. Această situație ridică semne de întrebare cu privire la viitorul aplicațiilor AI pe platformele majore și la echilibrul delicat dintre inovație și responsabilitate.
Senatorii implicați în această anchetă au subliniat că răspunsul Apple va pune la încercare propriile politici ale companiei. Companiile de tehnologie se confruntă cu presiuni tot mai mari din partea autorităților legislative și a publicului pentru a-și asuma responsabilitatea pentru conținutul generat de instrumentele lor AI.
