Chi c’è dietro la diffusione dei nudi deepfake di Taylor Swift? Microsoft: “Abbiamo rafforzato i nostri sistemi di sicurezza”

Anche i membri del congresso degli Stati Uniti si sono espressi contro i deepfake porno di Taylor Swift. La pubblicazione di immagini non consensuali create con l’intelligenza artificiale avvenuta nelle scorse settimane continua ad avere strascichi su X (ex Twitter) dopo che la piattaforma social ha ripristinato la possibilità di cercare il nome di Swift. Opzione che era stata disabilitata per proteggere l’artista.

I legislatori stanno iniziando a introdurre leggi per prevenire questo tipo di abusi. La scorsa settimana il deputato Joe Morelle (del partito democratico) ha rinnovato gli sforzi per rendere la condivisione non consensuale di immagini alterate digitalmente un reato federale che prevede pene detentive. Anche la Casa Bianca ha commentato la questione, con la responsabile dei rapporti con la stampa Karine Jean-Pierre che ha rimproverato alle piattaforme social il loro ruolo nella diffusione delle immagini.

Altri articoli

tecnologia

Anne Hathaway e Tom Hanks, la loro immagine “ringiovanita” sarà tutelata dalla IA Metaphysic

tecnologia

AI Act, l’artista Lorenzo Ceccotti: “Le regole europee per l’intelligenza artificiale sono una conquista importante per i creativi di tutto il mondo”

Le dichiarazioni della Casa Bianca

“Sappiamo che troppo spesso l’applicazione lassista della legge colpisce in modo sproporzionato le donne”, ha dichiarato Jean-Pierre. “Sebbene le aziende di social media prendano le loro decisioni indipendenti sulla gestione dei contenuti, crediamo che abbiano un ruolo importante da svolgere nel far rispettare le loro regole per impedire la diffusione di disinformazione e di immagini intime non consensuali di persone reali”.

Adesso che l’allarme sembra rientrato, tuttavia, è tempo di una domanda essenziale: qual è la fonte di queste immagini e come si sono diffuse? A partire da mercoledì 31 gennaio, una delle false immagini di Swift più diffuse tra quelle apparse inizialmente su X ha attirato oltre 45 milioni di visualizzazioni, 24.000 repost e centinaia di migliaia di like e salvataggi. Ci sono volute 17 ore perché la piattaforma di proprietà da Elon Musk sospendesse l’account dell’utente per violazione delle policy.

Le immagini false in questione ritraggono Swift in posizioni allusive sullo sfondo di partite dei Kansas City Chiefs, a cui la star ha partecipato ultimamente per sostenere il suo fidanzato, Travis Kelce. Secondo quanto riportato da Emanuel Maiberg e Sam Cole di 404 Media, le immagini false arrivano da 4chan – il sito web senza regole fortemente associato ai teorici della cospirazione Q-Anon – e da un gruppo sull’app Telegram in cui gli utenti condividono immagini generate dall’intelligenza artificiale di donne celebri. I rendering di Swift creati dall’intelligenza artificiale sono apparsi anche sul sito web Celebrity Jihad, noto per la pubblicazione di video privati e deepfake di celebrità a scopo di satira.

La risposta di Microsoft

La testata 404 riferisce che le immagini di Swift non sembrano essere il risultato della sovrapposizione del volto di Swift a un’immagine pornografica, ma sono state create con uno strumento di generazione di immagini IA disponibile in commercio, probabilmente Designer di Microsoft. Gli utenti del gruppo Telegram e di 4chan condividono anche i prompt per aggirare le protezioni di Microsoft che impediscono la generazione di immagini esplicite.

“Ci impegniamo a fornire un’esperienza sicura e rispettosa per tutti”, ha dichiarato un portavoce di Microsoft a The Hollywood Reporter via email giovedì 1 febbraio, in risposta alle segnalazioni sull’utilizzo di Designer per creare le immagini controverse. “Stiamo continuando a indagare su queste immagini e abbiamo rafforzato i nostri sistemi di sicurezza esistenti per evitare che i nostri servizi vengano utilizzati in modo improprio per generare immagini come queste”.

La reazione di TikTok e altri social

Nella questione che si è scatenata quando le false immagini di Swift si sono diffuse online, uno degli account che sembra averle portate in superficie dal web è stato l’utente @Zvbear. Secondo quanto riferito, all’epoca aveva circa 83.000 follower, ma da allora ne ha persi diverse migliaia. Altri account associati all’utente su X e TikTok sono stati chiusi, in seguito a un articolo di Newsweek che ha citato diversi post di @Zvbear su X prima che l’account diventasse privato, tra cui “Il mio post su Taylor è diventato virale e ora tutti lo stanno ripostando”.

Swift e il suo team non si sono espressi pubblicamente su questa controversia e non hanno risposto alle molteplici richieste di commento di THR. Una fonte ha tuttavia accennato a un’azione legale in fase di valutazione, riportata dal Daily Mail. “Si sta decidendo se intraprendere o meno un’azione legale, ma una cosa è chiara: queste immagini false, generate dall’intelligenza artificiale, sono violente, offensive, volte allo sfruttamento e realizzate senza che Taylor desse il consenso e/o ne fosse informata”, ha affermato la fonte anonima.

Traduzione di Nadia Cazzaniga