Tra falsi d’archivio e deepfake. I documentaristi statunitensi propongono linee guida sull’IA

Mentre i registi iniziano a utilizzare maggiormente l’intelligenza artificiale generativa (IA) nella produzione di documentari, con crescenti preoccupazioni per l’uso di materiali “falsi d’archivio”, un gruppo di produttori sta portando avanti una battaglia per stabilire dei paletti all’uso di questa tecnologia nella narrazione di fatti reali.

Martedì 16 aprile, i leader dell’Archival Producers Alliance – un gruppo di circa 300 ricercatori e produttori che lavorano nel campo dei documentari a livello internazionale, tra cui registi vincitori premi Oscar e Emmy – hanno presentato la prima bozza di una serie di buone pratiche proposte per l’uso dell’IA generativa nel loro campo (i produttori di archivi trovano e concedono in licenza materiali appropriati, come foto storiche e filmati, per progetti di saggistica).

Altri articoli

festival-e-premi

ITTV Forum&Festival: l’audiovisivo italiano a Los Angeles. “Un centro di riferimento a Hollywood”

tecnologia

Egair, una piattaforma per rendere trasparenti le intelligenze artificiali. Ceccotti: “È una battaglia europea”

Durante la sessione della conferenza biennale Getting Real dell’International Documentary Association a Los Angeles, i fondatori dell’APA Rachel Antell e Jennifer Petrucelli (Crip Camp) e Stephanie Jenkins (Muhammad Ali) hanno presentato una prima idea su come i registi potrebbero gestire il consenso, le fonti primarie e la trasparenza in un’epoca in cui gli strumenti di IA generativa sono un’opzione, e hanno sollecitato il feedback dei partecipanti.

L’IA nei documentari

“Riconosciamo che l’intelligenza artificiale è qui, ed è qui per restare. E riconosciamo che porta con sé un potenziale di straordinarie opportunità creative”, ha affermato Petrucelli durante la conferenza. “E allo stesso tempo, vogliamo incoraggiare le persone ad andare avanti, collettivamente, con ponderatezza e intenzione mentre iniziamo a navigare in questo panorama nuovo e in rapida evoluzione”.

L’uso dell’intelligenza artificiale nei documentari è diventato un argomento scottante nel settore, non solo per il miglioramento della tecnologia, ma anche perché alcuni registi hanno iniziato a sperimentarla in progetti importanti.

Prendiamo ad esempio Roadrunner: A Film About Anthony Bourdain del 2021, che ha suscitato polemiche quando il regista Morgan Neville ha rivelato in alcune interviste di aver ordinato una voce sintetica di Bourdain per poter far pronunciare a “Bourdain” tre battute di cui non esistevano registrazioni. Anche il regista Andrew Rossi ha utilizzato un facsimile di IA della voce di Andy Warhol nel film I diari di Andy Warhol del 2022, in modo che “Warhol” potesse leggere ad alta voce le righe dei suoi diari, una tecnica approvata dalla Andy Warhol Foundation.

Il gruppo APA ha affrontato nel corso del 2023 una serie di conversazioni sul crescente uso dell’IA nei documentari, ha sottolineato Jenkins. “Abbiamo iniziato a vedere che alle persone veniva chiesto di creare materiali d’archivio falsi, come immagini fotorealistiche indistinguibili dalle fonti primarie”, ha affermato.

Necessarie linee guida

Nel documento della bozza di linee guida dell’APA che The Hollywood Reporter ha ottenuto, il gruppo afferma che le raccomandazioni sono intese a “riaffermare i valori giornalistici che la comunità del documentario ha da tempo”. L’intelligenza artificiale generativa offrirà opportunità ai registi, aggiunge il gruppo, e non si pone il problema dell’uso della tecnologia per ritoccare o restaurare le immagini.

Piuttosto, le linee guida “intendono affrontare la creazione di nuovi materiali, così come alterazioni sostanziali di materiali di fonte primaria esistenti che ne cambino il significato in modi che potrebbero fuorviare il pubblico”.

A tal fine, l’APA incoraggia l’uso di fonti primarie nella sua bozza di documento. Quando l’IA generativa deve essere usata al posto di queste fonti, aggiunge il gruppo, i registi dovrebbero considerare le distorsioni algoritmiche prodotte dai dati su cui la tecnologia è addestrata, e contemplare che nel loro processo di produzione il “materiale sintetico”, se condiviso online e in altri spazi, “rischia di confondere per sempre la documentazione storica”.

Il gruppo chiede inoltre che l’industria sia trasparente sull’uso dell’IA, sia rivelandone l’uso ai colleghi durante la produzione, ai team legali e ai soggetti, sia facendone chiaramente menzione agli spettatori. Il gruppo esorta i registi a “intraprendere un esame legale approfondito” quando utilizzano l’IA generativa e a prendere in considerazione la possibilità di richiedere “un consenso aggiuntivo” rispetto a quello richiesto dalla legge quando uno strumento di machine learning viene utilizzato per trasformare le sembianze dei loro soggetti.

Reclamare la tecnologia

Durante il dialogo di martedì, il responsabile del programma di creatività e libera espressione della Ford Foundation Jon-Sesrie Goff, la produttrice di documentari Elizabeth Woodward e la produttrice supervisore di ITVS Shana Swanson hanno offerto un feedback sulla bozza iniziale delle linee guida.

Woodward, il cui film del 2023 Another Body ha utilizzato un deepfake del suo soggetto – una studentessa universitaria che trova online una pornografia deepfake di se stessa – per oscurare la sua identità, ha sottolineato come gli strumenti di IA generativa abbiano permesso al soggetto del film di “reclamare una tecnologia che è stata usata per attaccarla e metterla a tacere”.

A proposito dell’uso dell’IA da parte del suo team di registi, ha aggiunto: “Non avevamo un protocollo o delle linee guida da seguire, quindi so che questo sarà molto utile per i registi”. Swanson ha suggerito all’APA di incontrare gli assicuratori e di coinvolgere un “gruppo più ampio” nelle discussioni sulla bozza delle linee guida, compresi i finanziatori e i distributori.

Il futuro del documento sull’IA

L’APA – all’epoca una coalizione di circa 100 professionisti che aveva solo pochi mesi di vita – aveva annunciato per la prima volta l’intenzione di creare una serie di linee guida per il settore in una lettera aperta del novembre 2023.

Nei mesi successivi, un gruppo di membri si è riunito per scrivere il documento iniziale dei protocolli, esaminando le regole della PBS e della BBC e le disposizioni dei contratti della Writers Guild of America e della SAG-AFTRA. Il gruppo ha incontrato anche la studiosa di AI Marie desJardins e l’assistente di ricerca del MIT Media Lab Robert Mahari, nonché il professore emerito del programma di documentari dell’Università di Stanford.

I prossimi passi del gruppo, hanno spiegato i leader, saranno quelli di sollecitare ulteriori feedback sulla bozza delle linee guida da parte dei produttori d’archivio e di incontrare streamer e network, di trovare registi e società di produzione specifici disposti a sottoscrivere il documento, di creare un “consiglio” che potrebbe effettuare una revisione annuale del codice per garantire che rimanga aggiornato e di creare potenzialmente un protocollo di certificazione per i progetti che utilizzano queste linee guida. Il gruppo punta a pubblicare il documento finale nell’estate del 2024.