La svolta europea sull’intelligenza artificiale. Brando Benifei: “Ci sarà più trasparenza”

Le intelligenze artificiali (IA), in Europa, diventano più trasparenti. Questo è il segnale lanciato dal parlamento europeo, che il 14 giugno ha approvato a larga maggioranza una proposta di regolamentazione sulla next big thing. Una mossa che ha scosso il mondo della tecnologia, e che ha fatto tremare i muri delle big tech della Silicon Valley.

L’Ai Act, questo il nome della regolamentazione, è tra i primi progetti legislativi sul fronte delle intelligenze artificiali. “Il documento è stato allineato ai requisiti del GDPR (il regolamento sulla protezione dei dati, ndr), è molto rigoroso”, afferma l’eurodeputato del Partito democratico Brando Benifei (gruppo socialisti e democratici), e relatore del testo assieme all’eurodeputato di Renew Dragos Tudorache. Una legge che, secondo il parlamentare romeno, “stabilirà uno standard a livello mondiale per lo sviluppo e la governance dell’intelligenza artificiale”.

Altri articoli

tecnologia

YouTube: con DreamTrack si potranno generare (grazie all’IA) canzoni di John Legend e Demi Lovato

tecnologia

Microsoft e OpenAI accusate di “furto dilagante” di materiale coperto da diritto d’autore

IA e diritto d’autore

La proposta di legge – spiega l’eurodeputato a THR Roma – era in lavorazione “da quasi due anni”. Nel 2021, racconta Benifei, è stata avviata la commissione di studio su queste nuove tecnologie, all’epoca meno note e popolari. L’ingresso sul mercato di strumenti di cosiddetta IA generativa – come Chat GPT e MidJourney – ha accelerato il processo, permettendo alle istanze di autori e creativi di trovare spazio nel documento.

“Nel testo originario non si parlava ancora di IA generativa. Abbiamo inserito successivamente un passaggio sulla necessità di elencare i contenuti protetti da copyright che vengono usati per allenare le intelligenze artificiali. Ma il principio è chiaro – afferma – noi non cambiamo la normativa copyright. Piuttosto, forniamo uno strumento di trasparenza: gli autori, in presenza di una violazione, possono far valere i propri diritti”.

Sono entrate nel testo infatti le proposte del movimento Egair (European Guild for Artificial Intelligence Regulation), che si ritiene molto soddisfatto della bozza approvata all’europarlamento. Ma – afferma un portavoce – mancano ancora diversi dettagli. Il principale dei quali, spiega l’artista e co-fondatore dell’iniziativa Lorenzo Ceccotti (in arte LRNZ), è la possibilità del cosiddetto opt-in volontario: ovvero il consenso informato prima dell’inserimento di contenuti protetti da copyright nei database con cui si “allenano” le intelligenze artificiali. Nel testo attuale permane il silenzio assenso, che permette ai detentori dei diritti di agire solo dopo che il proprio lavoro è entrato nel database (il cosiddetto opt-out).

Una considerazione “giusta”, risponde Benifei, “ma non ancora tecnicamente possibile e politicamente sostenibile nella negoziazione con gli Stati membri”. Il dialogo comincerà il 18 luglio, con l’attuale presidenza del Consiglio Ue presieduta dalla Spagna. “La formulazione è volutamente vaga e aperta – continua l’eurodeputato – non avevamo modo di essere più precisi in questa fase di scrittura”.

Brando Benifei (S&D), co-relatore dell’Ai Act

OpenAi e il lobbying

All’alba dell’approvazione in parlamento, un’inchiesta del Time ha raccontato del tentativo di OpenAi (l’organizzazione di ricerca sull’intelligenza artificiale) di influenzare la regolamentazione. L’obiettivo dell’azienda sarebbe stato quello di evitare che le creazioni delle IA finissero nella classificazione ad “alto rischio”, cioè la categoria attribuita dal Parlamento ai sistemi che arrecano “danni significativi alla salute, alla sicurezza, ai diritti fondamentali delle persone o all’ambiente”.

“Non ho mai incontrato direttamente Sam Altman (Ceo di OpenAi, ndr), ma naturalmente Open Ai, come tutte le grandi aziende, si è fatta viva. Anche nel mio ufficio, esattamente come in quello di altri deputati” ha detto Benifei, rivendicando la “linea dura” sulle IA generative.

“Mi sono espresso a favore per l’inserimento nella categoria ad alto rischio delle IA generative. Alla fine abbiamo optato per l’obbligo alla trasparenza, secondo la volontà della maggioranza dei gruppi parlamentari”. A far mancare la maggioranza in Parlamento a favore di una linea politica più dura sarebbero stati i gruppi di destra, contrari all’inserimento tout court delle IA generative nei sistemi ad “alto rischio”.

“La soluzione trovata è comunque importante, impone obblighi di trasparenza significativi sui modelli di fondazione”, afferma Benifei. Il timore dell’eurodeputato però è che con il negoziato il testo si possa annacquare, secondo lui in questa fase arriveranno “pressioni lobbistiche”. E aggiunge: “il testo è da difendere, dovremo contrastarle”.

La polizia predittiva verso la messa al bando

La regolamentazione inoltre propone una messa al bando categorica sui sistemi di sorveglianza biometrica, sul riconoscimento emotivo e sulla polizia predittiva. Sistemi che ricordano vagamente il film Minority Report, con Tom Cruise, o Person of Interest, la serie televisiva CBS con Michael Emerson e Jim Caviezel. Se il regolamento sarà approvato “entro la fine dell’anno”, dice l’eurodeputato Brando Benifei, “Giove ha i giorni contati”. Giove è il software basato su algoritmo di intelligenza artificiale che il governo meloni e il Ministero dell’Interno vorrebbero dare in dotazione a tutte le questure d’Italia, in modo da “prevenire e reprimere” i reati a maggior impatto sociale.

Tuttavia, come riporta Wired, questi sistemi sembrano non funzionare, poiché non sono in grado di trovare corrispondenze con la realtà, e operano sulla base di forti pregiudizi. Le IA, infatti, essendo allenate da esseri umani, trasportano dietro tutti i loro pregiudizi. Ne esce fuori che le intelligenze artificiali possono essere razziste, Open Ai – prima del lancio di Chat GPT – aveva affidato il lavoro di allenamento sul fronte pregiudizi a un’azienda in Kenya (peraltro sottopagando i lavoratori).

“Sono sistemi che sconsigliamo ai governi di mettere in campo,” afferma l’eurodeputato dem. “Con la norma attuale pensiamo di difendere questo principio anche nel negoziato coi governi – aggiunge – o almeno io ho intenzione di difenderlo come punto irrinunciabile”. “Se il regolamento venisse approvato – come afferma Benifei – entro la fine dell’anno (confermando le fonti del Sole 24 Ore) – “allora un progetto come quello di Giove non sarà più possibile”.