I deputati del Parlamento Europeo hanno approvato a livello di commissione l’accordo provvisorio sulla legge sull’intelligenza artificiale (Artificial Intelligence Act, a cui si fa spesso riferimento come AI Act) che garantisce la sicurezza e rispetta i diritti fondamentali.
La Commissione per le libertà civili, la giustizia e gli affari interni e la Commissione per il mercato interno e la protezione dei consumatori del Parlamento Europeo, in una riunione congiunta, hanno votato 71-8 (con 7 astensioni) per approvare il risultato dei negoziati con gli Stati membri sulla legge sull’intelligenza artificiale.
Questo regolamento mira a proteggere i diritti fondamentali, la democrazia, lo stato di diritto e la sostenibilità ambientale dall’AI ad alto rischio. Allo stesso tempo, mira a stimolare l’innovazione e ad affermare l’Europa come leader nel campo dell’AI. Le norme stabiliscono obblighi per l’IA in base ai suoi rischi potenziali e al livello di impatto.
L’accordo, spiegano le due commissioni, vieta alcune applicazioni di AI che minacciano i diritti dei cittadini, tra cui i sistemi di categorizzazione biometrica basati su caratteristiche sensibili, lo scraping non mirato di immagini facciali da Internet o da filmati di telecamere a circuito chiuso per i database di riconoscimento facciale, il riconoscimento delle emozioni sul posto di lavoro e nelle scuole, il social scoring, la polizia predittiva basata esclusivamente sul profilo di una persona o sulla valutazione delle sue caratteristiche e l’AI che manipola il comportamento umano o sfrutta le vulnerabilità delle persone.
Secondo l’accordo approvato dalle due Commissioni del Parlamento Europeo, l’uso di sistemi di identificazione biometrica (RBI, biometric identification systems) da parte delle forze dell’ordine è vietato in linea di principio, tranne che in situazioni elencate in modo esaustivo e strettamente definite. I sistemi di identificazione biometrica “in tempo reale” possono essere utilizzati solo con rigorose garanzie, ad esempio limitati nel tempo e nell’ambito geografico, previa autorizzazione giudiziaria o amministrativa. Tali usi riguardano, ad esempio, la ricerca di una persona scomparsa o la prevenzione di un attacco terroristico. Anche l’utilizzo di tali sistemi a posteriori (“post-remote RBI“), considerato ad alto rischio, richiede un’autorizzazione giudiziaria e deve essere collegato a un reato.
Sono stati inoltre concordati obblighi chiari anche per altri sistemi di AI ad alto rischio, che potrebbero avere un impatto significativo su salute, sicurezza, diritti fondamentali, ambiente, democrazia e Stato di diritto. Tra gli usi ad alto rischio figurano quelli nelle infrastrutture critiche, nell’istruzione e nella formazione professionale, nell’occupazione, nei servizi essenziali (ad esempio sanità, banche), in alcuni sistemi di applicazione della legge, nella gestione della migrazione e delle frontiere, nella giustizia e nei processi democratici (ad esempio, l’influenza sulle elezioni). I cittadini avranno il diritto di presentare reclami sui sistemi di AI e di ricevere spiegazioni sulle decisioni basate su sistemi di AI ad alto rischio che riguardano i loro diritti.
I sistemi di AI per uso generale (GPAI, general-purpose AI) e i modelli su cui si basano devono soddisfare determinati requisiti di trasparenza e rispettare la normativa UE sul copyright durante il loro training. I modelli GPAI più potenti che potrebbero comportare rischi sistemici dovranno soddisfare ulteriori requisiti, tra cui l’esecuzione della valutazione del modello, la valutazione del rischio e la segnalazione degli incidenti. Inoltre, i contenuti artificiali o manipolati di immagini, audio o video (“deepfakes”) devono essere chiaramente etichettati come tali.
L’accordo prevede inoltre che verranno istituite sandbox normative e test reali a livello nazionale, offrendo alle PMI e alle start-up l’opportunità di sviluppare e addestrare l’AI innovativa prima di immetterla sul mercato.
Per quanto riguarda i prossimi passi, il testo attende l’adozione formale in una prossima sessione plenaria del Parlamento Europeo e l’approvazione finale del Consiglio. Sarà pienamente applicabile 24 mesi dopo l’entrata in vigore, ad eccezione dei divieti di pratiche vietate, che si applicheranno 6 mesi dopo l’entrata in vigore; dei codici di condotta (9 mesi dopo l’entrata in vigore); delle norme generali sull’AI, compresa la governance (12 mesi dopo l’entrata in vigore); e degli obblighi per i sistemi ad alto rischio (36 mesi).
Sul sito del Parlamento Europeo è possibile consultare la versione completa del testo.
