📚 AI ACT: il nuovo REGOLAMENTO europeo sull'INTELLIGENZA ARTIFICIALE

L'intelligenza artificiale ormai è ovunque, viene usata nelle scuole, negli ospedali, è dentro ai nostri telefoni, al nostro account di posta elettronica. Insomma, non è una cosa che si possa ignorare facilmente. Eppure, come abbiamo visto negli altri video di questa serie, può essere anche molto pericolosa. Può essere hackerata da malintenzionati e venire costretta a rivelare informazioni sul nostro conto che dovevano restare private. Può essere usata per hackerare altre persone, può essere usata anche dai governi per controllare i cittadini. Proprio per questo deve essere regolata, ed è qui che entra in gioco, almeno per noi europei, l'AI Act, il regolamento europeo sull'intelligenza artificiale, che serve proprio a regolare questo nuovo potentissimo strumento e che riguarda tutti noi, sia come proprietari o dipendenti di aziende che usano sistemi di intelligenza artificiale, sia come cittadini, perché questo regolamento prevede anche dei diritti che ci spettano. Ma andiamo con ordine. Ciao a tutti e benvenuti in questo nuovo video in cui parliamo dell'AI Act, il regolamento europeo 1689 del 2024, che rappresenta un tentativo anche abbastanza ambizioso di definire come vogliamo che l'intelligenza artificiale si comporti nella nostra società. Questa normativa è già stata recepita dall'Italia con la Legge 132 del 17 settembre 2025, che sostanzialmente è servita a prendere il regolamento e a riadattare quanto previsto alla nostra realtà. Ma partiamo dall'inizio: perché l'Europa ha sentito l'esigenza di fare una legge sull'intelligenza artificiale? Un po' lo abbiamo anticipato nell'introduzione: è uno strumento nuovo che viene utilizzato a tanti livelli, ma Non è tanto questo il punto, perché se fosse così allora dovrebbe essere creato anche un regolamento su Excel, visto che viene usato praticamente da chiunque. Il punto è quanto l'IA sia in grado di essere utilizzata male. Pensiamo a un sistema di intelligenza artificiale usato per selezionare i candidati migliori per un posto di lavoro analizzando il loro curriculum. Sembra una cosa innocua, no? Fare risparmiare tempo alle risorse umane facendo intanto una prima scrematura basata su criteri oggettivi, quindi non dovrebbero esserci particolari problemi. Ma cosa succede se questo sistema ha imparato da dati del passato dove magari c'era una discriminazione di genere o etnica? Il risultato è che l'algoritmo porta avanti e amplifica questi pregiudizi, escludendo candidati qualificati solo a causa appunto dei pregiudizi o dei bias insiti nell'addestramento. È vero che come lo fa il sistema di IA poteva farlo anche un normale dipendente. Tutti abbiamo dei pregiudizi. Non è che noi siamo santi e se vediamo una persona sappiamo valutarla in modo oggettivo. Però il fatto che sia automatizzato questo processo rende il tutto più pericoloso, proprio perché si rischia di portare avanti questo sistema senza supervisione umana. Oppure pensate ai sistemi di riconoscimento facciale usati dalla polizia. In Cina esiste già il famoso social scoring, cioè un sistema di punteggio sociale dove le azioni dei cittadini vengono monitorate costantemente utente in modo da determinare il punteggio di ciascuno, che serve poi per accedere a premi e servizi. Volete prendere un treno ad alta velocità? Spiacenti, il vostro punteggio sociale è troppo basso perché avete attraversato la strada col rosso 3 volte questo mese. L'Europa ha guardato a questi scenari e ha detto: ok, non ci siamo, questa cosa va regolata. La Commissione Europea ha lanciato la proposta dell'AI Act il 21 aprile 2021, quindi ben prima che ChatGPT e i suoi compari arrivassero sul mercato. Nella primavera 2024, dopo 3 anni di lavoro alla normativa, il Parlamento Europeo e il Consiglio hanno approvato il testo definitivo, che è stato pubblicato in Gazzetta Ufficiale a luglio 2024. Ma quindi, di che cosa parla questa norma? Partiamo dalla definizione che viene data ai protagonisti del regolamento, cioè i sistemi di intelligenza artificiale. Secondo il regolamento, un sistema di IA è un sistema automatizzato progettato per funzionare con diversi livelli di autonomia e che può mostrare capacità di adattamento dopo l'installazione e che, per obiettivi espliciti o impliciti, deduce dagli input che riceve come generare output, quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali. È una definizione volutamente ampia che cerca di catturare sia i sistemi già esistenti che quelli che arriveranno in seguito. Non volevano creare una normativa che nascesse vecchia. L'approccio rispetto a questi sistemi è molto pragmatico. Invece di dire tutta l'intelligenza artificiale è pericolosa o tutta l'intelligenza artificiale è meravigliosa, il regolamento dice dipende da cosa ci fai. È un approccio basato sul rischio, proprio come quello che ha reso famoso il GDPR per la protezione dei dati. In questo modo, più un sistema di IA è in grado di incidere sulla sicurezza delle persone o sui ha diritti fondamentali, più regole stringenti deve seguire. Proprio per questo l'AI Act divide i sistemi di intelligenza artificiale in 4 grandi categorie, e questa suddivisione è il pilastro portante di tutta la normativa. La prima categoria, che troviamo all'articolo 5, sono le pratiche vietate. Si tratta di 8 attività che hanno un rischio talmente alto che non possono essere né regolate né limitate, quindi è meglio vietarle. Il primo punto è dedicato ai sistemi che usano tecniche meccaniche subliminali o ingannevoli per manipolare il comportamento delle persone. Perché si applichi questo punto si richiede che il sistema distorca materialmente il comportamento di una persona in modo da provocare un danno significativo, quindi deve essere una manipolazione molto intensa con delle conseguenze gravi. Poi ci sono i sistemi che sfruttano le vulnerabilità specifiche delle persone dovute a età, disabilità o situazione socioeconomica. È la stessa cosa del punto A perché anche qui si parla di distorcere materialmente il comportamento della persona in modo da provocare a lei, ad altri, un danno significativo. Ma il target qui è più specifico, perché si parla di categorie di persone sempre vulnerabili. Il terzo punto è dedicato al social scoring, come dicevo, già utilizzato in Cina, che in Europa è invece completamente bandito. Il quarto punto vieta la valutazione del rischio di criminalità basato su caratteristiche personali o profilazione. Quindi non si possono usare sistemi che dicono dicono: questa persona ha maggiori probabilità di commettere un reato perché ha questi tratti di personalità o viene da questo quartiere. È una protezione contro la deriva verso un mondo alla Minority Report dove viene arrestato per crimini che non hai ancora commesso. È ammesso invece farsi aiutare dall'IA per capire quanto una persona sia coinvolta in un reato, ma semplicemente analizzando quello che è effettivamente successo, senza fare delle supposizioni basate su altri elementi come etnia, quartiere di provenienza, eccetera eccetera. Eccetera. Andando avanti, arriviamo al riconoscimento facciale. Allora, il riconoscimento facciale non è vietato, ma alcune pratiche lo sono. Per esempio, il quinto punto dice che non si possono creare o espandere dei database di riconoscimento facciale raccogliendo immagini da internet o da telecamere in modo indiscriminato. Non si può quindi prendere ogni immagine catturata dai filmati di videosorveglianza e darla in pasto all'IA in modo da creare un database su questo. Anche il sesto punto tratta del riconoscimento facciale, vietando l'uso di sistemi di intelligenza artificiale per scansionare e catalogare le emozioni in contesti lavorativi ed educativi. Quindi non si può analizzare con un'IA se i dipendenti o gli alunni sono felici o tristi. L'unica eccezione è l'uso per motivi medici o di sicurezza. Quindi va bene tenere d'occhio dipendenti anche con sistemi di IA se questo serve ad esempio a evitare infortuni sul lavoro. Passiamo al settimo punto, che vieta l'uso di sistemi per catalogare delle persone sulla base dei loro dati biometrici, come impronta digitale, DNA, voce, iride, eccetera, se da questi dati vengono tratte deduzioni in merito a opinioni politiche, orientamento sessuale, etnia, convinzioni religiose, filosofiche e così via. Ottava e ultima pratica vietata è l'uso da parte delle forze dell'ordine di sistemi di identificazione biometrica in tempo reale negli spazi accessibili al pubblico. Non si può quindi utilizzare, ad esempio, un sistema di videosorveglianza distanza dotato di intelligenza artificiale che scansioni ogni passante e analizzi i dati, a meno che non ci siano una serie di condizioni. Innanzitutto si può fare se questo serve a confermare l'identità di una persona, quindi non per catalogarle tutte in caso di bisogno, ma solo per identificarne una. Stiamo cercando un criminale, mettiamo la sua foto nel sistema e l'IA ci aiuta a trovarla. Oppure stiamo cercando la vittima di un rapimento, quindi deve sempre essere rivolto a cercare persone specifiche, e anche qui il sistema ci aiuta a trovarla. Un altro caso in cui si può utilizzare è se occorre prevenire una minaccia reale, sostanziale e imminente. C'è un rischio molto alto che stia per verificarsi in un certo luogo, un attacco terroristico? Ok, posso usarla anche in tempo reale. Un'altra condizione è che l'autorità che usa questo sistema deve aver fatto una valutazione di impatto sui diritti fondamentali, chiamata anche FRIA, e deve aver registrato il proprio sistema nella banca dati europea appositamente creata. In ogni caso, tutte queste cose si possono fare solo dopo aver chiesto l'autorizzazione a un'autorità giudiziaria o amministrativa. Va da sé che questa autorizzazione non può valere per sempre e per qualunque situazione. Le forze dell'ordine devono andare dall'autorità con una richiesta ben precisa, tipo: vogliamo usare questo sistema per cercare in questa città Tizia, vittima di rapimento, per un periodo di 6 mesi o finché non la troviamo. Quindi non non deve essere una richiesta generica a tempo indeterminato, ma una cosa molto precisa. Le 8 pratiche vietate mostrano, secondo me, una buona consapevolezza da parte del legislatore europeo di quali sono le inferenze eccessive nella vita dei cittadini e di quali sono invece i casi in cui si può chiudere un occhio. L'uso, ad esempio, dell'IA nell'attività di contrasto e prevenzione dei crimini è ammesso solo in casi ben specifici, però non è vietato del tutto, cioè non si sta dicendo "vade retro, IAA, sei il male" né si sta dicendo "ma sì, è uguale, fate quello che volete". Mi sembra ci sia un buon compromesso. Va notato inoltre che non sono vietati i sistemi in sé, ma l'uso che se ne fa. Infatti non parliamo di sistemi vietati, ma di pratiche vietate. Anche questo è un approccio molto elastico e consapevole, a mio parere. Questi divieti sono i primi a essere entrati in vigore, perché sono già applicabili dal 2 febbraio 2025, quindi da oltre un anno. E le sanzioni previste per chi li viola sono le più alte di tutto l'AI Act. Se un'azienda mette in atto una pratica vietata rischia una sanzione fino a 35 milioni di euro o il 7% del fatturato annuo, a seconda di quale sia il valore più alto. Quindi stiamo parlando di quasi il doppio della sanzione massima stabilita dal GDPR, che già non ci andava particolarmente leggero. Come dicevo comunque il regolamento parla di 4 categorie di sistemi di intelligenza artificiale e noi abbiamo appena visto la prima categoria, che è quella delle pratiche vietate. La seconda categoria è quella dei sistemi ad alto rischio, trattati nel capo terzo del regolamento, dall'articolo 6 in poi. Questi sistemi non sono vietati, ma devono rispettare regole molto stringenti prima di poter essere messi sul mercato, perché possono avere un impatto serio sulla vita delle persone. Anche qui a essere regolati non sono i sistemi in sé, ma l'uso in determinate aree. La sanità è una di queste, Si considerano ad alto rischio i sistemi che aiutano nelle diagnosi mediche, che decidono chi entra in una lista d'attesa per un trapianto o che gestiscono dispositivi medici critici. Nel mondo del lavoro troviamo sistemi per il reclutamento, per valutare le prestazioni dei dipendenti, per decidere promozioni o licenziamenti. Nel settore creditizio sono considerati ad alto rischio gli algoritmi che valutano se concedere un mutuo a chi lo chiede. Nell'educazione lo sono i sistemi che valutano esami o che decidono l'accesso a istituzioni educative. Nel campo dell'immigrazione lo sono i sistemi che valutano le domande di visto o che gestiscono i controlli alle frontiere. Anche l'accesso ai servizi pubblici e privati essenziali ci rientra se vengono utilizzati sistemi che decidono, ad esempio, chi ha diritto a sussidi sociali o all'assistenza sanitaria. E naturalmente ci rientra anche tutto ciò che riguarda la giustizia e le forze dell'ordine, come gli algoritmi che valutano il rischio di recidiva o che analizzano delle prove. Per tutti questi sistemi ad alto rischio, l'AI Act impone una serie di requisiti tosti. Prima di tutto devono avere un sistema di gestione dei rischi che funzioni in modo continuo, non solo al momento del lancio del sistema. Devono identificare i rischi, valutare quanto sono gravi, mettere in atto delle misure per eliminarli o mitigarli, monitorare nel tempo e ripetere questo ciclo periodicamente. Quindi non basta farlo una volta sola. È importantissima anche la parte di governance dei dati. I dati dati per addestrare questi sistemi devono essere di alta qualità, cioè devono essere accurati, completi e soprattutto liberi da bias, da pregiudizi discriminatori. Se addestriamo un sistema di selezione CV con dati discriminatori che dicono ad esempio che le donne sono meno intelligenti degli uomini, otterremo un sistema che discrimina. Quindi c'è un obbligo di analizzare attentamente i dati, documentare la loro origine e implementare misure per prevenire delle distorsioni. La documentazione tecnica deve essere completa e continuamente aggiornata. Dovete documentare come funziona il sistema di AI adottato, quali sono le sue capacità e i suoi limiti, com'è stato testato, quali problemi ha mostrato, come sono stati risolti. I log devono essere registrati automaticamente durante tutto il ciclo di vita del sistema. Se qualcosa va storto, deve essere possibile ricostruire cosa è successo. È la scatola nera dell'intelligenza artificiale, permette di capire perché il sistema ha preso una certa decisione. È fondamentale anche la trasparenza verso gli utenti. Chi interagisce con questi sistemi deve sapere che sta interagendo con un'intelligenza artificiale e deve capire, in termini ragionevolmente comprensibili, come funziona e su quali basi prende le sue decisioni. Ultimo ma non ultimo, la supervisione umana è obbligatoria e fondamentale. Deve sempre esserci una persona in grado di comprendere il sistema, monitorarlo, intervenire quando necessario e soprattutto avere l'ultima parola sulle decisioni importanti. L'intelligenza artificiale può suggerire, può assistere, ma nei momenti critici la decisione finale deve essere umana. Dal punto di vista burocratico è necessaria anche una valutazione di conformità. Prima di mettere sul mercato un sistema ad alto rischio, questo deve essere stato verificato da un organismo indipendente, anche se in certi casi può essere sufficiente un'autovalutazione del fornitore. Le regole complete per i sistemi ad alto rischio entreranno in vigore il 2 agosto 2026, anche se per i sistemi che sono invece componenti di prodotti già regolati da altre normative europee, come dispositivi medici o i veicoli, ci sarà un po' più di tempo, fino al 2 agosto 2027. Cosa succede se un'azienda non si adegua? Sanzione. Le sanzioni per la non conformità dei sistemi ad alto rischio arrivano fino a 15 milioni di euro o al 3% del fatturato mondiale annuo. Quindi sono meno della metà rispetto a quelle previste per le pratiche vietate, ma anche qui non stiamo parlando di La terza categoria di sistemi, dopo le pratiche vietate e i sistemi ad alto rischio, è quella dei sistemi a rischio limitato. Sono quelli che non fanno cose particolarmente pericolose, ma con cui le persone interagiscono direttamente, e quindi è importante che sappiano con cosa hanno a che fare. Ad esempio, se chattate con un assistente virtuale, avete diritto di sapere che state parlando con un robot, non con un essere umano, in un'ottica di trasparenza. Nella stessa ottica rientrano i deepfake e tutti i contenuti generati dall'intelligenza artificiale, perché se vedete un video, un'immagine, un audio o leggete un testo che è stato generato o manipolato da un'intelligenza artificiale, avete diritto di saperlo. Ci deve essere un'etichetta, un watermark, qualsiasi cosa che ci faccia capire che il contenuto è generato da un'IA. Gli obblighi di trasparenza entreranno in vigore ad agosto 2026. Le sanzioni per chi fornisce informazioni false o incomplete possono arrivare fino a 7,5 milioni di euro o all'1% del fatturato mondiale. L'ultima categoria, in realtà non prevista espressamente dal regolamento ma lasciata come caso residuale, è quella dei sistemi di intelligenza artificiale a rischio minimo. La stragrande maggioranza dei sistemi di IA che usiamo quotidianamente rientra in questa categoria. Parliamo di filtri antispam, sistemi di raccomandazione basici come quelli che ci suggeriscono che film guardare su Netflix, videogiochi che usano le AI per rendere più intelligenti i personaggi non giocanti, e così via. Per questi sistemi l'AI Act non impone degli obblighi specifici, ma ovviamente continuano ad applicarsi tutte le altre normative: il GDPR se processano dati personali, le leggi sulla concorrenza, le normative sulla sicurezza dei prodotti, eccetera. Il regolamento incoraggia comunque l'adozione volontaria di codici di condotta, dove le aziende si impegnano a rispettare certi standard anche se non sono obbligate a parlo. Ora noi ci potremmo chiedere: e ChatGPT in cosa rientra? Quando la Commissione ha iniziato a lavorare sull'AI Act nel 2021, ChatGPT non esisteva ancora. I grandi modelli linguistici generativi hanno stravolto il panorama dell'intelligenza artificiale proprio mentre la normativa era in fase di discussione, e questo ha costretto il legislatore europeo ad aggiungere un intero capitolo dedicato alle categorie di cui abbiamo parlato. Ne va aggiunta quindi un'altra, quella dei modelli di IA per finalità generali o GP AI, General Purpose AI. Sono sistemi che possono essere utilizzati per tantissime cose diverse: scrivere testi, generare immagini, comporre musica, scrivere codice, rispondere a domande e molto altro. Ogni utente può prendere uno di questi sistemi e adattarlo a quello che deve fare. Da qui il nome di sistemi per finalità generali. Questi modelli hanno obblighi specifici di trasparenza: devono redigere una documentazione tecnica che spiega come sono stati addestrati, con quali dati, quali sono le loro capacità e limitazioni, devono rendere disponibili informazioni su come possono essere usati in sicurezza e devono implementare una politica rispettosa del diritto d'autore, documentando che hanno rispettato le norme sul copyright durante la fase di training. L'articolo 51 crea una sottocategoria di DGP-AI, quella dei modelli ad alto impatto o con rischio sistemico. Sono quelli talmente grandi e potenti che potrebbero avere impatto Gatti su scala sociale. Il criterio per capire se rientrano in questa categoria è quantitativo: se per addestrare il modello sono stati usati più di 10 alla venticinquesima flop, cioè floating point operations, una misura della potenza computazionale in cui non ho intenzione di avventurarmi, allora scatta una classificazione più severa con obblighi aggiuntivi. Devono effettuare valutazioni approfondite dei rischi sistemici che potrebbero derivare dal loro uso, mettere in atto misure di mitigazione testare il sistema contro scenari avversi, documentare e segnalare incidenti gravi, garantire un livello adeguato di cybersicurezza, eccetera eccetera eccetera. Dentro questi sistemi rientrano anche i grandi modelli LLM come ChatGPT, Claude, Gemini e via dicendo. Gli obblighi per i modelli GP AI sono entrati in vigore il 2 agosto 2025 con sanzioni fino a 15 milioni di euro o il 3% del fatturato per chi non si conforma. E qui una domanda che potremmo farci è: ma chi è è che si deve adeguare? Cioè, chi è che ha l'obbligo di verificare che il sistema rispetti le normative? E chi è che viene sanzionato se non viene fatto bene? Mettiamoci nei panni del titolare di un'azienda che decide di acquistare un chatbot da inserire nel sito web per aiutare i clienti. È lui a doversi adeguare alla normativa, o chi gli ha venduto il chatbot? O pensiamo a un ufficio in cui viene usato Copilot o Gemini o ChatGPT. Ci sono degli obblighi anche per i dipendenti che usano questi modelli, o sono tutti in capo al fornitore principale, quindi Microsoft, Google, OpenAI? La risposta è che sono obbligati tutti, ma in misura diversa. L'AI Act prevede 4 diversi ruoli, ciascuno con obblighi ben precisi. Il primo è il fornitore o provider, che è un po' il protagonista della normativa. Il fornitore è colui che sviluppa un sistema di intelligenza artificiale o lo fa sviluppare per poi metterlo sul mercato europeo con il proprio nome o il proprio marchio. Il fornitore è quello che ha gli obblighi i più pesanti, ed è giusto che sia così. È lui che conosce il sistema dall'interno, che sa come è costruito, con quali dati è stato addestrato, quali sono i suoi punti di forza, i suoi limiti. Quindi è lui che deve garantire che il sistema rispetti tutti i requisiti dell'AI Act prima ancora di metterlo sul mercato. Quindi se viene messo sul mercato un sistema di intelligenza artificiale realizzato per eseguire una delle pratiche vietate, è il fornitore a essere sanzionato, perché il sistema deve nascere conforme al regolamento. Per i sistemi ad rischio è il fornitore a dover verificare che i dati di training siano esatti, che deve tenere monitorato il sistema per tutto il ciclo di vita e così via. Quando è che termina l'obbligo del fornitore? Quando lui ha fatto tutto il possibile per mettere sul mercato un sistema safe e gli eventuali rischi residui sono derivanti dall'uso che se ne fa. Ed ecco che entra in gioco il secondo ruolo, quello dell'utilizzatore o deployer. Il deployer, scusate ma io preferisco il termine inglese perché lo trovo più preciso, è chi usa un sistema di intelligenza artificiale sotto la propria autorità, non per scopi personali. Se usate ChatGPT per scrivere la lista della spesa non siete deployer, ma se lo usate per scrivere mail di lavoro o per analizzare documenti aziendali siete deployer, o meglio lo è la vostra azienda che è responsabile di come voi utilizzate gli strumenti. Gli obblighi dei deployer sono diversi e in generale meno gravosi di quelli del fornitore, ma non per questo trascurabili. Il deployer chiaramente non deve costruire il sistema a zero, ma deve usarlo responsabilmente. Prima di tutto deve usare il sistema conformemente alle istruzioni del fornitore. Se il fornitore dice: questo sistema di diagnosi medica è pensato come supporto decisionale, la decisione finale deve sempre essere del medico, il deployer non può usarlo per fare diagnosi automatiche senza supervisione umana. Se il fornitore dice: questo sistema non va usato per valutare candidati sotto i 18 anni, il deployer non può ignorare questa limitazione. È il deployer ad avere i maggiori obblighi di supervisione del risultato, perché è lui che prende il sistema di intelligenza artificiale e lo utilizza poi in casi concreti. Il fornitore potrà controllare in generale che i risultati prodotti astrattamente dall'IA in fase di test siano corretti, ma è l'utilizzatore che fa generare invece risultati che poi possono avere un impatto sulle persone, quindi è lui a dover avere un obbligo di supervisione. Per i sistemi ad alto rischio, i deployer hanno obblighi aggiuntivi. Ad esempio, devono fare una valutazione di impatto sui diritti fondamentali, quindi una FRIA, prima di mettere in servizio il sistema, specialmente quando questo viene usato in ambiti delicati. Se una polizia locale vuole usare un sistema di riconoscimento facciale dei cittadini, è obbligata a realizzare una FRIA, anche se non è lei a produrre il software. Questo è un obbligo che discende dall'utilizzo, perché solo i deployer sono in grado di capire quanto concretamente quel sistema influirà sui diritti fondamentali dei cittadini. Oltre a questi c'è un altro obbligo cruciale: informare le persone. Spesso spetta al deployer informare i clienti, i dipendenti, i cittadini, gli utenti e via dicendo che sta usando un sistema di intelligenza artificiale. Non può essere il fornitore a dare questa informativa. Chiaramente non è che il deployer deve andare in giro a mettere i manifesti, però deve dare informative precise al suo target, cioè alle persone che sono coinvolte dall'utilizzo del sistema di intelligenza artificiale. Un aspetto interessante è che in certe circostanze il deployer può diventare fornitore. Se un deployer modifica sostanzialmente un sistema ad alto rischio che ha comprato, cambiandone la finalità d'uso o modificandolo in modo significativo, allora diventa lui stesso fornitore di quel sistema modificato, con tutti gli obblighi conseguenti. Gli altri due ruoli sono importatore e distributore. L'importatore è una figura specifica per gestire sistemi di intelligenza artificiale che arrivano da fuori dell'Unione Europea. È la persona fisica o giuridica stabilita nell'UE che mette sul mercato europeo un sistema di AI realizzato fuori dall'Unione. Gli obblighi dell'importatore sono pensati per assicurare che i sistemi che arrivano da fuori abbiano le stesse garanzie di quelli prodotti in Europa. L'importatore deve verificare che il fornitore abbia completato la valutazione di conformità, che il sistema abbia il marchio CE nei casi in cui serve, che la documentazione tecnica sia disponibile, deve apporre il proprio nome e indirizzo sul sistema o sulla confezione, deve assicurarsi che le istruzioni d'uso siano nella lingua compresa comprensibile per gli utilizzatori del paese in cui il sistema verrà venduto, e così via. E se l'importatore ha motivo di credere che il sistema non sia conforme all'AI Act, non può metterlo sul mercato, altrimenti la responsabilità ricade anche su di lui. Attenzione però, perché non è sempre obbligatorio che un sistema realizzato fuori dall'Unione Europea sia portato in Unione da un importatore. I fornitori stabiliti fuori dall'UE possono anche vendere direttamente in Europa, ma incaricando un rappresentante autorizzato. Cioè una persona fisica o giuridica stabilita nell'Unione che agisce per conto del fornitore e che può essere contattata dalle autorità europee al posto del fornitore stesso. Il distributore invece è chi rende disponibile sul mercato un sistema di AI senza modificarne le caratteristiche. È il rivenditore, il grossista, qualsiasi intermediario nella catena commerciale che non sia né il fornitore né l'importatore. I suoi obblighi sono chiaramente più leggeri perché non è che abbia il controllo tecnico sul sistema, ma comunque delle responsabilità. Per esempio, deve verificare anche lui che abbia il marchio CE, che sia accompagnato dalla documentazione richiesta, che il fornitore e l'importatore abbiano rispettato i loro obblighi. E anche lui, se ha motivo di ritenere che un sistema non sia conforme, non può venderlo, soprattutto se ad alto rischio. Per capire meglio tutti questi ruoli, facciamo un esempio concreto. OpenAI, azienda americana, sviluppa ChatGPT. OpenAI è il fornitore del modello di AI per finalità generali, quindi Essendo il fornitore deve rispettare tutti gli obblighi dell'articolo 53, e dato che ChatGPT supera la soglia del rischio sistemico, anche quelli dell'articolo 55. Deve quindi documentare il training, valutare i rischi sistemici e tutto il resto. Per portare questo sistema in Europa non ha bisogno di un importatore, perché si tratta di un prodotto in cloud, non c'è un supporto fisico che qualcuno deve fisicamente importare. Dovrà però nominare un rappresentante autorizzato che possa parlare con le autorità europee quando richiesto. Una società italiana usa ChatGPT per automatizzare il servizio clienti. L'azienda italiana è il deployer, deve usare quindi il sistema secondo le istruzioni, assicurare la supervisione umana e tutto il resto. Se l'azienda decide di creare un nuovo chatbot basato su ChatGPT che poi venderà ad altre aziende, a quel punto diventa fornitore di questo nuovo sistema con tutti gli obblighi conseguenti. Questo è a grandissime linee il regolamento europeo sull'intelligenza intelligenza artificiale. Ho fatto proprio una panoramica ampia giusto per capire di cosa si parla. Chiaramente la norma scende molto più nel dettaglio su tutti i vari aspetti, ma per trattarlo tutto ci vorrebbe un corso a parte. Prima di concludere il video vorrei fare però un accenno alla normativa italiana di recepimento. Partiamo dal presupposto che i regolamenti europei sono direttamente applicabili in tutti gli stati membri, quindi una normativa di recepimento non sarebbe strettamente necessaria. Perché noi l'abbiamo fatta allora? Perché un regolamento europeo, per quanto dettagliato, lascia sempre spazi di manovra agli stati membri: la nomina delle autorità competenti, certe specificazioni tecniche, l'adattamento a settori particolari, gli incentivi per l'innovazione, eccetera eccetera. In generale, lo spirito della norma italiana riprende quello del regolamento. Vengono fatte alcune specifiche a margine su alcuni settori, ma nulla di sconvolgente rispetto alla norma europea. Il principio che guida tutto è quello noto come human Human in the Loop, cioè lasciare l'umano coinvolto. Va bene usare gli AI in tutti i settori, ma a un certo punto ci deve essere un coinvolgimento umano, che sia di supervisione, di verifica finale dei risultati e così via. Un'altra cosa importante è l'individuazione delle autorità incaricate di gestire questa materia. Anziché creare da zero una nuova autorità, la legge italiana affida la governance dell'intelligenza artificiale a due autorità già esistenti: l'AGID, Agenzia per l'Italia Digitale, e la CNR, agenzia per la cybersicurezza nazionale, che lavoreranno insieme in coordinamento anche con il Garante per la Protezione dei Dati Personali e con le altre autorità indipendenti. Queste autorità hanno il compito di vigilare sull'applicazione della normativa, coordinare le diverse istituzioni coinvolte, gestire spazi di sperimentazione dove le aziende possano testare dei sistemi innovativi sotto supervisione prima di lanciarli sul mercato, e cose di questo questo genere. Oltre a questo, è stata istituita anche una struttura di coordinamento presso la Presidenza del Consiglio che ha il compito di garantire una strategia unitaria e coerente a livello nazionale. La Legge 132 non chiude tutto, anzi. Una parte consistente è una delega al governo per adottare entro 12 mesi dall'entrata in vigore una serie di decreti legislativi che entreranno nel dettaglio di questioni specifiche. Ci saranno decreti sulla gestione dei dati usati per addestrare i sistemi di intelligenza artificiale, sulle regole per l'uso dell'AI nei servizi finanziari e assicurativi, sugli obblighi formativi in materia di intelligenza artificiale nei percorsi scolastici e universitari, e sulla disciplina degli usi illeciti dei sistemi di IA. Quindi come norma è ancora molto in divenire, staremo a vedere cosa verrà aggiunto e modificato. E ora la domanda faccio delle domande. Ma quindi un'azienda che fornisce o usa strumenti di intelligenza artificiale cosa deve fare? Come prima cosa deve fare una valutazione, che sia esterna, quindi affidata a un consulente, oppure anche un'autovalutazione, per capire in quale punto della normativa rientra. È un fornitore? È un deployer? Stiamo parlando di un sistema ad alto rischio o a rischio limitato? Ci sono degli obblighi già in vigore? Oppure ancora siamo tempo per fare tutto. Solo capendo esattamente quali articoli sono applicabili alla propria realtà si può capire cosa si deve fare e da lì darsi una roadmap di adeguamento basata sulle priorità. Come prima cosa si metteranno in sicurezza i sistemi ad alto rischio, poi si procederà ad adempiere agli obblighi di trasparenza, a seguire si formerà il personale e così via. Una cosa che non ho detto, fra l'altro, è appunto l'obbligo di formare il personale, cioè tutto il personale che utilizza un sistema di intelligenza artificiale deve essere adeguatamente formato, quindi quindi non si può dar per scontato che sappiano usarlo già nel modo corretto e previsto dalla normativa. Bisogna insegnarglielo. In linea generale quello che va tenuto presente è che l'IA non è stata assolutamente vietata, anzi, questa regolamentazione serve proprio a mettere a terra dei binari in cui incanalare il progresso per far sì che vada avanti ma senza danneggiare nessuno e senza che l'intelligenza artificiale possa prendere il sopravvento rispetto ai diritti fondamentali dei cittadini. Bene, come sempre Spero che il video di oggi vi sia piaciuto. Anche su questo, se avete dubbi o domande, scrivete pure tutto nei commenti, perché farò uscire uno o due video di risposta a tutte le domande che sono venute fuori appunto nei commenti. A presto!