Ho intervistato Brando Benifei, l'eurodeputato fra gli autori dell’AI ACT [ESCLUSIVA]

Benvenuti a questo nuovo video, ben ritrovati. Devo dire la verità, sono molto emozionata perché è un video diverso dal solito. Siete abituati a vedere dei tutorial, notizie. Oggi invece inauguriamo una sezione della community che rappresenta un po' il salottino dell'Arena. Abbiamo infatti un ospite speciale, un ospite d'eccezione. Io non a caso l'ho definito sui social un gladiatore d'eccezione perché che questo ospite, se vogliamo, ha combattuto per primo le sfide legate all'innovazione, soprattutto per quanto riguarda il regolamento sull'intelligenza artificiale, che fra l'altro entrerà in vigore proprio fra qualche giorno, il 1° agosto. Fra poco ve lo presento. Prima però voglio darvi qualche informazione generale su di lui, così lo conosciamo, anche se non credo che abbia bisogno di presentazioni. E fra l'altro vi do gli stessi indizi che ho condiviso questa mattina nella newsletter del lunedì di Gladiator digitali. Allora, leggo a video perché mi sono presa degli appunti, mi sono informata, vi racconto quello che ho trovato. Allora, nato alla Spezia, classe '86, e sono particolarmente orgogliosa di dirlo perché questo dato avvalora ancora di più la sua preparazione e la sua competenza. Nel 2016 la rivista americana Forbes lo ha inserito fra gli under 30 più influenti nella politica dell'Unione Europea. È stato per 5 anni alla guida degli Europarlamentari Democratici e questa è una notizia di qualche mese fa, nel 2024 a marzo ha vinto il premio di miglior eurodeputato della legislatura per il lavoro svolto come, attenzione, correlatore della prima legge al mondo per la regolazione dell'intelligenza artificiale, l'AI Act europeo. Oggi ho l'onore e anche l'opportunità di intervistare e ospitare qui nella community dei gladiatori Digitali, Brando Benifei. Benvenuto Brando e grazie per essere qui con noi ospite.

Grazie a voi, grazie mille, grazie dell'invito.

Ti dico subito che io ho un po' di domande da farti e quindi vado subito al sodo perché c'è stata tanta curiosità. Io ho annunciato l'intervista qualche giorno fa nella community, c'è stato tanto movimento come immaginavo. Io stessa sono un po' emozionata perché da giurista avere l'opportunità di parlare con qualcuno che scrive le leggi, scusate se è poco, quindi sono molto contenta. Allora, parto con una domanda e ti dico questo: il regolamento sull'intelligenza artificiale è stato definito ed è la prima legge al mondo su questo tema. Sei stato anche membro della commissione speciale sull'intelligenza artificiale istituita dal Parlamento Europeo, l'ho studiato prima di farti questa intervista. Allora ti chiedo questo, così per entrare un po' nella conversazione: Ci chiediamo, ma com'è stato possibile scrivere una legge così complessa? Cioè, da dove siete partiti e quali sono stati i primi passi per affrontare un compito di questa portata?

Sì, intanto grazie ancora per l'invito, mi fa molto piacere. È vero, questo è proprio un argomento da gladiatori digitali perché abbiamo dovuto, diciamo, un po' farci largo in mezzo a tante questioni, anche scontri e divergenze, ma siamo arrivati in fondo. Come è stato ricordato all'inizio, presto sarà in vigore questa legge, la prima al mondo, che in maniera orizzontale affronta il tema di come rendere l'intelligenza artificiale più adeguata a dare più opportunità e ridurre i rischi che può presentare, quindi diventare più utile per la società intera. Come veniva detto, il Parlamento Europeo ha istituito una commissione speciale di studio sul tema dell'intelligenza artificiale che ha lavorato nell'anno, diciamo, nel 2001-2002— scusate, 2021-2022— e ha prodotto appunto un documento politico di orientamento sulle questioni fondamentali poste dall'intelligenza artificiale, sia quelle che poi andremo a regolare, siamo andati a regolare con l'AI Act, che alcune questioni più di scenario, l'impatto geopolitico, l'uso in ambito militare, questioni che l'AI Act non risolve in qualche modo, ma molte invece delle questioni poste appunto l'AI Act le affronta. È l'impatto sui consumatori, sui lavoratori, sulle piccole e medie imprese, il tema delle asimmetrie informative, la trasparenza, l'impatto sulla informazione, sulla democrazia in generale. Allora da lì arriviamo ad avere da parte della Commissione Europea una proposta di regolamento, un testo, la prima bozza che, come avviene nel processo legislativo europeo, la prima mossa è fatta dalla Commissione Europea con un testo su cui abbiamo lavorato per un anno e mezzo con il Parlamento Europeo nel costruire delle proposte di modifica, di miglioramento. Sono sicuro che nella discussione emergeranno alcune questioni che il Parlamento Europeo di fatto ha introdotto nel testo che non c'erano. Abbiamo presentato migliaia di emendamenti. È stato un lavoro complesso mettere insieme le, diciamo, le principali questioni, approvare quindi un testo del Parlamento, e negli ultimi 6 mesi del 2023 affrontare un negoziato tra il Parlamento Europeo e i governi europei, che è durato circa 6 mesi, è stato molto serrato, con poi una maratona negoziale finale, dicono la più lunga della storia del Parlamento insieme a quella per il Next Generation EU, l'8 dicembre del 2023, praticamente 38 ore di negoziato, abbiamo portato a casa alla fine un testo definitivo. Perché come forse sa qualcuno che ci ascolta, qualcuno magari è meno esperto. La proposta di legge che la Commissione Europea aveva presentato da una parte è stata emendata dal Parlamento, come dicevo, abbiamo lavorato a migliorarne alcuni aspetti, per esempio tutta la parte sulla trasparenza che sicuramente poi toccherò è stata di fatto scritta dal Parlamento. Abbiamo poi negoziato con i governi, perché anche i governi europei nel Consiglio dell'Unione Europea che ha il ruolo di co-legislatore, hanno scritto i loro emendamenti al testo e poi abbiamo dovuto confrontare quindi le due versioni, quella del Parlamento e quella del Consiglio. Alla fine abbiamo trovato un accordo, come dicevo, alla fine del 2023 per un unico testo finale di legge. Poi ci sono stati alcuni passaggi più formali, diciamo, che sostanziali di ratifica nei mesi, primi mesi del '24, e ora con l'iter, diciamo, normale, appunto, va in Gazzetta Ufficiale dell'Unione Europea, e come è stato ricordato, ad agosto diventa finalmente una legge dell'Unione.

Wow, un iter indubbiamente impegnativo. E fra l'altro poi parliamo di un qualcosa che sicuramente verrà rivisto, ritoccato, aggiornato. Non a caso gli allegati che avete utilizzato un po' come strumento per aggiornarli proprio perché immagino che saranno aggiornati più e più volte ci fa capire quanto la parte centrale, il cuore del regolamento sia stata frutto di un lavoro molto importante, quindi indubbiamente avete fatto un lavoro molto, molto importante, l'Europa io credo debba essere fiera un po' di questi step. Allora lei in un'intervista ha affermato che un punto fermo del suo lavoro, cito, è il rifiuto di una società della sorveglianza, ci spiega un po' che cosa Cosa intendi con questa definizione e perché è così importante nel tuo mandato?

Sì, è stato un tema molto importante nella discussione sull'AI Act, come evitare appunto che l'intelligenza artificiale senza regole adeguate possa diventare uno strumento di sorveglianza di massa, anche un po' all'insaputa delle persone. Noi abbiamo visto come di fatto ci sono stati scandali su sorveglianza e acquisizione illegale di dati che hanno avuto grande notorietà, penso da Cambridge Analytica allo scandalo della NSA americana, in alcune fasi degli ultimi anni. E tutto quello che ho ricordato ora è avvenuto senza intelligenza artificiale. Oggi con l'intelligenza artificiale questo tipo di meccanismi di controllo illegale, illegittimo, sia da entità pubbliche, quindi da governi, oppure da realtà private, può essere fatto su una nuova scala, senza le regole adeguate. Faccio un esempio chiaro: questa legge vieta alcuni usi di intelligenza artificiale. È uno degli aspetti caratteristici di questa legge, che individua dei casi d'uso che vengono vietati. In Europa, peraltro, questo è uno degli aspetti che entrerà pienamente in vigore prima, prima di altri aspetti della legge, per cui all'inizio del 2025 questi usi vietati, previsti dalla legge come vietati, saranno effettivamente vietati. Cioè chi realizza sistemi volti a fare questo tipo di attività, ora farò qualche esempio, spiegare anche perché legato al tema della sorveglianza, chi realizza sistemi di questo tipo, se prova a commercializzarli in Europa, quindi violando la legge, poi non solo vedrà il prodotto rimosso, ma anche avrà una multa. Di decine di milioni di euro. E quindi diciamo i controlli saranno stringenti sul fatto che alcuni strumenti di intelligenza artificiale noi in Europa non li vogliamo. Uno di questi è ad esempio l'uso indiscriminato, diciamo poche regole, delle telecamere a riconoscimento biometrico negli spazi pubblici. Questo è stato uno degli altri chiave intorno al tema della sorveglianza. Perché un uso sregolato delle telecamere biometriche è uno strumento di controllo sociale formidabile. Perché queste telecamere, oltre a riconoscere con estrema facilità l'identità delle persone, essendo potenziate dall'intelligenza artificiale e collegate fra loro, sono in grado di ricostruire di fatto tutta la giornata di una persona e controllarla in una forma che oggi nessuno è in grado di fare diversamente. Sappiamo anche già di utilizzi di questo tipo di telecamere anche in Europa, fatti per colpire oppositori politici. E dunque abbiamo vietato questo utilizzo se non per l'attività autorizzata da un magistrato per la ricerca di criminali o vittime di crimini particolarmente gravi. Quindi noi non è che l'abbiamo vietato in assoluto, perché in realtà in alcuni contesti per la ricerca di terroristi, di rapitori di bambini, sto facendo degli esempi reali in cui questi strumenti sono stati usati, possono essere utili, ma devono essere controllati, perché invece una telecamera a riconoscimento biometrico sempre accesa in una città significa mettere in mano la conoscenza di cosa fanno le persone alle autorità in maniera assolutamente indebita. Noi abbiamo voluto mettere quindi paletti molto rigidi su questo, così come sulla polizia predittiva, cioè l'idea di usare strumenti di predizione di chi potrebbe commettere crimini solo sulla base di caratteristiche personali, una sorta di Lombroso 2.0. Io ho avuto tanti confronti anche col mondo americano, con altre realtà, del mondo dove queste cose sono state già utilizzate, beh, di fatto vanno a colpire i poveracci e a violare lo stato di diritto, perché si vanno a creare condizioni di profilazione e sorveglianza di persone che non hanno fatto nulla e non hanno fatto niente di sospetto. Semplicemente una macchina sostiene che potrebbero compiere dei crimini sulla base delle loro caratteristiche personali. Quindi questi sono degli esempi. Ne potrei fare ancora, anzi ne faccio un terzo rapidissimamente. Il controllo delle emozioni. Noi abbiamo vietato il controllo delle emozioni nei luoghi di lavoro e di studio. Ad esempio, questa è proprio un'innovazione proposta dal Parlamento. Nel testo originario della Commissione non c'era assolutamente questo divieto, neanche in forma più blanda. Perché ad esempio il divieto delle telecamere biometriche nel testo della Commissione Europea originario c'era già, ma in forma più blanda di quello che abbiamo poi inserito in forma finale. Il divieto di riconoscimento delle emozioni dei lavoratori o degli studenti non c'era proprio, l'abbiamo inserito completamente noi a livello emendativo da parte del Parlamento. Quindi questi sono esempi di strumenti di utilizzo dell'intelligenza artificiale che hanno una finalità di controllo sociale. Noi su questo abbiamo messo paletti molto rigidi, anche diversi divieti, come ho ricordato. Per questo dico abbiamo lavorato, io l'ho fatto perché penso fosse necessario, per contrastare il possibile utilizzo dell'intelligenza artificiale come strumento di sorveglianza di massa. Questa legge ci tutela in questo senso.

Ma certo, perché non è un giocattolo, ed è un po' come avere le istruzioni per l'uso, no? C'è qualcosa oltre il quale non si può andare. Tra l'altro, su questa questione dei lavoratori mi viene in mente un articolo che avevo letto qualche tempo fa, no, di queste telecamere che erano in grado di captare il numero dei sorrisi fatti dai lavoratori in un bar per andare a stimare la qualità. Cioè queste cose insomma sono cose che da Netflix, non possiamo pensare ad un utilizzo di questo tipo. Cito anche, perché è una notizia di qualche giorno fa, il caso Torino. Il garante ha avviato un'istruttoria, si parla di telecamere più o meno intelligenti, poi ci sono state varie smentite seguiremo anche questi aspetti. Bene, allora vado avanti ed entro un pochino più nel tecnico per quanto riguarda soprattutto i sistemi di intelligenza artificiale ad alto rischio. Allora c'è tutto un capo, che è il capo 3, che è giustamente dedicato a questa tipologia di sistemi e poi un comma 2 che rimanda all'allegato 3 che fa una distinzione per settori di utilizzo. Allora la domanda che io mi sono fatta, ma penso che sia anche comune, è questa: Classificarli in questo modo per settori, macro categorie, non comporta un po' il rischio che un sistema di intelligenza artificiale possa essere considerato ad alto rischio se utilizzato in un contesto, in un settore, e a rischio differente se utilizzato in un altro ambito, magari al di fuori dell'Allegato 3?

Sì, è una domanda giusta, perché da una parte questo sistema di individuare i casi d'uso a diverso livello di rischiosità è lo strumento fondamentale per rendere la legge meno a rischio obsolescenza. Perché se noi avessimo scelto di regolare la tecnologia in quanto tale o le aziende, come si fa in altre leggi europee, in questo caso avremmo avuto il rischio di, da una parte, se avessimo regolato le aziende, di creare un rischio di disincentivo competitivo per l'Europa, perché avremmo di fatto rischiato di disincentivare la crescita di giganti europei dell'intelligenza artificiale se avessimo regolato la tecnologia in quanto tale. Beh, la tecnologia, come sappiamo, in questo ambito dell'intelligenza artificiale evolve rapidissimamente. Quindi ancorarci ai casi d'uso è un concetto molto importante da capire per capire la ratio della legge. È un modo per salvaguardarne la durata. Perché nel momento in cui noi diciamo, come diciamo, per fare degli esempi rispetto proprio all'Allegato 3 che individua i casi d'uso ad alto rischio, che sono un po' l'altro pilastro della legge rispetto ai divieti. Io prima ho parlato dei divieti, parlando della sorveglianza, ora stiamo parlando dei casi d'uso ad alto rischio, è il secondo pilastro della legge. Il terzo, che magari toccheremo dopo, è la trasparenza. I casi d'uso ad alto rischio sono appunto quei casi dove noi andiamo a richiedere agli sviluppatori di mettere in campo una serie di precauzioni per la sicurezza del sistema stesso prima che venga messo sul mercato, rispetto ai dati, rispetto alla governance dei dati, ma anche la qualità e l'appropriatezza dell'addestramento, nella— addestramento, la cybersicurezza, il controllo umano, per fare esempi di parametri che poi vengono valutati. Ma come dicevo, nell'allegato 3 sono individuati alcuni casi d'uso che sono considerati ad alto rischio. Allora, nel momento in cui noi individuiamo dei casi d'uso come l'uso nell'ambito dell'amministrazione della giustizia, l'uso nel rapporto fra medico e paziente, l'uso nella valutazione di allievi, l'uso nei processi democratici, l'uso nei luoghi di lavoro— questi che ho fatto sono alcuni esempi dei casi d'uso elencati Nella Legato 3 noi, come vedete, elenchiamo dei casi che anche nell'evoluzione della tecnologia rimarranno, perché i medici e le malattie che devono curare ci saranno sempre, i tribunali magari cambieranno nel loro funzionamento ma ci saranno sempre, eccetera. Questo, guardate, è un concetto importante, ripeto, da capire perché dà il senso del perché abbiamo fatto questa scelta. Perché sappiamo che andando a lavorare sui casi d'uso lavoriamo su situazioni sociali che rimarranno anche con l'evoluzione della tecnologia. I luoghi di lavoro ci saranno sempre, c'erano 2000 anni fa e ci saranno ancora nei prossimi decenni. Allora, come si distingue in questo contesto il tema che veniva posto, cioè se un sistema viene usato— certo, viene usato in un ambito considerato ad alto rischio, allora deve subire tutti quei controlli prima di poter essere usato. Da parte dello sviluppatore, prima che lo venda in sostanza. Ma invece se questo sistema venisse usato in un altro ambito che non è ad alto rischio, non si crea un rischio appunto di avere uno stesso sistema che in un caso deve subire un controllo e nell'altro no? Può essere un cosiddetto loophole, come si dice nel gergo, cioè una sorta di buco nella legislazione. No, non è così, anche se ripeto la domanda è molto pertinente, perché i casi d'uso devono essere dichiarati, devono essere quelli prevedibili. Cioè lo sviluppatore non può individuare un caso d'uso non ad alto rischio per evitarsi di dover fare la cosiddetta procedura di conformità, che è appunto la verifica delle caratteristiche di sicurezza, sapendo che il suo sistema può essere usato anche in un contesto ad alto rischio. Questo attiene ai controlli che dovranno essere fatti dalle autorità di controllo delle IA/ECT e anche all'affidamento degli stessi sviluppatori, perché avranno una responsabilità legale nell'individuare i contesti d'utilizzo del proprio sistema. È chiaro che quando un sistema è così versatile, così flessibile, come oggi avviene con i sistemi più potenti, da prevedere un elevato numero di utilizzi e quindi una difficoltà a fare questo tipo di di verifica. In quel caso sarà colui che, adattando il sistema a un uso che è ad alto rischio, dovrà fare la verifica di conformità. Quindi a un certo momento c'è un responsabile di questo tipo di verifica di sicurezza, perché si eviti appunto di qualche modo di scappare da questa responsabilità dicendo: no, ma il mio sistema Io lo prevedo per un uso non ad alto rischio. Questo è il meccanismo. Sottolineo anche, perché sono sicuro che questo è un altro tema che emergerebbe andando ad analizzare il testo, che noi abbiamo inserito anche alcune eccezioni rispetto alla qualificazione ad alto rischio, anche quando un sistema è utilizzato in un contesto nominalmente cosiddetto ad alto rischio. Faccio un esempio banale. Che ci capisce. È una cosa giuridicamente complessa l'individuazione di queste esenzioni, è stato un lavoro lunghissimo, una delle cose più lunghe del negoziato, individuare la formulazione giuridica esatta delle casistiche in cui un sistema che pure opera in un ambito ad alto rischio è esentato. Però lo spiego con un esempio facile, senza entrare ora troppo nel dettaglio tecnico, Quando un sistema è immaginato per un uso in ambito sanitario, quindi ad alto rischio, ma ha una funzione meramente di organizzazione, ad esempio di un archivio sanitario, ovviamente non è considerato ad alto rischio. Cioè quando c'è un'azione che è di tipo ordinatorio e non è dentro il processo decisionale, quindi per esempio di un medico che deve decidere rispetto a una diagnosi o una terapia, non vale la regola dell'alto rischio. Faccio un altro esempio: un sistema che è usato in un ambito ad alto rischio ma che ha la finalità di migliorare l'italiano della scrittura di una mail. Cioè parliamo di questo tipo di azioni ancillari. In quel caso non è ovviamente considerato un sistema ad alto rischio.

Chiarissimo. E stavo riflettendo, io svolgo anche la professione di DPO per molti enti pubblici, sarà un lavoro importante quello di facilitare proprio questi processi, perché ci chiederanno, no, di supporto in questi temi. E bisognerà studiare tanto, perché poi, come giustamente dicevi, non è semplice andare a etichettare, no? Anzi, essendo dei sistemi dinamici, la fase di monitoring, che secondo me sarà la più importante, sarà assolutamente necessaria. Allora, faccio una domanda un po' provocatoria, l'ho raccolta in rete perché è venuta fuori tantissimo, collegata fra l'altro anche al caso Apple Intelligence, il DMA e tutto il resto. C'è un'accusa un po' che viene fatta, no? Cioè si dice: tutte queste leggi che l'Europa sta, cito proprio il forum, sfornando, in questi anni stanno forse, punto di domanda, rallentando l'Europa, almeno rallentando lo sviluppo della tecnologia. Come risponde a queste preoccupazioni? Sono accuse vere, fondate? Cosa ne pensi?

Allora, è ovviamente un dibattito che c'è anche rispetto alla competitività delle imprese europee, eccetera, quindi che ha più aspetti. Io sono convinto rispetto a questo tema, che pure è molto rilevante, non è ovviamente da sottovalutare, anche più in generale rispetto alla competitività delle imprese europee. Quindi ad esempio noi abbiamo inserito un sistema cosiddetto di sandbox dentro la legge per sostenere l'ingresso sul mercato di nuove imprese startup europee per dargli le condizioni migliori per competere con gli incumbents che magari sono spesso non europei. Ma io sono abbastanza convinto di quello che sto per dire sulla base dell'esperienza di questi anni: nessuno può rinunciare al mercato europeo. Alla fine magari hanno bisogno di più tempo per adeguarsi a delle nostre normative, Spesso in questi anni è stato più il GDPR il tema, non certo l'AI Act che neanche ancora è in vigore. Ma diciamo abbiamo visto a volte una necessità di avere più tempo che a volte un po' è stata quasi usata come scusa per provare a strappare magari qualche condizione migliore da parte di queste soprattutto grandi realtà americane. Però poi nessuno rinuncia al mercato europeo, quindi le regole le rispettano. Sono certo quindi che anche questi ultimi ultimi prodotti, che anch'io sapevo essere stati oggi annunciati come sospesi per ora dalla distribuzione in Europa. Non penso durerà molto questa sospensione.

Sono d'accordo. D'altronde il compromesso, cioè trovare un compromesso, non vuol dire dover sottostare, no, a determinate condizioni. Significa semmai trovare un equilibrio, un punto d'incontro. Quindi Era assolutamente inevitabile. Allora, ha citato il GDPR e allora faccio questa domanda: GDPR versus AI Act, la DPA dovrà essere una DPA più muscolosa, dovrà comprendere anche questi sistemi e ci saranno, immagino, delle difficoltà importanti nella redazione di questo documento. Cosa ne pensi?

È fondamentale fare in modo che ci sia uno streamlining, come si dice, cioè una in qualche modo un coordinamento che non complichi le cose dove non è necessario. Questo riguarda sia un'azione che devono compiere le autorità pubbliche e anche i privati che operano rispetto a beni pubblici, e cioè la verifica d'impatto sui diritti fondamentali. È una delle innovazioni nel testo che sono state oggetto di negoziazione tra Parlamento e Consiglio, cioè in qualche modo una verifica dei rischi concreti che si realizzano nei contesti dove i diritti fondamentali sono maggiormente da tutelare. Questo deve essere fatto secondo un template che verrà realizzato dall'AI Office, dall'Ufficio Europeo dell'Intelligenza Artificiale, in modo che sia semplice e sia fattibile con non molta difficoltà. Dall'altra parte gli sviluppatori certamente hanno delle maggiori responsabilità, anche in un bel pezzo di questa verifica di conformità riguarda appunto i dati e quindi si intreccia con anche il GDPR. Però io credo sia stata una scelta giusta incrementare le responsabilità degli sviluppatori nel garantire la sicurezza per evitare che tutto si scarichi sugli utilizzatori anche intermedi, cioè le imprese ad esempio che per fare la loro attività comprano sistemi o magari li adeguano ma in una maniera limitata, avendo una base di fatto di un modello, di un sistema acquistato da altri che li hanno sviluppati. E mettere questa catena di responsabilità a me sembra corretto, come mi è sembrato corretto uno sforzo che è stato fatto di allineare completamente il GDPR, cioè l'AI Act al GDPR, per evitare confusione, cioè dove, quali regole devono essere applicate. Allora, l'AI Act è compliant col GDPR da ogni punto di vista, a un'eccezione che è stata oggetto di una lunga discussione alle regole del GDPR. Il cui impatto sull'intelligenza artificiale è comunque un tema complesso che ancora, a mio avviso, è pienamente da sviluppare anche in forma della pratica, sia giuridica sia in qualche modo dell'attività dei regolatori. Però c'è un punto di distanza, che lo spiego così a chi ci ascolta, e cioè in un punto dell'AI Act noi mettiamo un'eccezione, che viola il GDPR volutamente, e cioè l'utilizzo di dati sensibili per la correzione dei bias. Cioè noi abbiamo tra gli elementi protetti dall'AI Act il contrasto alla discriminazione algoritmica, e quindi nella procedura di conformità per i sistemi ad alto rischio uno degli obiettivi è evitare che i sistemi imparino a discriminare. Classico esempio: il selezionatore di curriculum che ha imparato a escludere le donne dai ruoli di maggiore responsabilità, scartate senza guardare altro. Donna uguale non adatta. I sistemi possono imparare questo se i dati con cui sono stati addestrati gli danno questo tipo di risultato nel loro apprendimento. Noi abbiamo, diciamo, disposto la possibilità di usare dati sensibili in una forma che non è prevista dal GDPR per correggere appunto i bias di discriminazione. Quindi è una casistica specifica ma per una finalità ovviamente di utilità generale.

Questa è una cosa molto interessante, la andrò sicuramente ad approfondire. E si può dire che in questo caso la finalità giustifica il mezzo? Perché poi dall'altro è sempre un discorso di equilibrio. Fra l'altro mi rincuora anche il fatto che ha detto che presto o tardi vedremo, ci sarà un template che potremo seguire per la redazione di questi documenti di valutazione d'impatto, quindi ci tranquillizza, parlo anche per i colleghi che magari ci ascoltano. Allora abbiamo tempo per le ultime due domande e faccio una domanda dedicata alla pubblica amministrazione. Allora io ho notato questo personalmente, le organizzazioni private sono un pochino più sensibili al tema, stanno già lavorando, ci sono tanti investimenti, i consulenti sono già chiamati un po' a creare dei tavoli operativi. Non vedo la stessa attenzione ad oggi dalla parte della pubblica amministrazione. E allora ti rivolgo questa domanda: come vedi il futuro dell'intelligenza artificiale nella pubblica amministrazione italiana?

È vero quello che stai dicendo perché di fatto molte delle previsioni dell'AI Act, se uno le guarda con attenzione, sono in realtà delle pratiche volontarie di buona condotta, di codici di condotta, di raccomandazioni che in realtà già si fanno nel privato e e qualche volta anche nel pubblico. Quello che fa l'AI Act è trasformare queste buone pratiche in, gradualmente, degli obblighi giuridicamente esigibili. Quindi il privato spesso, almeno una certa parte del privato, è già abbastanza dentro queste dinamiche, ha già dimestichezza. L'ho visto lavorando sulla stesura della legge e quello che veniva detto un attimo fa, anch'io l'ho percepito direttamente. Tanto che ora sarà molto importante l'accompagnamento a una compliance anticipata volontaria che prepari alla piena vigenza della legge, che è graduale come ricordavo, e quindi sarà importante anche che il mondo del privato, che già ha più esperienza, aiuti proprio con l'esempio anche chi dovrà più imparare. Purtroppo il pubblico, è vero, è più indietro. Io penso che la questione fondamentale sia aumentare la consapevolezza dal punto di vista dei decisori politici, che poi danno anche degli input alla pubblica amministrazione a tutti i livelli, dai comuni alle regioni alle amministrazioni centrali dello Stato. Serve quindi un'azione anche forte da parte dei governi nazionali, perché l'Europa può arrivare fino a un certo punto in base alle competenze, Serve su questo fronte un grosso impegno del governo nazionale per indirizzare anche nel rapporto poi a tutte le varie amministrazioni. E quindi il mio appello è che questo si faccia, perché ce n'è bisogno. Perché la domanda poi era anche che futuro vedo. Beh, io penso che se ben seguito dal punto di vista anche dell'implementazione della gestione dei rischi, che è l'obiettivo della legge, l'uso dell'intelligenza artificiale nell'amministrazione pubblica può essere un grande volano di efficienza, di miglioramento dei servizi per i cittadini, di miglioramento del funzionamento del pubblico. E lo dico da persona affezionata alla democrazia, come spero tanti, e anche a, in qualche modo, l'idea di una funzione pubblica per indirizzare rispetto a valori, a indirizzi politici di fondo. E oggi, senza un miglioramento del funzionamento del pubblico, il pubblico perde una sua funzionalità, anche una sua legittimità di fronte alle persone. L'intelligenza artificiale, se usata bene, può rilegittimare la funzione pubblica con una maggiore capacità di azione grazie proprio a queste tecnologie.

Mi trovi completamente d'accordo. Diversamente è un po' una conseguenza darwiniana, no? Di quello che succederà. Tu hai fatto un appello giustamente alle istituzioni, al governo, io lo faccio ai miei colleghi, perché anche chi poi si affianca, torno a dire, a questo ruolo importantissimo di facilitatore dovrà, a maggior ragione, non cadere nel solito cliché dell'intelligenza artificiale come uno strumento che impedisce, ma con un approccio e un mindset che dovrà necessariamente cambiare. Mi auguro che questo verrà nel giro di poco dovrà accompagnare questi enti in questo passaggio epocale. Allora, io ho un'ultima domanda e quest'ultima domanda proviene direttamente dalla community di Gladiatori Digitali, perché io stamattina ho annunciato che avrei fatto questa chiacchierata con te e ho fatto qualche domanda e quindi diciamo che dalla community è arrivata fra le domande più gettonate da parte porti la seguente, leggo. Allora, la domanda è questa: se potesse intervistare una figura storica per discutere dell'intelligenza artificiale o scambiare opinioni sull'IA, chi sceglierebbe e perché? Questa è una domanda che non ti ha mai fatto nessuno, ammettilo.

No, ma è difficilissimo. Diciamo, la domanda, la risposta è proprio così, preso di sorpresa. È questa, che mi viene subito. Io direi Leonardo da Vinci, perché ha dimostrato con la sua attività, che tutti conosciamo, così poliedrica, di essere una mente estremamente versatile e con grande capacità di immaginare il futuro. E poiché l'intelligenza artificiale è— è importante dirlo con chiarezza— una tecnologia a uso generale, quindi con una capacità trasformativa immensa su ogni aspetto della vita, penso che un genio, diciamo, con capacità di guardare il futuro, ma anche molto versatile proprio nella sua attività come creatore, inventore e artista, penso che sia la persona giusta con cui discutere di Cosa può essere per noi il futuro con l'intelligenza artificiale?

Bellissima, bellissima risposta. Per chiudere direi fantastica. Brando, io ti ringrazio per essere stato qui con noi. Ti seguiremo e spero che avremo occasione di fare più avanti, chissà, in occasione di novità, interventi importanti, un'altra chiacchierata. Ti auguro un buon proseguimento.

Molto volentieri.

E ci aggiorniamo alla prossima. Grazie per essere stato con noi.

Grazie, un saluto a tutta la community. Grazie.