⚠️ AI usata in GUERRA e nella FINANZA | Rispondo alle vostre domande pt.3

L'intelligenza artificiale sta cambiando il mondo e le leggi. Abbiamo già parlato di come si sta inserendo nel panorama medico, di come influisce sul nostro cervello, ma oggi facciamo un passo avanti ancora. Parleremo di come viene usata in guerra, di quello che sta succedendo fra il Pentagono e Anthropic. Capiremo cosa sono le allucinazioni dell'IA e perché sono così frequenti. Vedremo come l'IA può prevedere il futuro in borsa e capiremo anche come funziona il copyright nell'epoca dell'intelligenza artificiale. Ma andiamo andiamo con ordine. Ciao a tutti e benvenuti in questo nuovo video che va a concludere per adesso la serie dedicata all'intelligenza artificiale. Proverò a lasciare libero Imo, che probabilmente vuole sgranchirsi un po', qualunque cosa i robot abbiano al posto delle gambe. Ma ovviamente sa già che se si comporterà male lo rimetterò sul suo caricatore dove non potrà muoversi. Partiamo subito, che anche oggi le domande sono belle intense. Perché l'intelligenza artificiale a volte inventa le cose? È un tema che abbiamo toccato un po' in alcuni degli scorsi video, ma sono contenta di approfondirlo perché devo dire che per me il fenomeno delle allucinazioni delle IA è super affascinante. Fa proprio capire quanto una macchina ragiona diversamente rispetto a un essere umano. Intanto, che cos'è un'allucinazione dell'intelligenza artificiale? È quando il modello genera informazioni che suonano perfettamente plausibili, scritte in un linguaggio perfetto, perfetto, ma che sono completamente false. Non per un errore, ma proprio perché l'IA sta inventando di sana pianta. Questo a noi può suonare strano, perché ci aspettiamo: 1, che un modello addestrato su miliardi di dati sappia tutto e non abbia bisogno quindi di inventare le cose, e 2, che se gli facciamo una domanda a cui non sa rispondere ci dica che non sa rispondere. Ma queste due cose sono in realtà tipicamente umane, e noi non stiamo parlando di un umano ma di una macchina. Noi umani puntiamo a dare dare risposte giuste, le macchine puntano a dare risposte coerenti. Faccio un esempio banalissimo: se io chiedo a una persona quanto fa 2 2, lei mi dirà 4 perché sa che è la risposta giusta. Un'intelligenza artificiale potrebbe dirmi 6 e pensare di aver fatto bene il suo lavoro, perché dalla mia domanda ha capito che io mi aspettavo un numero come risposta, quindi dire 6 è coerente con la mia richiesta. Un esempio che i miei colleghi avvocati conoscono purtroppo molto bene è l'invenzione delle sentenze. Ci ci sono già stati molti casi in tribunale in cui una delle due parti citava sentenze completamente inventate e poi si giustificava dicendo che era stata in realtà un'IA a inventarle. Se io chiedo trovami una sentenza che mi dia ragione su questo punto e questa sentenza non esiste perché non ho ragione, l'IA si sentirà perfettamente giustificata nel darmi una risposta coerente e plausibile scrivendo una massima che dice esattamente quello che a me serve e inventando numero e data della contenta proprio perché questo è il suo difetto di progettazione. Non ragionano come noi, quindi non capiscono fino in fondo perché la loro risposta non va bene. Ai loro occhi ci hanno dato qualcosa che abbiamo chiesto noi e quindi sono a posto. Loro devono solo darci una risposta in cui le parole sono concatenate nel modo statisticamente più probabile. E capiamo bene che statisticamente probabile non equivale per forza a giusto. Le grandi case madri stanno già lavorando tantissimo per ridurre rischio di allucinazione dei modelli, che infatti col tempo sono molto migliorati, ma alcuni trucchi possiamo adottarli anche noi. In primis, chiedere sempre un link alle fonti. Ad esempio, posso chiedere: trovami delle sentenze che dicano questa cosa e metti per ciascuna il link, in modo che io possa verificare se è corretta. In quel modo l'IA diventa molto più attenta a darmi solo risultati veritieri. E comunque, anche se si inventasse qualche risultato, io potrei comunque andare a vedere dal link che mi ha fornito se mi mi ha dato un risultato valido oppure no. In secondo luogo, stiamo attenti a usare prompt neutri. Se io gli dico trovami assolutamente delle sentenze che mi diano ragione su questo punto, sto mettendo il modello un po' con le spalle al muro, e se non trova niente si sentirà legittimato a inventare qualcosa perché programmato per darmi una risposta. Se invece io con calma gli dico guarda se esiste qualche sentenza su questo punto, o anche solo se gli chiedo di trovare sentenze che mi diano ragione e che mi diano torto, farà una ricerca sarà un po' più rilassata e potrà anche dirmi di non aver trovato niente. Nel caso, l'ultimo trucco base è quello di dirgli banalmente: "Non inventare nulla, se non trovi niente dimmelo." In questo modo gli stiamo facendo capire che fra l'avere una risposta inventata e non avere una risposta preferiamo la seconda opzione. Quindi farà le sue ricerche e se non troverà niente ce lo potrà dire. Già con questi 3 accorgimenti vedrete che le allucinazioni caleranno drasticamente. Poi comunque, come dicevo, con l'evoluzione dei modelli questo fenomeno si sta già pian piano riducendo, quindi magari un domani non ci sarà più bisogno di adottare dei trucchi per evitarlo. Andiamo avanti. Come viene usata l'IA in ambito bellico? Eh, domandina facile questa. Fra l'altro è un tema di grandissima attualità, visto che in questi giorni sono uscite un po' di notizie sul Pentagono e sui suoi rapporti con Anthropic e OpenAI, quindi direi che va affrontato assolutamente. Parto col dire che l'IA viene già usata in guerra. Non è qualcosa di cui stiamo parlando ipoteticamente. Nel conflitto fra Russia e Ucraina è stato sviluppato dall'Ucraina un software di intelligenza artificiale chiamato Clarity, che prende le immagini dei droni da ricognizione e le analizza in pochi secondi, inserendo dei tag che vanno a definire il tipo di target, per capire se è qualcosa che vale la pena colpire oppure no. I droni stessi sono a guida umana per la maggior parte del percorso, ma diventano a guida automatica nell'ultimo miglio, quando hanno individuato il target. Sono in uso anche dei veri e propri sciami di droni dell'azienda ucraina Swarmer, in cui un drone fa da ricognitore e traccia la rotta, mentre gli altri attaccano autonomamente quando appunto il drone ricognitore individua il target. Anche Israele negli attacchi contro Gaza sta utilizzando già dal 2023 dei sistemi di intelligenza artificiale, ovvero Gospel, Lavender e Where's Daddy. La mia principale fonte per queste informazioni— vi lascio il link in descrizione— è l'inchiesta del giornalista israeliano Yuval Abraham, pubblicata sul giornale +972 Magazine. Gospel serve a generare delle liste di edifici e strutture da colpire. Può produrre fino a 100 bersagli al giorno, contro i circa 50 all'anno che producono normalmente gli analisti umani. Lavender invece è un database di intelligenza artificiale che assegna un punteggio numerico ai residenti di Gaza in base alla probabilità che siano membri di gruppi armati. Al suo picco ha generato una lista di 37.000 persone come potenziali bersagli. I controlli di accuratezza hanno mostrato un'affidabilità intorno al 90%, nel senso che prese 100 persone, 90 erano effettivamente parte di gruppi armati. E da lì si è passati in automatico a considerare valida ogni individuazione fatta dalla Vender. Quindi se il database dice che una determinata persona è affiliata, ad esempio, con Hamas, la segnalazione viene trattata come l'ordine di un'autorità., e quella persona diventa automaticamente un bersaglio. L'ultimo sistema si chiama Where's Daddy, cioè dov'è papà, e sinceramente è quello che forse mi ha turbata di più. Dall'inchiesta che è stata fatta intervistando dei militari israeliani è emerso che questo sistema serve a tracciare le persone che sono della lista di Lavender per determinare quando si trovano a casa con la famiglia, normalmente di notte. È stato progettato proprio per colpire gli obiettivi in contesto domestico, per risparmiare sulle munizioni precisioni, per questo genere di bersagli sono state usate bombe non guidate con l'autorizzazione a eliminare tutti gli occupanti di un edificio. Ora, al di là di qualunque schieramento politico, e vi prego di non avviare delle shitstorm nei commenti, ci rendiamo conto della pericolosità della cosa? Abbiamo appena parlato del pericolo di allucinazioni degli IA e ci sono già paesi che lasciano che sia un'intelligenza artificiale a prendere decisioni su chi bombardare. Non è che ci siano persone giuste, persone sbagliate da bombardare, non si dovrebbe bombardare proprio nessuno, ma lasciare che sia un'IA in completa autonomia a decidere i target dimostra che in questi contesti i capi di stato se ne fregano delle allucinazioni e che se viene colpito un obiettivo civile perché l'IA erroneamente lo ha scambiato per un obiettivo militare, in fondo non importa. Mi viene sempre in mente, l'ho già citato anche in un altro video, la frase attribuita ad Albert Einstein che recita: non so con quali armi si combatterà la Terza Guerra Mondiale, ma la quarta si farà con pietre e bastoni. E di questo passo francamente non stento a crederlo. In questo contesto si inserisce tutta la vicenda fra Anthropic, il Pentagono e OpenAI, che inizia in realtà come vicenda a luglio 2024, quando Palantir, una delle maggiori società tecnologiche degli Stati Uniti, annuncia una partnership con Anthropic per portare Claude nelle operazioni di difesa ed intelligence americane. Un anno dopo, a luglio 2025, Anthropic firma un contratto da 200 milioni di dollari direttamente con il Dipartimento della Difesa per integrare le capacità dei suoi modelli di intelligenza artificiale nella sicurezza nazionale. In questo contratto la società aveva fatto inserire una clausola ben precisa stabilendo che i suoi modelli non potevano essere usati nella sorveglianza di massa sui cittadini americani e nemmeno per creare armi completamente autonome. A gennaio 2026 il rapporto fra Anthropic e il Pentagono si si incrina quando vengono fuori dei report secondo cui la tecnologia di Anthropic sarebbe stata utilizzata nell'operazione militare di rapimento dell'ex presidente del Venezuela, Nicolás Maduro, da parte delle forze armate statunitensi. In realtà questa cosa non costituiva una violazione del contratto perché non era né un'arma automatica né una sorveglianza di massa. Ma il problema è che Anthropic fa di tutto per farsi riconoscere come una società etica, e questa cosa andava contro ai suoi principi e ai messaggi anche di marketing che voleva lanciare. La situazione peggiora ulteriormente il 24 febbraio 2026, quando Exet, il segretario della difesa degli Stati Uniti d'America, incontra il capo di Anthropic, Dario Amodei, e lo mette davanti a un ultimatum: aprire Claude all'uso militare senza restrizioni entro il 28 febbraio, oppure perdere il contratto governativo. Il 26 febbraio, quindi dopo 2 giorni di riflessione, Amodei pubblica una dichiarazione in cui dice di non poter accettare la richiesta del Pentagono perché lui stesso pensa che l'IA in alcuni casi possa minare anziché difendere i valori democratici. Una dichiarazione bella forte, soprattutto visto che proviene da qualcuno che sta fondando tutta la sua carriera sull'intelligenza artificiale. Il 27 febbraio il Pentagono fa due minacce ad Anthropic. La prima è quella di designare la società come un rischio per la supply chain governativa, una classificazione normalmente normalmente riservata ad avversari stranieri, mai applicata prima a un'azienda americana. La seconda è quella di invocare il Defense Production Act, una legge che obbliga le aziende a produrre per la difesa nazionale. Amodei risponde a questa dichiarazione dicendo che si tratta di una vera e propria contraddizione, perché Claude da un lato viene classificato come un rischio per la sicurezza nazionale e dall'altro come essenziale per la sicurezza nazionale. Sempre il 27 febbraio, Trump pubblica su Truth Social, il suo social media, un post in cui dice, fra le altre cose: i pazzi di sinistra di Antropic hanno commesso un errore disastroso tentando di forzare la mano al Dipartimento della Guerra e costringerli a obbedire ai loro termini di servizio invece che alla nostra Costituzione. Il loro egoismo sta mettendo vite americane a rischio, i nostri soldati in pericolo il loro e la nostra sicurezza nazionale a repentaglio. Pertanto, sto ordinando a ogni agenzia federale del governo degli Stati Uniti di cessare immediatamente ogni utilizzo della tecnologia di Anthropic. Non ne abbiamo bisogno, non la vogliamo e non faremo mai più affari con loro. Exet segue a ruota, designando formalmente Anthropic come un rischio per la catena di approvvigionamento e dichiarando che nessun contraente o partner militare potrà più avere rapporti commerciali con l'azienda. Anthropic risponde dicendo che nessuna intimidazione o punizione da parte del Dipartimento della Guerra potrà cambiare la loro posizione sulla sorveglianza domestica di massa o sulle armi completamente autonome. E finisce qui apparentemente. Ma ecco il colpo di scena: quella stessa sera Sam Altman, il capo di OpenAI, la casa madre di ChatGPT, annuncia che la sua società ha chiuso un accordo col Pentagono per l'uso dei propri modelli in ambienti classificati. La cosa strana non è tanto questa, è ovvio che le società che fanno intelligenza artificiale si facciano la guerra fra loro perché è il libero mercato, sono le leggi della concorrenza. La cosa strana è che Altman ha dichiarato di condividere la stessa linea di Anthropic, quindi di non accettare la sorveglianza di massa, armi autonome e in generale decisioni totalmente automatiche. Automatizzate. Ma c'è una differenza fondamentale nell'approccio. Mentre Anthropic voleva queste restrizioni scritte esplicitamente nel contratto come diritti autonomi dell'azienda, OpenAI accetta che il Pentagono usi la tecnologia per qualsiasi scopo legale, facendo affidamento sul fatto che sorveglianza di massa e armi autonome sono già illegali secondo le leggi americane vigenti. Qual è il punto quindi? Che OpenAI sperava di salvarsi la faccia dichiarandosi una società etica tanto quanto Anthropic, ma di fatto accettando che se le leggi venissero cambiate e la sorveglianza di massa e le armi autonome fossero legalizzate, allora i suoi modelli potrebbero essere utilizzati per questi scopi, perché a quel punto sarebbe un utilizzo legale. Questa situazione ha portato sicuramente a un bel contrattino per OpenAI, ma anche a un contraccolpo terribile in termini di reputazione, a cui è corrisposto in realtà un aumento della notorietà per Claude. Moltissimi sviluppatori dipendenti anche di aziende come Google e della stessa OpenAI hanno firmato una lettera di solidarietà ad Anthropic. Claude è salito al primo posto nell'App Store di Apple negli Stati Uniti, superando ChatGPT. Anthropic ha dichiarato che le iscrizioni giornaliere hanno battuto il record storico ogni giorno nell'ultima settimana, gli utenti gratuiti sono aumentati di oltre il 60% da gennaio e gli abbonati a pagamento sono più che raddoppiati dall'inizio dell'anno. Lo scorso lunedì mattina Claude è andato anche brevemente offline, per il volume di traffico senza precedenti. Altman, quindi il capo di OpenAI, vedendo anche quanto sui social avessero iniziato a spopolare degli hashtag come DeleteGPT e cose di questo tipo, ha ammesso pubblicamente che l'accordo era stato un po' affrettato e che questo aveva fatto passare OpenAI per un opportunista che non guarda all'etica ma solo a chiudere contratti. Negli ultimi giorni ha dichiarato che col Pentagono stanno lavorando a rafforzare il contratto aggiungendo delle protezioni in tutto questo. A quanto pare, Claude in realtà è stato usato anche nelle recentissime operazioni militari contro l'Iran, nonostante il contratto fosse già stato chiuso e Antropic fosse stata dichiarata un rischio per la supply chain. È una vicenda che si sta ancora sviluppando, quindi sicuramente anche nei prossimi giorni verrà fuori altro. Se così fosse, ne parlerò sicuramente nella newsletter del lunedì, dove riporto tutte le notizie più importanti della settimana precedente. Quindi, se vi va e volete rimanere aggiornati su questa cosa, potete potete iscrivervi, trovate il link in descrizione. Momento pubblicità terminato. Ci parli del copyright e di come funziona adesso che c'è l'IA? Questo argomento va affrontato sotto due punti di vista, perché dobbiamo capire: 1, se le opere fatte dall'intelligenza artificiale violano il copyright, e 2, se sono tutelabili ai sensi delle leggi sul copyright. Negli Stati Uniti il Copyright Office ha stabilito a gennaio 2025 che i contenuti generati puramente dall'IA non possono essere protetti soggetti da copyright. Il prompt da solo non basta. Se io chiedo a Nanobanana di realizzarmi un tramonto in stile impressionista, non posso dire che quell'immagine è mia. Ma se prendo quel risultato e lo modifico, chiedo di cambiarlo secondo determinati criteri, lo combino con altri elementi in modo creativo, allora è tutelabile perché si riconosce una parte di impegno umano. Tant'è vero che è già stata registrata negli Stati Uniti la prima opera visiva composta interamente da GPT-3.5-Turbo chiamata "A Single Piece of American Cheese", proprio perché l'autore aveva dimostrato un lavoro significativo di selezione e composizione del prompt. In ogni caso si considera autore dell'opera sempre l'essere umano, mai il modello di intelligenza artificiale in sé. Per quanto riguarda l'Italia, la Legge 132 del 2025, che ha recepito il regolamento europeo sull'intelligenza artificiale, ha modificato direttamente la nostra storica Legge sul diritto d'autore del 1941. C'è una modifica in particolare che a mio parere è sottile ma meravigliosa. L'articolo 1 della Legge sul diritto d'autore prima diceva: sono protette ai sensi di questa legge le opere dell'ingegno di carattere creativo. Adesso la norma dice: sono protette ai sensi di questa legge le opere dell'ingegno umano di carattere creativo. Creativo. È una precisazione che nel 1941 non c'era nessun bisogno di inserire. È pazzesco il ritmo con cui le cose stanno cambiando. È stata poi aggiunta la frase: anche laddove create con l'ausilio di strumenti di intelligenza artificiale, purché costituenti risultato del lavoro intellettuale dell'autore. Il principio è lo stesso che abbiamo già visto per gli Stati Uniti: l'IA è uno strumento, non un autore. Se un designer usa Midjourney per generare 10 loghi e poi ne seleziona uno, lo modifica, lo perfeziona, la paternità del logo è la sua. Se invece si inserisce un prompt qualunque e non si fa nient'altro, l'output dato dall'IA non è protetto, quindi chiunque potrebbe riutilizzarlo. Ora passiamo invece all'altro lato della medaglia: l'addestramento dei modelli, la creazione di immagini fatte con un determinato stile, eccetera. Sono cose che violano il copyright? In linea generale, l'uso di materiale creato da altri per addestrare un modello viene considerato, almeno negli Stati Uniti, un fair use. Quindi un utilizzo legittimo del materiale perché viene usato non per creare qualcosa di identico all'originale ma solo come base di apprendimento per arrivare a risultati estremamente trasformati. In Europa la regola sull'addestramento funziona diversamente. La Direttiva sul Mercato Unico Digitale permette di raccogliere automaticamente materiale per scopi commerciali, incluso l'addestramento dei modelli di IA, a meno che i titolari dei diritti non abbiano esercitato l'opt-out, cioè non abbiano dichiarato esplicitamente che i loro contenuti non possono essere usati. La legge italiana ha recepito questo principio con il nuovo articolo 70 septies, sempre della legge del 1941 sul diritto d'autore. Puoi estrarre testi e dati da opere legittimamente accessibili per addestrare dei modelli IA, ma solo nel rispetto delle eccezioni previste, cioè ricerca scientifica, specifica, senza limitazioni, e usi commerciali, ma in questo caso solo se il titolare non si è opposto. Questo per quanto riguarda l'addestramento. Ma per quanto riguarda noi, cosa succede se chiedo a ChatGPT di rappresentarmi come se fossi un personaggio disegnato dallo Studio Ghibli? La risposta è molto sfumata, perché non c'è una tutela specifica sul modo di disegnare, quindi su stile, palette e cose di questo tipo. Però se l'immagine che genero somiglia un po' troppo a un'opera specifica riconoscibile, si può considerare non più come imitazione di uno stile, ma come creazione di un'opera derivata non autorizzata. Per questo motivo i modelli come ChatGPT, per evitare problemi, hanno iniziato a bloccare i prompt che fanno riferimento ad artisti viventi per nome. Quindi non posso chiedere rappresentami come se fossi disegnata da Banksy, ma invece a permesso la generazione di immagini che seguano lo stile di uno studio, come per lo studio Ghibli. Ho fatto una prova, ho chiesto di essere rappresentata come nello studio Ghibli e lo ha fatto senza problemi, ma quando ho chiesto di rappresentarmi con lo stile di Banksy ha rifiutato. Ultima domanda: l'IA può prevedere l'andamento della borsa? La risposta che danno gli esperti a questa domanda, la risposta proprio ufficiale che troverete in tutti gli studi, è Lo studio ad oggi più approfondito che abbiamo è stato pubblicato nell'ottobre 2024 sul Journal of Financial Economics, che ha fatto un confronto fra le predizioni di 12.000 analisti umani e le predizioni fatte dall'IA. Il risultato è che l'IA ha battuto il 54,5% degli analisti nelle previsioni sui rendimenti azionari. Quindi diciamo che se prendiamo 12.000 analisti umani medi l'IA ne batte 6500. Andando invece a guardare i migliori analisti, la percentuale cala parecchio. Quindi possiamo dire che l'IA batte la media, ma non batte i migliori, o almeno non li batteva nel 2024. La scoperta più interessante dello studio però è che il modello migliore in assoluto non era né l'umano da solo né l'IA da sola, ma la combinazione dei due. L'approccio uomo più macchina evitava circa il 90% degli errori umani e il 40% di quelli dell'IA. La La situazione ad oggi comunque è che l'IA sta aiutando moltissimo nella valutazione degli investimenti. Circa la metà delle piattaforme di trading ha implementato un qualche sistema di intelligenza artificiale per aiutare nelle scelte. Però va detto anche che, come ci siamo già detti, può essere soggetta ad allucinazioni e comunque può sbagliare, quindi non va considerata come l'oracolo di Delfi. Dal punto di vista normativo non c'è ancora una vera e propria regolamentazione sull'IA nel mondo del trading. In Europa abbiamo la direttiva MiFID II che richiede dei controlli di rischio per il trading algoritmico, ma non è verticalizzata sull'intelligenza artificiale, quindi dovrebbe sicuramente essere aggiornata, anche perché è del 2018 e parla di algoritmi, quindi normali. L'AI Act, il regolamento di cui abbiamo già parlato, non classifica le IA usate per gli investimenti come sistemi ad alto rischio, quindi c'è proprio, diciamo, un vuoto normativo In ogni caso direi che la morale di tutta questa serie sull'IA che si conclude con il video di oggi è che i sistemi di intelligenza artificiale sono sicuramente utili quando si affiancano e non quando sostituiscono l'apporto umano. Possono aiutarci a velocizzare alcune parti del nostro lavoro, possono servirci per fare controlli incrociati se abbiamo analisi complesse da fare, ma non devono fare le cose al posto nostro. Mostro. Bene, come sempre spero che il video di oggi vi sia piaciuto. Grazie mille per le domande che mi avete fatto, perché mi hanno permesso di approfondire dei temi che non mi era venuto in mente di trattare. E a questo proposito vi dico anche che mi è venuta l'idea di creare un form che d'ora in poi troverete sempre nella descrizione dei miei video, in cui potrete suggerirmi degli argomenti e dei temi. Perché appunto, leggendo i vostri commenti, mi rendo conto che ci sono aspetti che io non avevo considerato di trattare, ma sono super interessanti. Quindi proponetemi tutto che io adoro studiare cose nuove. Nella descrizione ho inserito anche i link alle principali fonti consultate per questo video, visto che molti mi avete chiesto giustamente da dove prendo le informazioni, quindi la trovate appunto in fondo alla descrizione. Detto questo, noi ci rivediamo la prossima settimana con il video dedicato ai computer quantistici. A presto!