⚠️ DEEPFAKE: la nuova frontiera della truffa

Immaginate di lavorare per una società e di essere incaricati degli acquisti. State lavorando alla vostra scrivania quando squilla il telefono. È il vostro capo, leggermente agitato, che vi dice che sta completando un ordine urgente e che ha bisogno che voi facciate un bonifico istantaneo per finalizzarlo. Lui sta per entrare in riunione e non riesce a occuparsene personalmente, ma vi manderà tutti i dettagli via mail. Controllate l'agenda del vostro capo, che è online e condivisa con tutto l'ufficio, e vedete che in effetti sta per iniziare una riunione molto importante che durerà qualche ora. Arriva la mail con i dettagli dell'ordine. Subito dopo il vostro capo vi richiama con la sua voce familiare e chiede se l'avete ricevuta. Confermate e lui dice che aspetterà al telefono che facciate il bonifico istantaneo, così subito dopo potrà chiamare il fornitore per comunicarglielo. Sentite un po' di interferenze, la voce un po' metallica, un po' di voci di sottofondo, però non ci date troppo peso, probabilmente è già entrato nella sala riunioni. Seguite le istruzioni della mail e fate il bonifico a questa società estera. Deve trattarsi di un ordine veramente importante perché la somma non è di poco conto. Si parla di 243.000 euro. Finalizzata l'operazione, il vostro capo vi ringrazia, vi saluta e termina la telefonata. Qualche ora dopo entra nel vostro ufficio, fate due chiacchiere veloci, poi gli chiedete se l'ordine da 243.000 euro è andato a buon fine. Lui è confuso, vi guarda stranito e chiede a quale ordine vi riferite. Gli ricordate della vostra telefonata di quella mattina e lui sbianca. Ci mettete molto poco tempo a capire che qualcuno è riuscito a impersonarlo così bene da ingannarvi, facendovi credere che stavate parlando proprio con il vostro capo. Chiamate Chiamate la banca, ma non si può fare più nulla ormai. Il bonifico istantaneo è partito da voi, l'avete autorizzato e ormai non si può più revocare. Il conto di destinazione? Un conto estero intestato a una società fittizia in cui i soldi sono rimasti depositati per pochissimo tempo prima di essere ritrasferiti e poi convertiti in criptovalute, nel tentativo di renderli irrintracciabili. Siete appena stati vittime di un deepfake eseguito a regola d'arte. Ciao a tutti e benvenuti in questo nuovo video. Oggi parliamo di deepfake, un tema diventato caldissimo ormai, quasi più del mio studio, soprattutto grazie alla diffusione dell'intelligenza artificiale. Ci sono alcuni utilizzi innocui di questa tecnologia, penso ai video virali su TikTok in cui vediamo persone correre via urlando skibidi bop, Pippi e Forza Napoli, ma ci sono anche tantissimi esempi in cui il deepfake è stato usato per truffare altre persone, per diffamare celebrità e addirittura per manipolare l'opinione pubblica o i risultati delle elezioni. È importante quindi capire bene come funziona, come può essere usato, come riconoscerlo e come difendersi dagli utilizzi malevoli di questo strumento che non è assolutamente nato per ingannare o per truffare. È nato dai sogni di ricercatori che volevano spingere l'intelligenza artificiale oltre i suoi limiti. Ma per capire bene, come sempre, dobbiamo fare un passo indietro. La storia dei deepfake come concetto affonda le proprie radici negli anni '90, nel mondo dei videogiochi. Gli sviluppatori cercavano continuamente di rendere i giochi più realistici, più immersivi, e per farlo dovevano generare le immagini da computer. La difficoltà stava proprio in questo: chiedere a un computer degli anni '90 di disegnare un essere umano realistico era come chiedere a una calcolatrice di dipingere la Gioconda. Era semplicemente fuori dalla loro portata. Il tentativo di arrivare a generare immagini realistiche comunque non diciare no, soprattutto grazie all'innovazione continua del mondo dei computer, che diventavano man mano sempre più potenti e sempre più in grado di sorprendere gli utilizzatori. Ma ancora c'era questo benedetto scoglio: rappresentare la figura umana in modo realistico sembrava impossibile. A sbloccare la situazione fu un ricercatore dell'Università di Montreal di soli 27 anni di nome Ian Goodfellow. Goodfellow nel 2014 stava lavorando proprio a un progetto di questo tipo: come far generare da zero a un computer un'immagine realistica. In Fino a quel momento i computer riuscivano a fare bene 3 cose: 1) generare immagini poco realistiche di esseri umani, 2) riconoscere immagini di esseri umani e 3) seguire le istruzioni date dall'utente. Goodfellow aveva intuito che l'approccio usato fino a quel momento non funzionava. Chiedere a un computer di generare un'immagine realistica da zero era impossibile e anche se si poteva correggere un po' il tiro con qualche richiesta successiva tipo "rendi i capelli un po' più mossi" oppure "raddrizza la postura" ci sarebbero volute milioni di richieste per arrivare a un risultato quantomeno decente e nessun essere umano poteva avere il tempo o la pazienza di correggere i milioni di microerrori che rendevano le immagini poco realistiche. Ma se questa cosa, anziché farla fare a un essere umano, l'avessimo fatta fare a un computer? Goodfellow inizia così a lavorare a quelle che poi sarebbero divenute note come reti generative avversarie o GAN, dall'acronimo inglese Generative Adversarial Network, basate sulle reti neurali. Una rete neurale è un programma programma che esegue delle connessioni simili a quelle dei nostri neuroni. Non è un semplice algoritmo matematico che segue determinati ordini in una determinata sequenza e poi ha finito. Si basa su processi continui di azione e riflessione sull'azione precedente, che funzionano un po' a strati, diciamo. Il primo strato riceve i dati grezzi, il secondo strato li elabora, il terzo produce un risultato. Se però il risultato è sbagliato, o comunque c'è qualcosa che non va, allora la rete neurale riesamina le operazioni fatte nei primi 2 strati e riprova modificando alcuni parametri. Facciamo un esempio per capire meglio: vogliamo addestrare una rete neurale a riconoscere la foto di un gatto. Dopo averle fatto vedere alcune foto di gatti, le diamo la foto di un Labrador per vedere se ha capito com'è fatto un gatto. Quindi la rete neurale dovrebbe dirci: "No, questo non è un gatto, giusto?" Il primo strato prende la foto del cane come dato grezzo. Il secondo strato analizza l'immagine e vede 2 orecchie, un naso, 2 occhi, dei baffi, una coda, il corpo peloso, 4 zampe, delle unghie. Il Il terzo strato produce un output che è: "Sì, confermo, si tratta di un gatto". Noi le diciamo: "No, guarda che ti sbagli, questo è un cane". La rete neurale allora torna sui propri passi precedenti e confronta l'immagine del cane con quelle dei gatti che aveva ricevuto in precedenza. Nota che le orecchie dei gatti effettivamente sono triangolari e dritte, mentre il Labrador ha le orecchie flosce con una forma diversa. Nota che il gatto è piccolo mentre il cane è più grande. Nota che la postura dell'animale è diversa. Quando le diamo di nuovo la foto di un Labrador, la rete neurale non ha dubbi. "Questo non è un gatto". Ma se le diamo l'immagine di un chihuahua, che è più piccolo e ha le orecchie triangolari, probabilmente si sbaglierà di nuovo. Le diremo che ha sbagliato, tornerà sui suoi passi, rifletterà e imparerà. I modelli più usati di intelligenza artificiale, come ChatGPT, Gemini, Meta, eccetera, si basano proprio su reti neurali, che apprendono costantemente tramite l'interazione con l'utente. La stessa identica cosa funziona quando il programma cerca di generare un'immagine realistica. Prima abbozzano immagini che ha poco senso, ad esempio c'è una forma vagamente umana ma con la pelle verde. Allora gli diciamo: "No, gli esseri umani non hanno la pelle verde." L'immagine dopo avrà la pelle rosa o nera, ma magari avrà 4 piedi, e noi le diremo: "No, gli esseri umani hanno 2 piedi." Allenare una rete neurale a generare un'immagine realistica di un essere umano sembrava un'impresa titanica, perché c'erano sempre migliaia di micro dettagli fuori posto. Goodfellow ebbe un'intuizione geniale. Si era accorto che ormai le reti neurali erano diventate bravissime a riconoscere le immagini di esseri umani, identificando anche le varie parti del corpo e notando anche eventuali anomalie, come dei tratti strani o particolari. Pensò allora: ma mentre una rete neurale cerca di generare un'immagine realistica di un essere umano, perché non lasciamo che sia un'altra rete neurale a dare dei feedback per dire se va bene oppure no? Mise quindi due reti una contro l'altra, da lì il nome appunto di reti generative avversarie. Una provava a generare un'immagine realistica, l'altra doveva dire se era una foto reale di un essere umano oppure no. Man mano che la prima diventava più brava a generare immagini realistiche, la seconda diventava più brava a distinguere fra foto vere e foto false. Per fare un parallelismo, immaginatevi due studenti d'arte: uno che cerca di dipingere quadri nello stile di Van Gogh, l'altro che è un esperto critico d'arte. Il primo dipinge un quadro e lo mostra al secondo. Il secondo lo esamina e dice: "No, questo non è un Van Gogh vero, mancano le pennellate vorticose nel cielo." Il pittore torna al cavalletto, corregge il quadro, mette le pennellate vorticose, lo rimostra al critico che dice: "Ok, ci sono le pennellate nel cielo, ma i colori non sono quelli giusti." Dopo Dopo milioni di iterazioni, il pittore diventa così abile che anche il critico più esperto non riesce più a distinguere le sue opere dagli originali. Goodfellow, nel 2014, non era partito lavorando sui volti umani. I primi esperimenti dell'E-GAN generavano cifre scritte a mano, erano sfide molto più semplici. Ma era il concetto alla base che avrebbe cambiato tutto. Nel giro di poco tempo, i ricercatori iniziarono a spingersi oltre. Se l'intelligenza artificiale poteva generare cifre, perché non lettere? Se poteva creare lettere, perché non oggetti? E se poteva creare oggetti, perché non volti? L'obiettivo era capire come funziona la percezione umana. Se un computer può imparare a creare volti che sembrano reali, forse possiamo capire meglio come il nostro cervello riconosce i volti. Era ricerca pura, motivata dalla curiosità scientifica. Nel 2015 un team di ricercatori pubblicò un paper che fece scalpore. Per la prima volta mostravano volti umani generati completamente dall'intelligenza artificiale. Erano sfocati, imperfetti, anzi anche abbastanza inquietanti. Ma era inequivocabile che fosse solo questione di tempo prima che si arrivasse ad avere delle repliche perfette di esseri umani realmente esistenti. I deepfake, come avrete capito, devono molto alle GAN, quindi alle reti generative avversarie, ma questa non è l'unica tecnologia utilizzata. Per arrivare a un deepfake, oltre alle GAN, serve anche l'autoencoder. Torniamo un attimo indietro nel tempo, precisamente agli anni '80, con le primissime reti neurali. Una rete neurale, come accennavo prima, va addestrata, Bisogna darle in mano una serie di dati grezzi e dirle su cosa sta lavorando, in modo che impari a riconoscere quello che le do. Il problema è che lavorare in questo modo è lentissimo e costosissimo, perché se voglio far capire alla rete neurale cos'è una mela, devo darle 100.000 foto di mele e dirle per ciascuna: questa è una mela rossa, questa è una mela verde, questa è sempre una mela verde ma sotto una luce diversa, quindi ha un colore diverso, eccetera. Questa cosa non poteva funzionare, bisognava trovare il modo di accelerare il processo, non si poteva etichettare ogni singolo dato. Bisognava fare in modo che la rete neurale capisse da sola cosa stava guardando. Anche la risoluzione a questo problema si deve a un ricercatore canadese, Geoffrey Hinton, considerato il padre dell'autoencoder. L'autoencoder è un tipo di rete neurale che lavora seguendo 4 passaggi a ripetizione. Nel primo passaggio la rete lavora su un dato che le abbiamo fornito, pensiamo proprio alla foto di una mela, la guarda, cerca di cogliere i dettagli essenziali, cerca di capire cosa sta guardando. Nel secondo passaggio la rete comprime drasticamente informazione che ha analizzato. È come se dovesse descrivere quella mela usando solo 10 parole invece che 1000. Deve identificare quindi quali sono gli elementi davvero essenziali. Forse la forma rotonda, forse è che è appoggiata su un piatto, forse è il picciolo, forse sono le sfumature di rosso. Prende quegli elementi lì e scarta tutto il resto che considera superfluo, come i dettagli dello sfondo o piccole imperfezioni casuali. Nel terzo passaggio arriva la vera sfida: la rete deve ricostruire l'immagine originale partendo solo da quei pochi elementi essenziali ha conservato. Solo se la rete è riuscita davvero a catturare l'essenza della mela riesce a ricrearla in modo convincente. Il quarto e ultimo passaggio è il momento della verità: la rete confronta la sua ricostruzione con l'immagine originale. Se le due mele si assomigliano molto significa che ha imparato bene quali sono le caratteristiche fondamentali. Se invece la ricostruzione è un disastro, la rete capisce di aver sbagliato qualcosa e aggiusta i suoi parametri interni. Probabilmente non ha riconosciuto bene quali sono gli elementi essenziali che caratterizzano la mela. Questo processo Questo si ripete milioni di volte, con la rete che diventa sempre più brava a identificare cosa è davvero importante in una mela e cosa invece può essere ignorato. La genialità dell'autoencoder di Hinton stava proprio in questo: la rete imparava da sola, senza che nessuno le dicesse "questa è una mela" o "questo è un piatto" o "questo è importante". Semplicemente giocando a questo eterno solitario del distruggi e ricostruisci, la rete sviluppava una comprensione profonda dei dati forniti. Questo faceva sì che anche dandole poi un'immagine diversa di una mela, l'autoencoder sarebbe è stato in grado di riconoscerla e replicarla in modo molto più efficiente, perché sapeva già come era fatta una mela. Anche qui l'obiettivo era molto nobile: si voleva far sì che la rete neurale imparasse a riconoscere dei pattern, si autoaddestrasse. Non c'erano delle finalità criminali alla base, anzi uno degli utilizzi pensati da Hinton era l'utilizzo in ambito medico. Se gli faccio vedere 800.000 foto di come dovrebbe essere un fegato, nel momento in cui gli faccio vedere un'immagine di un fegato che ha qualcosa che non va, l'autoencoder dovrebbe essere in grado di capirlo, di armi che c'è qualcosa che non torna. Quindi poteva diventare anche uno strumento diagnostico. Nel corso degli anni successivi l'autoencoder è andato migliorando man mano, è passato da riuscire a distinguere un essere umano da una mela a distinguere fra due esseri umani diversi fra loro, ed è diventato particolarmente bravo a catturare l'essenza di una persona, al punto da riuscire a ricostruire le immagini in modo praticamente perfetto. Abbiamo visto dunque due tecnologie diverse, ciascuna con dei punti di forza e dei punti deboli a cui l'altra può far fronte. Le GAN, quindi le reti generative avversarie, che sono bravissime a creare da zero delle immagini in grado di ingannare un essere umano, ma non sono così brave a imitare qualcosa di già esistente. Se do loro un'immagine di Tom Cruise e chiedo di replicarlo, genereranno un'immagine super realistica di un uomo con i capelli scuri, i denti dritti e così via, ma non assomiglierà minimamente a Tom Cruise. Invece l'autoencoder è bravissimo a intuire i dettagli essenziali di un'immagine, cosa non può mancare, mentre non è così bravo a produrre in autonomia un'immagine realistica. Sa ricostruire un'immagine, sa mappare dettagli essenziali, ma non è in grado di creare dal nulla una foto capace di ingannare un essere umano. Se gli chiedo di generare una foto di Tom Cruise, genererà un'immagine poco realistica, un po' sfocata, come se avesse un filtro sopra, ma guardandola capiremmo benissimo che stava cercando di rappresentare proprio Tom Cruise. I guai sono iniziati quando qualcuno ha pensato di unire le due tecnologie. Nel 2016 i ricercatori hanno iniziato a chiedersi: ma se noi prendessimo le capacità incredibili dell'autoencoder di capire com'è fatto Tom Cruise e le unissimo capacità incredibile delle GAN di creare delle immagini realistiche. Non potremmo generare immagini perfette di Tom Cruise e anche molto realistiche? Iniziarono quindi alcuni esperimenti innocenti e poi nel 2017 l'innocenza venne meno del tutto. Su Reddit, un social molto usato soprattutto negli Stati Uniti, un account chiamato Deepfakes, da cui proprio il nome del fenomeno, iniziò a pubblicare dei video pornografici in cui i volti delle donne erano stati sostituiti con quelli di attrici famose. E vi dirò che se si fosse fermato lì probabilmente la situazione non sarebbe degenerata più di tanto. Invece, oltre a pubblicare il prodotto dei suoi sforzi, condivise con la community anche dei tutorial, dei codici pronti, insomma rivelò tutte le proprie conoscenze in modo che questa tendenza potesse diffondersi. I deepfake iniziarono piano piano a circolare con utilizzi spesso molto discutibili. Sia Hinton, il padre dell'autoencoder, che Goodfellow, il padre delle GAN, espressero pubblicamente il loro disagio nei confronti di come le loro tecnologie venivano utilizzate. Negli app store spuntavano come funghi applicazioni che permettevano di generare deepfake e face swap, cioè scambi di faccia, come se niente fosse. Nacque anche Reality Defender, una società originariamente no profit poi trasformatasi a scopo di lucro, che aveva come obiettivo proprio quello di aiutare le persone a capire se un video realistico che stavano guardando fosse reale o fosse un deepfake. Anche perché il fenomeno non provocava danni solo alle Realtà si stava diffondendo la tendenza a generare video di questo tipo anche per le persone comuni, in una sorta di revenge porn perverso in cui chiunque, soprattutto le donne, poteva essere vittima di una falsificazione gravissima. Una ragazza poteva andare a scuola un giorno e scoprire che qualcuno aveva fatto circolare per la scuola video in cui lei sembrava fare cose assurde o delle quali vergognarsi. E anche provando a spiegare che si trattava di un fake, era difficile convincere le persone. Erano video talmente ben fatti che non sembrava possibile fossero al computer. Nel 2019 apparve addirittura un'app chiamata DeepNude che prometteva di spogliare qualsiasi donna partendo da una foto normale. L'app venne ritirata dopo una valanga di proteste, ma non prima che fosse stata scaricata da centinaia di migliaia di persone. Le cose stavano decisamente prendendo una brutta piega e la situazione non fece che peggiorare. Il 2020 portò i deepfake nella politica ufficiale, con candidati che usavano la tecnologia per parlare in lingue che in realtà non conoscevano. Il caso più eclatante si in India durante delle elezioni locali. Uno dei partiti utilizzò la tecnologia deepfake per creare video in cui il loro candidato parlava fluentemente in dialetti locali che non conosceva. I video diffusi su WhatsApp e tramite social raggiunsero nel giro di breve tempo 15 milioni di persone. Era la prima volta che un partito politico usava ufficialmente deepfake in una campagna elettorale. In questo caso comunque il pubblico fu informato che si trattava di una tecnologia di intelligenza artificiale, ma era chiaro che questi strumenti potevano aprire la strada a vere proprie manipolazioni dell'opinione pubblica, cosa che effettivamente si verificò il 16 marzo 2022, 3 settimane dopo lo scoppio della guerra fra Russia e Ucraina. Sui social network apparve un video in cui il presidente dell'Ucraina, Zelensky, invitava i soldati a deporre le armi, ad arrendersi, dicendo che non valeva la pena morire per quella guerra. L'obiettivo era abbastanza chiaro: si tentava di manipolare psicologicamente le truppe e la popolazione ucraina, facendo credere al popolo che il presidente fosse convinto dell'impossibilità di continuare. Il video venne scherato rapidamente, anche grazie alla pronta smentita dello stesso Zelensky, ma era diventato evidente quanto i deepfake potevano essere pericolosi nella gestione delle informazioni. E questa non era nemmeno la prima volta che succedeva. Già 2 anni prima, in effetti, nel 2020, era stata fatta una scoperta inquietante. Un giornalista freelance di nome Oliver Taylor aveva pubblicato diversi articoli accusatori contro organizzazioni pro Palestina. Il giornalista aveva un profilo LinkedIn incredibile, una foto professionale, una storia apparentemente coerente. C'era un problema: Oliver Taylor non esisteva. Tutte le sue foto erano generate dall'intelligenza artificiale. In realtà la sua identità era completamente inventata. Qualcuno aveva creato un giornalista virtuale per diffondere disinformazione mirata. Non solo, il fenomeno del deepfake nel mondo dell'informazione ha anche un altro effetto collaterale molto importante. Immaginate che un politico venga filmato oggi mentre accetta una tangente. Prima dei deepfake quel video sarebbe stata una prova inconfutabile. Oggi il politico può semplicemente dire: è falso, è ovvio che qualcuno ha manipolato il video e l'ha creato apposta per danneggiarmi. Non è che non ci sia modo di capire se effettivamente il video è vero oppure no, ma il seme del dubbio nell'opinione pubblica lo si può piantare comunque. È diventato veramente difficile capire che cosa è reale e cosa no. Torniamo però all'argomento cardine di questo canale, che è il mondo cyber. Anche qui il deepfake non tardò ad arrivare e a far danni. Nel 2019 si verificò in effetti un caso molto simile a quello che ho descritto nell'introduzione, di cui vi ho parlato anche nel video Su Smishing e Vishing, il manager di una società britannica ricevette una chiamata dall'amministratore delegato della casa madre. La voce era inconfondibile. Il manager aveva già avuto modo di parlare con l'amministratore delegato e lo riconobbe senza esitazioni, per cui non ebbe problemi a fare quello che gli chiedeva, cioè autorizzare un bonifico da $243.000. Solo ore dopo emerse che l'amministratore delegato non aveva mai fatto quella telefonata. La voce che aveva sentito il manager era stata generata da un algoritmo di intelligenza artificiale ad registrato su campioni audio presi da video pubblici e conferenze. Erano emersi i primi deepfake vocali, basati sempre sull'uso di reti neurali che apprendevano un pattern, in questo caso basato su timbro vocale, intonazione, accenti, difetti di pronuncia, e costruivano una traccia audio totalmente falsa ma assolutamente credibile. Vi rendete conto del problema? Fino all'invenzione dei deepfake, le truffe online avevano un limite fondamentale: dovevano convincervi senza farsi vedere, tramite mail di phishing, messaggi sospetti, chiamati o telefonate che però provenivano da sconosciuti. I deepfake hanno demolito questa barriera. Immaginate di aver detto a vostra mamma di non fidarsi se qualcuno la chiama e dice che voi siete in pericolo e avete bisogno di soldi. Ma se a chiamarla, o peggio, a videochiamarla, siete proprio voi? È qualcuno che ha il vostro aspetto e parla esattamente come voi? Come si fa a stare attenti davanti a questo genere di truffa? E non pensiate che sia uno scenario poco realistico. La tecnologia è avanzata così rapidamente che è diventato possibile anche generare deepfake realistici, visualizzati utilizzati in diretta, non preregistrati, che possono portare a truffe milionarie, come è successo a Hong Kong nel 2021. Ma direi che questo lo vediamo nel video di domani, anche perché oggi con questo video siamo già belli agitati e non mescolati. E banalmente, anche sistemi progettati per essere sicuri, come l'autenticazione a più fattori basata sul riconoscimento facciale, rischiano un domani di essere superati dal deepfake. Per il momento ci salva il fatto che per sbloccare il telefono non basta mostrare una foto, un video, serve tridimensionalità. Ma ci vuol poco a capire che malintenzioni condizionati, un modo per superare questa cosa prima o poi lo troveranno. In ogni caso possiamo consolarci sapendo che abbiamo sempre la possibilità di spegnere computer e telefoni e ritirarci a fare gli eremiti in una baita in montagna. E anzi, a questo proposito, vi chiedo gentilmente di commentare questo video suggerendomi dei nomi per le due caprette che ho intenzione di adottare quando sarò là. A parte gli scherzi, va detto che il nostro cervello è una macchina incredibile per riconoscere volti e voci. Noi siamo figli di milioni di miliardi di evoluzione che ci hanno dotato di sensori finissimi per distinguere un amico da un nemico, per captare anche le più sottili espressioni di emozioni genuine. Questi stessi sensori possono aiutarci a riconoscere i deepfake, almeno quelli meno sofisticati. Il trucco è sapere cosa cercare. I primi deepfake avevano un problema curioso: i protagonisti non sbattevano mai le palpebre. I ricercatori scoprirono che gli algoritmi erano stati addestrati principalmente su foto, dove le persone hanno quasi sempre gli occhi aperti. Il risultato erano video di persone che fissavano la telecamera con uno sguardo innaturalmente fisso. Ovviamente i creatori di deepfake hanno risolto molto rapidamente anche questo problema, ma ogni soluzione ha creato nuove imperfezioni che noi possiamo cercare e ci possono aiutare a capire se stiamo guardando qualcosa di falso. Adesso vi mostro una mia clip generata con l'intelligenza artificiale, quindi non sono veramente io ma è un mio avatar. Provate a notare gli indizi che vi sto per dire. Oggi gli indizi visivi più comuni includono gli occhi. Gli occhi tendono sempre a muoversi in modo strano, la persona Sbatte le palpebre troppo o troppo poco o troppo lentamente. I riflessi dentro agli occhi tendono a essere sbagliati, dovrebbero essere coerenti con l'ambiente circostante e cambiare naturalmente quando la persona muove la testa. Invece spesso sembrano scollegati dal resto. Ancora, le incongruenze di illuminazione. Spesso l'algoritmo mantiene l'illuminazione del volto originale, che non corrisponde perfettamente alla scena di destinazione. Se la luce arriva da sinistra e l'ombra del naso è dalla stessa parte, qualcosa non quadra. Spesso questi video hanno dei bordi sfumati, Guardate attentamente il confine fra il volto e i capelli, o fra il volto e lo sfondo. I deepfake spesso creano bordi leggermente sfocati, un po' innaturali, perché con un volto troppo nitido si capirebbe meglio che si tratta di un falso. Un altro indizio molto forte riguarda la sincronia labiale. Anche i migliori deepfake faticano a coordinare perfettamente i movimenti delle labbra con l'audio, specialmente nelle parole più complesse oppure in lingue che non sono l'inglese. Quindi noi italiani siamo un po' agevolati. Immaginate di esservi iscritti a un canale in cui una ragazza parla di Cybersecurity. Ci rimarreste male a scoprire che in realtà quella ragazza non esiste e che si tratta semplicemente di un avatar generato al computer? Beh, per fortuna non è questo il caso, ma già solo questa clip generata interamente con l'intelligenza artificiale fa un po' paura. L'ultimo indizio è la nostra pancia e quello che viene chiamato effetto uncanny valley, che si verifica quando proviamo un senso di disagio sottile guardando qualcosa che sembra umano ma non del tutto. Se guardando un video sentite che qualcosa non va senza riuscire a spiegare cosa, fidatevi del vostro istinto. Ma c'è un problema, ovviamente: man mano che la tecnologia migliora, questi indizi diventano sempre più sottili e soprattutto richiedono tempo, attenzione per essere notati. E sappiamo che le migliori truffe approfittano della nostra paura, della nostra urgenza, quindi spesso sfruttano proprio questi sentimenti per far sì che ignoriamo le nostre sensazioni che qualcosa non stia andando bene. Bene, su questa nota ansiogena chiudo il video di oggi. Spero come sempre che argomento vi sia piaciuto. Non perdetevi il video di domani in cui vedremo un caso veramente eclatante di deepfake che ha portato un'azienda a perdere ben 25 milioni di dollari. Intanto, mi raccomando, aspetto i nomi per le caprette nei commenti. Noi ci rivediamo nel prossimo video.