😱 Il caso ARUP: il deepfake da 25 milioni di dollari

Il 29 gennaio 2024 la polizia di Hong Kong ricevette quella che sembrava una normale denuncia per truffa aziendale. Il dipendente della filiale cinese di un'importante società con sede nel Regno Unito era stato ingannato da dei malintenzionati che erano riusciti a convincerlo a spostare fondi aziendali su altri conti correnti, in realtà intestati ai criminali. Gli agenti non tardarono a capire che i contorni di questa vicenda erano molto più sfumati e inquietanti di quanto sembrasse all'inizio e si trovavano di fronte a un nuovo tipo di truffa in grado addirittura di ridefinire i confini fra realtà e finzione. Si trovavano di fronte al primo caso documentato al mondo dell'utilizzo di deepfake durante una video call in diretta che aveva ingannato un dipendente attento e regolarmente formato, convincendolo a versare ai malintenzionati oltre 25 milioni di dollari. Ma per capire bene cosa è successo dobbiamo partire dall'inizio. Ciao a tutti e benvenuti in questo nuovo video. La vicenda di cui parliamo oggi inizia con un'email apparentemente normale indirizzata a un dipendente della società britannica Arup. Probabilmente questo nome non vi dice nulla, ma si tratta di una delle società di progettazione design più famose al mondo, che ha partecipato alla realizzazione, fra gli altri, di progetti come il Millennium Bridge di Londra, l'Allianz Arena, quindi lo stadio del Bayern Monaco, il Centro Pompidou di Parigi, a cui collaborò fra l'altro anche Renzo Piano, il Bosco Verticale di Milano, la sede di Apple in California e persino la Opera House di Sydney. La cosa che caratterizza le società di questo tipo è la movimentazione continua di fondi, anche di importi molto elevati, che servono per pagare fornitori, per acquistare materiali, per ricevere finanziamenti e così via. Non è strano quindi che un dipendente riceva la richiesta di fare pagamenti per importi anche multimilionari, e proprio per questo i dipendenti seguivano corsi di formazione molto rigorosi proprio per imparare un po' a difendersi dai tentativi di truffa. Sapevano riconoscere una mail di phishing lontano un miglio, conoscevano alla perfezione le procedure da seguire quando un fornitore conosciuto improvvisamente cambiava IBAN. Insomma, la società era abbastanza tranquilla di aver fatto tutto quanto in proprio potere per impedire che un attacco basato sull'ingegneria sociale andasse a buon fine. Ma nessuno poteva prevedere quello che sarebbe successo di lì a poco. Come vi accennavo, la nostra storia inizia da dipendente della filiale di Hong Kong di Airup. Non sappiamo il nome del dipendente, che giustamente non è stato divulgato, quindi ai fini della nostra storia lo chiameremo Mark. Mark si trovava nel suo ufficio e stava lavorando in un giorno come un altro di fine 2023 quando ricevette una mail apparentemente proveniente dal CFO della sede centrale di Londra. Giusto per chiarezza, per chi non fosse avvezzo alla suddivisione dei ruoli all'interno delle grandi aziende, il CFO, o Chief Financial Officer, è il direttore finanziario finanziario di un'azienda. In parole semplici, è la persona che gestisce i soldi della società. È colui, quindi, o colei che controlla le entrate e le uscite, prepara i bilanci, pianifica dove investire e come risparmiare, si rapporta con le banche, con gli investitori, revisori. Insomma, è uno dei ruoli più importanti. Se consideriamo l'amministratore delegato come il capo generale, il CFO è il capo dei soldi. Mark, in quanto impiegato nel settore finanziario, si interfacciava molto spesso con il CFO, al quale faceva rapporto in modo, direi, diretto. Non era strano quindi che il capo gli scrivesse una mail. La cosa strana era il contenuto della mail, che informava Mark della necessità di procedere con l'approvazione di una transazione segreta. E qui succede una cosa cruciale, che per la verità non capita spesso nelle storie che racconto in questo canale. Mark, davanti a quella mail, si insospettì. Aveva ricevuto un'ottima formazione anti-phishing, sapeva riconoscere segnali di allarme. La sua prima reazione quindi fu di scetticismo. Quella formulazione transazione segreta suonava esattamente come le truffe che aveva imparato a riconoscere nei corsi aziendali. Poi c'era un pizzico di urgenza, la somma era molto alta, quindi insomma c'erano alcune cose che stonavano. È importante sottolineare questo punto perché ciò che seguì non fu il risultato di negligenza o di stupidità del dipendente, fu il risultato di un inganno talmente sofisticato da superare le difese anche di un dipendente preparato e attento come Mark. La mail era molto ben costruita, non richiedeva direttamente di fare un bonifico o di pagare un fornitore, ma invitava il dipendente solo a partecipare a una videochiamata su Zoom per discutere la questione. Fu questo che superò la prima barriera delle difese di Mark, che pensò: io non faccio nessuna transazione segreta se non è il CFO di persona a dirmelo. Quindi se vedo che in questa videochiamata non è lui, o mi rendo conto che qualcosa non torna, faccio immediatamente rapporto e la blocco lì. Ma intanto aveva deciso di partecipare alla call. Quando il dipendente, nel giorno e all'ora prestabiliti, si collegò alla videochiamata Zoom, quello che vide sembrava assolutamente normale. C'era il CFO che conosceva, c'erano altri dirigenti senior dell'azienda, dei colleghi londinesi che aveva visto in tantissime riunioni precedenti. Le voci corrispondevano, le espressioni facciali erano quelle giuste. Tutti loro avevano quei difetti e quei modi che Mark aveva ormai imparato ad associare a ciascuno di loro nel corso degli anni. La riunione andò avanti secondo i protocolli aziendali standard. Mark, da quello che raccontò poi agli inquirenti, in una prima fase si limitò ad ascoltare i dirigenti dei vari uffici che parlavano fra di loro e discutevano di questa transazione riservata da portare avanti. C'era forse solo un dettaglio sottile che col senno di poi avrebbe potuto far suonare un campanello d'allarme: non c'era una vera e propria interazione, non c'era quel botta-risposta naturale, quelle interruzioni casuali, anche quelle sovrapposizioni di voci che caratterizzano normalmente le riunioni su Zoom. I dirigenti principalmente davano istruzioni e ordini, mantenevano quindi la comunicazione unidirezionale, normale. E quando Mark interveniva, la risposta era sempre un pelo in ritardo, magari non sempre centratissima con quello che lui aveva detto. Ma anche con questi micro dettagli fuori posto era impossibile che Mark si accorgesse che la call a cui stava partecipando era in realtà una performance teatrale digitale di precisione chirurgica. Ogni singola persona in quella chiamata, eccetto lui, era un deepfake, una ricostruzione fatta a video di persone reali che però a quella call non avevano mai partecipato. E Era una falsificazione talmente perfetta da ingannare non solo i suoi occhi, ma anche il suo istinto professionale, che era ormai affinato da anni di esperienza nel settore finanziario. Per comprendere come sia stato possibile un inganno di questa portata, dobbiamo addentrarci un minimo nella tecnologia che lo ha reso possibile. Per i dettagli tecnici comunque vi rimando al video sui deepfake, dove ho approfondito proprio tutta la storia di questa tecnologia e ho spiegato come funziona nella pratica. Ma intanto cerchiamo di capire come hanno fatto questi truffatori. Non si trattava di dei geni della programmazione che avevano sviluppato strumenti nuovi rispetto a quelli già esistenti. Avevano semplicemente utilizzato delle tecnologie già disponibili, mettendole insieme però con una pianificazione meticolosa che probabilmente aveva richiesto dei mesi, mi vien da dire, forse anche di più. Il materiale grezzo da cui erano partiti per generare deepfake proveniva da fonti completamente pubbliche. Si trattava di video aziendali, presentazioni caricate su YouTube, registrazioni di webinar, interviste pubbliche. Ogni apparizione digitale personale dei dirigenti di Airup era diventata materiale per costruire le loro copie sintetiche. È un aspetto che dovrebbe fare riflettere ogni azienda: ogni contenuto video pubblicato online diventa potenzialmente una risorsa per i truffatori. Anche decidere chi inserire nella video call era stato relativamente semplice: i malintenzionati avevano dovuto semplicemente mettere le mani su un organigramma della società, che spesso fra l'altro le aziende pubblicano con orgoglio sui loro siti web, e combinarlo con le varie interviste e le informazioni che erano riusciti a ottenere facendo delle ricerche che mirate su Google. In questo modo avevano creato un quadro generale e molto preciso di chi lavorava per l'azienda, di quale ruolo svolgeva, chi si interfacciava con chi, chi era probabile che partecipasse a una video call di questo tipo, e via dicendo. Pensiamoci un attimo, Mark si sarebbe sicuramente insospettito se alla video call avesse partecipato un collega che svolgeva attività puramente amministrativa, o ad esempio delle risorse umane, perché non avrebbe avuto senso farlo partecipare a una riunione su questa fantomatica transazione riservata. Anche il dipendente vittima era stato scelto con moltissima cura. Era necessario che si trattasse di qualcuno di livello abbastanza basso da prendere ordini dal CFO, ma abbastanza in alto da avere l'autorizzazione a movimentare dei fondi. L'ultima cosa, e forse la più importante, che i truffatori avevano creato con cura maniacale era il contenuto della video call. Per quanto sembrasse un'interazione live, in diretta, si trattava in realtà di micro clip video e audio già registrate prima. I malintenzionati con tutta probabilità si erano creati una libreria già pronta di frasi, domande, risposte, in modo da far fronte a qualunque scenario. Ed erano stati così bravi a prevedere quello che poteva succedere e anche a trasmettere di volta in volta la clip corretta che Mark ci cascò con tutte le scarpe, perché le imperfezioni erano veramente minime. Qualche ritardo nella risposta, qualche incongruenza tra la risposta e la domanda che magari lui aveva fatto, ma tutto era estremamente verosimile. Sicuramente non poteva immaginare quello che c'era dietro davvero. Dopo circa una mezz'ora di call, i criminali sganciano la bomba. Il deepfake del CFO, dopo che la questione era stata più o meno apparentemente discussa, ordina a Mark di effettuare 15 bonifici separati verso 5 conti bancari locali di Hong Kong. Nessuna scelta era casuale. Ad esempio, il fatto di aver deciso di chiedere più bonifici rifletteva una conoscenza dei sistemi bancari e anche dei meccanismi di rilevamento delle frodi. Importi troppo grandi in un'unica transazione avrebbero potuto attivare delle allerte automatiche. La scelta di Hong Kong come destinazione finale era dovuta al suo sistema bancario aperto e probabilmente anche a una connessione facilitata con la Cina continentale. Quindi c'era, diciamo, maggiore possibilità di movimentare rapidamente fondi in modo da complicare enormemente i tentativi di recupero. Mark, convinto da quello che credeva fosse il CFO, autorizza il trasferimento dei fondi. E qui i criminali calarono l'asso di briscola. Qual è la cosa che più vi insospettisce quando temete di essere stati vittime di una truffa? Ad esempio, capitate su un sito poco conosciuto che vende scarpe molto belle e decidete quindi di acquistarne un paio. Avendo l'esperienza di Amazon, Zalando e altri siti di questo tipo, vi aspettate di ricevere una mail di conferma dell'ordine come prima cosa, poi una mail che vi informa della spedizione con un link magari per tracciarla, e così via, giusto? Se invece ad accogliervi dopo il pagamento c'è il silenzio più totale, iniziate magari a temere che dietro ci fosse qualche malintenzionato che ora se la sta spassando con i vostri 30€. È il silenzio ad alimentare il sospetto, e il criminale della nostra storia lo sapevano molto bene. E infatti adottarono una strategia completamente diversa. Mark, nel corso della settimana successiva, ricevette tutti i feedback che si aspettava. Il CFO lo chiamò dopo la call per chiedergli se era tutto a posto, e gli fece anche qualche domanda in più su cose magari anche non direttamente collegate, ma sempre compatibili con le loro mansioni. Vennero fatte nuove videochiamate di proseguimento della call iniziale, anche individualmente. Vennero inviate delle mail in cui Mark era solo in copia, quindi non era neanche il diretto destinatario, sembrava da solo che continuasse a partecipare a quest'operazione. Tutto questo per una settimana. I criminali volevano essere completamente certi di riuscire a far sparire i soldi prima che qualcuno potesse iniziare a sospettare. Durante questa settimana, Mark continuò la sua vita lavorativa normale, partecipando ad altre riunioni, gestendo altre pratiche. Era totalmente inconsapevole di essere al centro di una delle truffe più sofisticate della storia moderna. È un dettaglio che sottolinea ancora una volta quanto fosse convincente questo inganno. Non solo era stato in grado di superare screditare le difese iniziali di Mark, che comunque era un dipendente, lo ripeto, formato, attento e così via, ma aveva creato una realtà alternativa così coerente da sostenere se stessa per dei giorni. Dalle indagini successive, fra l'altro, è emerso che anche altri dipendenti di Airup erano stati contattati dai truffatori durante questo periodo, anche se i dettagli specifici di questa interazione non sono stati resi pubblici. In particolare non si è capito se fosse solo un modo di validare ulteriormente la narrativa falsa o se ci fosse dietro il tentativo di sottrarre altro denaro. E poi tutto d'un tratto il silenzio. Niente più call, niente più mail sull'argomento. Mark iniziò a inquietarsi e ad avvertire che c'era qualcosa che non andava. Non era possibile che tutte le persone coinvolte fossero sparite tutte insieme, tutte in una volta. Decise quindi di verificare direttamente con la sede centrale di Londra. E quando il CFO cade dalle nuvole a sentir parlare di questa transazione segreta, il castello di carte crollò. Rollo. Ovviamente non era solo il CFO a essere all'oscuro, ma anche tutti gli altri dirigenti teoricamente coinvolti in questa truffa. Quando Venesport denunciò la polizia di Hong Kong, i fondi erano già stati trasferiti più volte fino a diventare irrintracciabili. L'indagine che seguì rivelò tutta la complessità di un'operazione che aveva richiesto mesi di preparazione e una conoscenza approfondita sia della tecnologia deepfake, ovviamente, che delle procedure aziendali del target. Innanzitutto emerse che non si trattava di un caso isolato. Parallelamente al caso Wairup, la polizia stava investigando almeno 6 arresti correlati a truffe deepfake di tipo simile. C'era un vero e proprio pattern di utilizzo sistematico di questa tecnologia per ingannare i sistemi di riconoscimento facciale, con i deepfake utilizzati per facilitare ad esempio richieste di prestito fraudolente o registrazioni di conti bancari intestati a persone realmente esistenti ma che in realtà non c'entravano nulla e non sapevano assolutamente che qualcuno stesse aprendo un conto a nome loro. Purtroppo, nonostante le indagini, ad oggi, circa un anno e mezzo dopo della commissione del crimine, i responsabili non sono mai stati individuati. I fondi sono stati rapidamente convertiti in criptovalute più e più volte, in modo da far perdere le loro tracce. Quindi per l'azienda non c'è stata possibilità di recuperare nemmeno in parte quanto sottratto. Per la società ci furono anche alcuni danni all'immagine, come accade sempre quando qualcuno ammette di essere stata vittima di truffa o di attacco hacker. Ma in realtà divenne chiaro ben presto che c'erano ben poche cose che l'azienda poteva fare per evitarlo. Il dipendente era stato formato, i firewall non erano stati violati, dei campanelli di allarme evidente non ce n'erano. Il lato positivo era che si era trattato, diciamo, solo di soldi, per quanto fosse una cifra molto elevata. Nel senso che l'attacco non aveva riguardato dei dati personali dei clienti, delle credenziali di accesso o cose di questo tipo. Per cui, dal punto di vista dell'immagine, quantomeno si recupererà rapidamente. Mi sento di dire che l'unica cosa che si può apprendere da questa storia è di fidarci magari un po' di più del nostro istinto. Mark aveva avuto l'impressione dalla prima email che qualcosa non tornasse, ma aveva ha dato questa sensazione quando il resto si era poi allineato nel modo corretto. Forse se la chiamata alla sede centrale l'avesse fatta subito, oggi non sarei qui a parlare di questa vicenda. Certo è che vedo ben poco da rimproverargli, siamo di fronte a dei truffatori esageratamente bravi. Bene, come sempre spero che il video vi sia piaciuto. Per quanto questa vicenda lasci molto amaro in bocca e una sensazione di sfiducia nei confronti del mondo, fatemi sapere nei commenti se conoscevate già la vicenda e cosa ne pensate. Noi ci rivediamo al prossimo video.