⚠️ USO dell'A.I. negli ATTACCHI INFORMATICI

Immaginate di ricevere una mail nella vostra casella di posta. Ormai sapete riconoscere a colpo d'occhio i tentativi di phishing, ma la mail non sembra rientrare in questa categoria. È ben impaginata, è scritta in un italiano fluido e perfetto e non ci sono indizi che fanno pensare che provenga da un malintenzionato. La mail proviene dalla polizia del vostro comune e vi invita a pagare una sanzione che a quanto pare non avete ancora saldato. Aprite l'allegato ed è strutturato perfettamente. Ci sono anche tutti i riferimenti dell'ufficio che ha emesso la sanzione, ci sono tutti gli estremi per fare il pagamento. Insomma, è tutto regolare. Non ricordate di aver preso quella multa, ma d'altronde può capitare di prendere un velox o di entrare accidentalmente in una ZTL. Decidete di pagare facendo un bonifico all'ufficio competente e non ci pensate più. Qualche giorno dopo sentite alla televisione di una nuova truffa basata su una mail proprio come la vostra che chiede pagamento di una multa arretrata. Dietro questi attacchi, a quanto pare, c'è un gruppo di cybercriminali della Corea del Nord. Le mail che arrivano sono così perfette perché sono costruite con l'intelligenza artificiale, che non solo ha scritto un messaggio convincente, ma ha creato mail diverse in base al destinatario, in modo che ogni vittima ricevesse la multa dal comune di residenza. Oggi casi come questi sono sempre più frequenti. La mail sgrammaticata e scritta male non ha più senso, ora che un un chatbot qualunque è in grado di scrivere un messaggio convincente in tutte le lingue del mondo in pochi secondi. Quella che doveva essere una tecnologia in grado di accelerare il progresso è diventata ormai uno strumento potentissimo nelle mani dei cybercriminali. Ma per capire bene perché, dobbiamo partire dall'inizio. Ciao a tutti e benvenuti in questo nuovo video. Siamo alla terza puntata della serie dedicata all'intelligenza artificiale. Abbiamo visto cos'è e come viene hackerata, e oggi vedremo come viene usata sia dai malintenzionati che dai ricercatori di sicurezza per diventare più efficaci. Partiamo ovviamente dai protagonisti indiscussi dei miei video, i cybercriminali. Gli hacker malevoli partono sempre in vantaggio perché loro devono trovare solo un qualsiasi punto debole, mentre i difensori devono proteggere leggere tutto e cercare anche di immaginare come i loro sistemi potrebbero essere violati. Con l'intelligenza artificiale questo divario è aumentato enormemente, perché ora è ancora più facile per i malintenzionati trovare un punto di ingresso. Prendiamo il phishing, la tecnica forse più usata di sempre per far partire un attacco informatico. Una volta, come dicevo nell'introduzione, un'email di phishing era facile da riconoscere perché c'erano errori grammaticali, mittenti sospetti, fatti, con un minimo di attenzione ci si metteva poco a realizzare che si trattava di un tentativo di truffa. Oltretutto le mail, anche quelle scritte alla perfezione, erano poco personalizzate. Magari iniziavano con "Gentile signore" anziché indicare nome e cognome del destinatario. Il contenuto non era rivolto a qualcuno di specifico, quindi si capiva che faceva parte di un invio di massa. Insomma, c'erano 2-3 indizi indizi che potevano far capire che c'era in atto un tentativo di ingannarci. Oggi invece i criminali si sono attrezzati con l'intelligenza artificiale e in generale con l'enorme mole di informazioni che si possono trovare online sul nostro conto. Sono in grado di analizzare il nostro profilo social, leggere i nostri post, capire dove viviamo, cosa ci piace, cosa ci caratterizza, chi sono i nostri familiari e così via. E poi possono generare un'email super personalizzata che magari imita il nostro capo o un familiare, o sembra provenire da un servizio che effettivamente usiamo. Ovviamente questo vale anche per il phishing, quindi le truffe via telefonata, e lo smishing, stessa cosa ma con gli SMS. Nello smishing vale la stessa cosa che abbiamo detto per il phishing. Grazie all'intelligenza artificiale si possono costruire messaggi perfetti anche per WhatsApp che sembrano provenire da qualcuno che conosciamo e hanno un contenuto abbastanza realistico. Nel phishing, se vogliamo, è ancora peggio, perché grazie ai deepfake è possibile creare video e registrazioni vocali che imitano perfettamente la voce e l'aspetto di una persona. Quindi prima, se un malintenzionato voleva fregare una nonnina, doveva magari chiamarla e dire: "Tua nipote ha bisogno di soldi." E lei poteva anche non cascarci. Oggi, paradossalmente, potrebbe chiamarla dopo aver generato delle false registrazioni della voce del nipote, facendo sembrare che sia direttamente siete lui a chiedere i soldi. Questi comunque non sono gli unici modi in cui viene sfruttata l'intelligenza artificiale, anzi, forse sono i più banali, perché sotto sotto c'è molto di peggio. Nel dark web recentemente sono spuntati dei nuovi servizi chiamati WormGPT, FraudGPT e altri nomi simili. Sono essenzialmente dei chatbot come quelli che potreste usare per chiedere informazioni o scrivere un testo, ma senza alcuna limitazione. Possono essere usati per scrivere una mail di truffa convincente, trovare vulnerabilità in un sistema e anche creare da zero un malware. Se io chiedo a ChatGPT di crearmi un malware o di spiegarmi come trovare una vulnerabilità in un sistema, devo essere molto convincente e magari fare anche un po' di prompt injection, perché la sua prima risposta sarà tipo: non posso aiutarti a fare queste cose perché sono illegali. Con i chatbot del dark web invece non c'è problema. Vi segnalo che in realtà esiste anche una via di mezzo, cioè un chatbot che non è nel dark web, è disponibile per tutti, che teoricamente nasce per i ricercatori di sicurezza, ma immagino possa essere usato anche dai malintenzionati. Si chiama HackerAI, hacker AI, e si propone come il nostro assistente per i penetration test, che sono quei test che i ricercatori di sicurezza fanno per trovare vulnerabilità in un sistema, simulando quello che potrebbe fare un attaccante. A livello di legalità è in una zona molto grigia. Diciamo che è un po' come se esistesse un chatbot che ti insegna per filo e per segno come scassinare una serratura, ma dicesse che lo fa per aiutare i fabbricanti di serrature a renderle più sicure. Ok, ma mi stai comunque insegnando a scassinare una serratura. Anche a livello di malware, l'intelligenza artificiale sta aiutando molto i criminali. Una cosa su cui si basano gli antivirus è la firma del malware. Una volta che un computer viene infettato, viene analizzato il software malevolo e la sua firma, quindi il codice identificativo, viene salvata in un database, in modo che tutti gli altri antivirus possano rilevarlo subito. Oggi ci sono funzioni semplicissime da implementare che cambiano continuamente la firma del malware, in modo che su ogni computer in cui viene installato ne abbia una diversa. In questo modo è inutile salvare la firma nel database generale, perché in pratica è una firma usa e getta. Tra l'altro, la cosa più sottovalutata è quanto l'intelligenza artificiale sia autonoma nello svolgere compiti. Ormai è in grado di effettuare un attacco praticamente da sola, con una supervisione umana minima, come è successo un paio di mesi fa con Claude Code, un caso che ha veramente dell'assurdo. Ma di questo ne parliamo nel prossimo video. Comunque quello che rende questi strumenti pericolosi non è tanto la loro potenza quanto la loro accessibilità. Fino a qualche anno fa per lanciare un attacco informatico servivano competenze tecniche avanzate, anni di studio, esperienza, insomma dovevi partire a far la gavetta e imparare ad hackerare. Oggi basta saper chattare con l'intelligenza artificiale, se troviamo il tool giusto. In pratica abbiamo democratizzato il crimine informatico, che non è più una materia per pochi eletti, ma è una cosa che possono fare tutti. Ma se l'intelligenza artificiale è nelle mani degli hacker, è anche per fortuna nelle mani di chi ci difende. E qui le cose diventano interessanti, perché stiamo assistendo a una vera e propria rivoluzione nel mondo della sicurezza informatica. Proviamo un attimo a immaginare di lavorare nel blue team di un'azienda. Il Blue Team in sostanza è chi ha il compito di proteggere l'azienda dagli attacchi informatici. Il vostro lavoro quindi è quello di aggiornare i sistemi, controllare che i dipendenti non clicchino su cose strane e anche monitorare tutto il traffico di rete per capire cosa entra e cosa esce dall'azienda. Il problema è che in una normale giornata di lavoro un Blue Team avrà milioni di log da guardare ed è facile che qualcosa possa sfuggire. Quindi che ci sia del traffico malevolo che viene scambiato per normale. Ci sono ovviamente dei software fatti apposta, ma sono un po' preimpostati, cioè si attivano o riconoscono la presenza di qualcosa di anomalo solo se questa cosa anomala risponde a determinati criteri. L'uso dell'intelligenza artificiale in questo settore può aiutare tantissimo, perché l'IA, a differenza dei normali strumenti, non si ferma all'elenco di tutti i possibili attacchi o al database di tutti i virus conosciuti, ma impara col tempo. Impara quale traffico è normale e quale no, impara i pattern di comportamento degli utenti, così quando qualcosa devia da questa normalità se ne accorge subito. È un po' come il nostro sistema immunitario: il corpo non ha un database di tutte le possibili malattie esistenti, ma sa comunque riconoscere quando c'è qualcosa che non va e ce lo fa capire. L'intelligenza artificiale funziona in modo simile: impara cos'è sano per il sistema e reagisce quando percepisce qualcosa di malato. Prendiamo un esempio concreto. Immaginiamo un dipendente che ogni giorno si collega al sistema aziendale dalla stessa città, più o meno agli stessi orari, e accede sempre agli stessi file. Un'intelligenza artificiale impara questo schema di comportamento. Poi improvvisamente qualcuno si collega alle 3 di notte con le credenziali di quel dipendente e accede a dei file che quel dipendente non ha mai aperto prima. Per un sistema tradizionale, se le credenziali sono giuste, l'accesso è valido. Per un sistema con intelligenza artificiale tutto questo è assolutamente anomalo e sospetto, e quindi fa scattare immediatamente l'allarme. Non solo, perché l'intelligenza artificiale ormai è in grado di imparare chi c'è davanti a un computer anche da dettagli minimi come il modo di digitare della persona. Se un computer viene usato sempre e solo dalla segretaria sessantenne che ancora usa la tastiera solo con i due indici, E un giorno a quel computer si collega qualcuno che scrive sulla tastiera alla velocità della luce, l'intelligenza artificiale se ne accorgerà. Magari non è nulla, magari è un nuovo dipendente o qualcuno che effettivamente ha il permesso di essere davanti a quel computer, ma lei un avvisetto lo manda. Oltre a questo si stanno facendo tantissimi passi avanti anche per quanto riguarda i SIEM, acronimo che sta per Security Information and Event Manager. Sono in pratica dei centri di controllo di un sistema aziendale in cui confluiscono tutti i log dei vari servizi dei diversi computer e che quindi permettono di avere una panoramica completa di quello che succede in azienda. Un SIEM moderno dotato di intelligenza artificiale può correlare eventi che sembrano completamente disconnessi ma che messi insieme possono far capire che c'è un attacco in corso. Per esempio, il SIEM registra un login fallito su un server. Normale, capita. Poi registra un accesso riuscito con un account privilegiato su un altro sistema. Normale, è lavoro quotidiano. Poi nota una modifica a una configurazione di rete. Normale, sarà manutenzione. Ma se questi 3 eventi accadono in sequenza dalla stessa postazione e magari coinvolgono sistemi che normalmente fra di loro non comunicano, l'intelligenza artificiale può accorgersi che qualcosa non va, mentre magari un essere umano fa più fatica a individuare questo schema in tutta la mole di dati che deve analizzare. Anche gli antivirus stanno migliorando molto, sfruttando sempre queste cose che ci siamo detti. Anziché basarsi solo sulla lista di firme dei malware, cercano dei pattern di comportamento anomali e se riscontrano qualcosa di strano, nel dubbio avvisano. Quindi è vero che l'intelligenza artificiale aiuta moltissimo i cybercriminali, ma aiuta altrettanto anche i ricercatori di sicurezza. Su questo però voglio fermarmi un attimo e parlare dell'elefante nella stanza, perché tutto questo suona bellissimo detto così, ma c'è un aspetto da non trascurare. Per proteggerci l'intelligenza artificiale deve sapere tutto di noi. Per rilevare comportamenti anomali il sistema deve conoscere i nostri comportamenti normali, deve sapere a che ora ci colleghiamo, da dove, cosa facciamo, quali file apriamo, con chi comunichiamo, deve analizzare le nostre mail per rilevare del phishing e cose di questo tipo. In pratica deve osservarci costantemente. E qui entriamo in un territorio molto scivoloso, quello del confine fra sicurezza e privacy, due temi che sono sempre un po' difficili da bilanciare, soprattutto perché c'è una grande asimmetria informativa, visto che l'IA sa tutto di noi, mentre noi sappiamo solo vagamente dove finiscono i nostri dati e per cosa vengono utilizzati. Va detto che dalla nascita di internet in poi la vera privacy non esiste più. Si possono imporre obblighi alle aziende impedendo loro di vendere i nostri dati, di usarli per finalità diverse rispetto a quelle per cui sono stati raccolti, però di fatto siamo tutti esposti online. Anche se non abbiamo una mail, un computer, un telefono, magari mentre siamo al supermercato becchiamo l'influencer che ci filma mentre imbustiamo la spesa. Molti poi non hanno neanche questa scelta, quindi se avere o non avere dei dispositivi tecnologici, perché magari per lavoro sono costretti a stare online ogni giorno, o la loro azienda decide un giorno a caso di pubblicare sul sito web il loro curriculum schiaffando tutti i loro dati online. A questo punto le scelte sono due: o accettiamo che questa è la nuova realtà e che l'anonimato è un concetto molto relativo e anche un po' superato, Oppure possiamo sempre mollare tutto e scappare finalmente nella nostra baita in montagna, cosa che ogni giorno che passa si fa sempre più allettante. Bene, come sempre spero che il video di oggi vi sia piaciuto. Fatemi sapere la vostra opinione nei commenti e se c'è qualcosa che volete che approfondisca scrivetemelo, perché come vi dicevo sto raccogliendo tutte le domande che mi state facendo su questo tema in modo da fare poi un bel video spiegone. Noi ci rivediamo la prossima settimana con il video dedicato al caso di Claude Codd, che è una delle storie più strane che io abbia mai sentito. Ma scoprirete perché. A presto!