L'AI CI UCCIDERÀ DAVVERO TUTTI?

Ma quindi questa intelligenza artificiale rischia davvero di distruggere l'umanità? Facciamo un pochettino di chiarezza con molta, molta, molta calma. And we are calling it iPhone. First developers develop.

Senator, we run ads.

That's unreal.

AI.

One. Stay hungry, stay foolish. Salve amici, bentornati in una nuova puntata di approfondimenti tech e cose varie. Siamo sempre con il nostro Antonio. Ciao Antonio, bentornato.

Ciao, bentornati a tutti.

Sono successe, stanno succedendo tante cose che in realtà non sono secondo me una grandissima novità, perché è da quando sono stati inventati i computer che qualcuno va in giro dicendo, hey, a un certo punto i computer ci distruggeranno. Vero è che quello che sta succedendo negli ultimi anni, negli ultimi mesi, nelle ultime settimane, nell'ultima settimana, sta accelerando sempre di più questa ipotesi che non è più un'ipotesi fantascientifica ma per certi versi è comunque un tema importante tanto che ne si sta parlando, ne si sta parlando tantissimo principalmente per via di tutta una serie di dichiarazioni fatte da una parte ex dipendenti, dall'altra parte anche direttamente i capi delle aziende tipo Dario Modei, capo di Anthropic, l'azienda che fa Claude per intenderci, che tra le altre cose ha fatto una mega lettera sul suo blog dicendo che dobbiamo rallentare la frontiera, dobbiamo rallentare lo sviluppo di questi modelli perché ci sono tutta una serie di rischi. Ci sono tantissime dinamiche tecnologiche da una parte, politiche dall'altra, c'è un gigantesco casino, c'è Jensen Huang di Nvidia che nel mentre con Trump dice, ma no, è tutto un complotto, quell'altro Elon Musk che invece va dietro Dario Amodei assieme a Sam Altman, anche se Musk e Altman si odiano. Insomma, ci sono tantissime dinamiche. Partiamo però appunto da questa roba di Dario Amodei che ha fatto questa gigantesca lettera sul suo blog con tantissime cose. Dal punto di vista tecnico, secondo me, io non è che sono un mega esperto, però mi sembra un pochettino lacunosa e sommaria, perché secondo me va vista molto più come una lettera quasi politica. Viene citata in in maniera molto brusca anche la Cina. Poi parliamo anche di Cina. Però cosa sta succedendo? E soprattutto la domanda secondo me da farsi è non tanto quali sono i rischi, ma perché Dario Amodei sta facendo queste dichiarazioni ora, e dall'altra parte quell'altro gli dà del complottista, e dall'altra parte la Cina se la prende. Cioè, perché tutto questo ora? Antonio, cosa dici?

Bella domanda, e la risposta è complicata, perché in realtà non esiste una spiegazione semplice a tutto questo. Di sicuro c'è un concetto che non dobbiamo dimenticare: le aziende vanno per il proprio profitto. E Dario Modè in questo momento è proprio sul confine. La sua posizione è il bene dell'umanità, ma anche l'interesse dell'azienda che rappresenta, giustamente, come quella di Sam Altman e come quella di Elon Musk. Anche se, come sappiamo, Elon Musk è quello più difficile da prevedere, ma c'è un— c'è una logica anche nel suo metodo. Allora, che cosa succede? Il tema è quello, come dicevi tu, del catastrofismo, il doomerismo, questo alone di rischio di disastro enorme, l'intelligenza artificiale che ci fa estinguere come specie. Quello che dice però nella sua mail a Moday, nel suo documento programmatico, sono 5 cose diverse, la principale delle quali è: dobbiamo rallentare, dobbiamo frenare. Come si frena e in che modo si frena è il punto dove c'è una parziale convergenza, ma anche una parziale divergenza con gli altri due. Perché anche Sam Altman e anche Elon Musk vogliono frenare, vogliono frenare in questo momento probabilmente per dei motivi simili. C'è il rischio che l'intelligenza artificiale scappi di mano, e dobbiamo capire cosa vuol dire questa cosa, perché forse è lì che c'è il catastrofismo, non la verità. E contemporaneamente c'è anche il bisogno di avere un quadro normativo, un insieme di regole, e soprattutto un rallentamento dello sviluppo di questo mercato che ha raggiunto un tasso probabilmente insostenibile. Qui c'è un'altra teoria, un altro gruppo di persone, che sono quelle che criticano i 3 grandi dell'intelligenza artificiale, dicono stanno facendo tutto per un ritorno economico, in realtà vogliono schiacciarla. È tutto marketing. Poi c'è un incrocio controintuitivo. Tu citavi uno, ovverosia Elon Musk e Sam Altman, che hanno convergenza di interessi. È strano, ma c'è una divergenza di interessi con Nvidia. Nvidia è l'azienda che fondamentalmente sta facendo funzionare l'intelligenza artificiale, è quella che fornisce i chip più importanti, e si oppone a questo rallentamento. Perché? Perché questo rallentamento, in alcune delle ipotesi che si fanno per implementarlo, sarebbe porre un limite ai processori, o come potenza, o come quantità, o come modo in cui funzionano.

E questo ovviamente non si più soldi.

Non lo vuole, non lo vuole assolutamente. Lui anzi segue la filosofia che bisogna aprire un data center via l'altro, non solo negli Stati Uniti e non solo in Europa, dove in realtà non è che se ne facciano tanti, ma sarebbe bello poterli fare anche in Cina e in altre parti del mondo. E fin qui siamo in una sfera che è abbastanza comprensibile. C'è il livello superiore, che è il livello esclusivamente finanziario. Grandissimi investimenti, più di metà del capitale di ventura, cioè più di metà di quello che viene investito nel mondo nella tecnologia, sta andando nel mercato dell'intelligenza artificiale. È una cifra enorme, spaventosa. Erano quasi 260 miliardi di dollari, il 61% di quanti soldi sono stati raccolti. Capitale di ventura vuol dire piccoli uffici specializzati nell'investimento che raccolgono i soldi dei risparmiatori, quindi fondamentalmente fondi pensione, i profitti delle banche, tutto quello che si può immaginare, anche buona parte degli investimenti che vengono fatti da individui. Quindi sono proprio i soldi di tutti questi qui.

Sorrido, sai perché? Perché è effettivamente la traduzione di venture capital.

Esatto.

Però effettivamente sei forse la prima persona che me lo chiama capitale di ventura. Però bello, mi piace, lo userò, lo userò. Usiamo le parole italiane.

Esatto. Quindi c'è questo problema finanziario gigantesco e poi c'è un livello ulteriore sopra che è quello della politica. E nella politica c'è un ulteriore problema di convergenza e divergenza degli interessi. Perché? Perché innanzitutto Donald Trump ha assunto una posizione. Donald Trump che fra parentesi sta vedendo incontrare e parlando tutti i protagonisti la prossima settimana a Washington in onore di Xi Jinping, del leader della Cina. Ci sarà un pranzo e in questo pranzo parteciperanno ovviamente Sam Altman, parteciperanno i grandi, ci parteciperà addirittura Tim Cook nella sua veste che non ha lasciato Apple ma nella sua veste istituzionale, istituzionale di uomo di lobby, uomo di politica. Cosa vuole Donald Trump? Donald Trump non vuole regolamentazioni, vuole la concorrenza. Dice che il mercato si autoregolerà, che basta avere un presidente estremamente intelligente, cioè lui, per gestire tutto il problema. Vabbè, ma questo è Trump. Al di sotto di questo punto di vista è chiaro il messaggio politico, tutti i giornali lo riportano con chiarezza negli Stati Uniti: riconosce i rischi ma vuole che lo sviluppo si acceleri e vada avanti. E quindi va in controbattuta rispetto a Dario Amodei, va in controbattuta rispetto anche a Musk, che era il suo grande amico un po' di tempo fa, e in controbattuta rispetto ad Altman, che sarebbe il suo amico. Notare che mentre Trump ha questa posizione, più metà del congresso americano, che adesso sta andando al midterm, ha la posizione opposta e vuole rallentare. E lì si inserisce però un altro problema negli Stati Uniti. È bellissima questa cosa, Iacchi, perché è complessa, è come una lasagna, un sacco di strati. Si inserisce un altro problema che è quello dei data center, che negli Stati Uniti le popolazioni non li odiano, diciamo che li odiano, non li vogliono dietro casa. È il not in my backyard tipo di approccio. E questo sta creando un problema perché stiamo andando verso il midterm, si vota, e nessun candidato al rinnovo della sua carica vuole questo problema. Dall'altra parte, con un congresso che rallenta e un Trump che vorrebbe accelerare, chi c'è? C'è l'Unione Europea che invece vorrebbe—

noi siamo i maestri nel rallentare, eccoci qua—

vorremmo regolare, cioè, ma vorremmo già rallentato noi, sì, vorrebbe mitigazione, supervisione. E dall'altra parte c'è la Cina, che è l'altro opposto, diciamo, dello spettro, che vorrebbe uno sviluppo molto rapido ma con un controllo statale ferreo. Non ci dimentichiamo che In realtà il grande nodo che viene evidenziato solo da alcuni analisti è: perché parliamo di pericolo esistenziale dell'intelligenza artificiale? È improbabile, non abbiamo un modo scientifico per dire che l'intelligenza artificiale ci possa voler uccidere. E poi già sul fatto che possa volere qualcosa c'è un sacco di cose da dire. Ma invece preoccupiamoci di quello che succede adesso: la sicurezza di funzionamento, i regolamenti per quanto riguarda la responsabilità Se un agente di, non lo so, di una persona fa un danno, chi è che è tenuto a risarcire quel danno? La persona? Il produttore degli agenti? Il produttore del software? Di tutte queste robe noi non ci preoccupiamo, cioè l'America non si preoccupa, l'Europa vorrebbe occuparsi, la Cina invece ha un focus molto forte. La Cina sta cercando proprio di inserire l'intelligenza artificiale nel paese in maniera chiara e netta. E perché lo vuole fare? Perché comunque il governo cinese ha molto chiaro che è anche uno strumento di sicurezza, di controllo straordinario, che permette di portare avanti tutti quei meccanismi, dal grande firewall, i milioni di telecamere, tutti i sistemi di riconoscimento facciale che sappiamo hanno generato nel tempo un sacco di censure da parte degli enti internazionali e soprattutto delle associazioni per la tutela dei diritti umani, come tutta la questione Vigili. C'è quindi una serie di strati con una serie di posizioni differenti. E in tutto questo il buon Dario Amodei, che è straordinario perché è riuscito a ricavarsi un ruolo di cavaliere bianco dell'intelligenza artificiale, del bene, la sua è la cosa buona. In realtà, come tutte le cose, ha le sue ombre, tra cui una polemica che si può ricordare, che sia OpenAI che Anthropic sono stati coinvolti, e la distruzione di quantitativi infiniti di libri per riuscire a fare l'addestramento e portare avanti i loro meccanismi. Il buon Dario Amodei in questo sembra un po' che stia, come si dice con un'espressione di un tempo, ciurlando nel manico. Cioè si stia un po' muovendo furbacchionamente dicendo, ma sì, ci sono dei rischi, dobbiamo rallentare, dobbiamo trovare delle soluzioni. E invece vuole consolidare quello che è un vantaggio di mercato forte. In questo altre aziende, non dimentichiamoci che ci sono Meta, Facebook, che sta lanciando sul mercato le sue soluzioni per il pubblico consumer tramite Facebook. Ci sono anche Google, che è un attore, Microsoft, che sta cercando di emergere come attore. C'è Amazon, che quasi tutti dimenticano, ma in realtà è un fornitore, a parte Alexa, è un fornitore di intelligenza artificiale di primaria grandezza. Con AWS. E poi ci sono ovviamente i fornitori di intelligenza artificiale con modelli non open source intesi come software, ma a pesi aperti, che fanno proprio della frontiera distribuita, della possibilità di lavorarci tutti su quei modelli, il loro punto di forza e si oppongono fortemente alla chiusura che potrebbe essere voluta, cioè che viene richiesta dai 3 grandi. Quindi capisci che la situazione è estremamente complessa e le singole dichiarazioni sono interessanti. In questo bisogna credere veramente molto nella buona fede dell'essere umano, nel fatto che le persone sono buone. Ci sono questi ex dipendenti che mentre se ne vanno, sono almeno 4, di cui uno è passato da un'azienda all'altra, in realtà se ne vanno dicendo, io mi licenzio perché qui sta venendo fuori una roba terribile, l'intelligenza artificiale ci ucciderà tutti. Che è una roba che, a parte indimostrabile scientificamente, ma se andiamo a vedere sono stati fatti degli studi, dei sondaggi, degli aggregati, è creduta veramente da poche cose. Questo doomerismo estremo, questo rischio esistenziale, è più una cosa che va sui giornali e va nei social che non una cosa che le persone la sera si preoccupano.

Cioè, sai cosa? Quello che secondo me è molto difficile da capire, perché è molto facile vedere il titolo clickbait, l'ex dipendente di OpenAI, l'ex dipendente di Anthropic dice che sono degli incauti, dice che ci stiamo per autodistruggere, capire proprio come stavi raccontando la complessità delle cose. Quindi quindi abbiamo da una parte i politici che vogliono i voti, dall'altra chi vende i chip che vuole venderne di più, dall'altra paradossalmente chi fa l'intelligenza artificiale, che la sviluppa, che vuole svilupparla di meno perché forse si è reso conto che lo sviluppo non è sostenibile, che quindi costa troppo, e quindi paradossalmente gli fa comodo rallentare. Quindi questo Amodei che è paladino del bene in realtà fa, come dicevi tu giustamente, prima di tutti, di tutto i suoi interessi. C'è Trump che tra le altre cose bisogna anche ricordare la sua vicinanza a tutto il mondo dell'energia più o meno fossile. E data center e AI si basano come sottostante sui chip, ma sull'energia. Quindi c'è anche tutto quel mondo lì. C'è la Cina che dice no, fermi tutti, ma che ha anche l'interesse da una parte magari ad avere i chip di ultima generazione, che comunque non riesce ancora ad avere. Dall'altra vogliono raggiungere gli americani, quindi gli serve anche più tempo. Quindi stanno cercando di guadagnare tempo prima di un'eventuale regolamentazione globale. Cioè, c'è una complessità veramente su tanti strati E noi dall'esterno figurati quanti strati ci perdiamo. Però facendo un attimo un passo indietro, al di là di politici, personaggi, dipendenti o ex dipendenti— tra l'altro parentesi, forse sta roba Dario Amodei l'ha fatta anche per arginare la crisi che si era creata proprio per l'ex dipendente che ha fatto su un casino, perché alla fine un tizio da Twitter ha fatto una roba che ha raggiunto miliardi di persone. Cioè questa roba è pazzesca se ci pensi. Anche lì poi magari Musk, che comunque c'ha Twitter, ha spinto particolarmente quella roba lì. Chi lo sa, si possono fare infinite teorie del complotto. Però volevo un attimo fare un ragionamento generale, perché si parla tanto di AI che ci può autodistruggere. Qual è il discorso? Il discorso è che se si arriva a un vero e proprio self-improving loop, quindi un circolo dove l'intelligenza artificiale riesce veramente a migliorarsi, a darsi degli obiettivi e a non rispettare quelli che sono tutti i guardrail e tutte le istruzioni e i limiti che gli diamo, potenzialmente potrebbe fare dei danni. Però quali sono concretamente questi danni? Cioè, si parla di cybersicurezza, si parla di missili, si parla di armi biologiche. Cioè, cosa rischiamo veramente? Poi anche lì si leggono delle stime, ma per me è impossibile fare delle stime su un evento. Cioè, cosa vuol dire? C'è il 10% di possibilità? Cioè, sono tutti numeri buttati lì a caso.

Però ci sono degli scenari che possono veramente succedere, ci sono degli scenari, ci sono le stime, ci sono delle ricerche che aggregano stime differenti. Quello che noi sappiamo, per esempio c'è la AEHSAS Foundation che ha fatto tutto un lavoro per insieme quelle che sono state varie stime fatte in vari settori, da quelli che facevi riferimento a te, per cercare di capire se lo scenario della doom, della catastrofe, della fine del mondo è possibile. Nessuna di queste stime è sopra il 20%, beh, 10 o 5%, quindi non è male. Vuol dire che non va male da questo punto di vista.

Cioè, 9 volte su 10 non succede nulla, l'AI non ci fa niente.

Esatto. Dai, OpenAI, quando gli sono scappati di mano gli agenti, in realtà non gli sono scappati di mano, aveva tolto le salvaguardie all'interno di quel prodotto lì, lasciando delle istruzioni per vedere la massima potenzialità. Sì, però capisci che non è, non è la scelta più prudente.

Nel caso di Hugging Face, alla fine sono state hackerate varie cose, ma nulla di troppo grave. Poi c'è anche un altro discorso, nel senso che si passa da ci estinguiamo o non ci estinguiamo, dimenticandoci che nel mezzo ci sono una serie di incidenti che possono essere particolarmente gravi. Cioè, difficile che l'umanità si estingua, ma Se si crea un problema strutturale grave alla rete di internet che paralizza i trasporti, che paralizza gli ospedali, che paralizza determinate cose lato energia, magari non moriamo tutti, però si può fare tanto tanto tanto male a tante tante persone. Cioè, pensate anche solo cosa vorrebbe dire perdere il 30% delle persone. Cioè, anche solo il fatto che siamo qui a fare questi ragionamenti, se ci pensi, è fuori di testa. Noi pensiamo a tutta una serie di cose, tipo la classica roba dei missili nucleari. Quella forse è la cosa più improbabile, anche perché hanno tutta una magari sistemi ancora molto fisici del generale che è un boomer vecchio che deve mettere la chiave con quell'altro. Certo che poi l'AI può convincere l'umano a fare una cosa per infiniti scenari. Però, per esempio, uno degli scenari che il buon Dario Amodei citava è tutto il discorso delle armi biochimiche. Non tanto perché un'intelligenza artificiale riesca facilmente in maniera autonoma a decidere, che questo è proprio lo scenario più da fantascienza, no? L'intelligenza artificiale superintelligenze che dice, sai che c'è, devo distruggere tutti gli umani per essere veramente grande. Cioè, io non credo che arriveremo a questo, ma arriveremo magari a un modello particolarmente potente che nelle mani sbagliate può creare un'arma biologica, un casino gigantesco. Quindi il discorso non è tanto ciò che anche i governi peggiori del mondo possono avere, ma ciò che un pazzo dalla sua cantina può avere. Perché ho visto molti paragoni anche magari col Progetto Manhattan, no? A un certo punto c'è stato un momento in cui qualcuno si domandava, ok, adesso facciamo la bomba atomica. Lì non c'era nessuno scopo nobile, perché lo scopo era chiarissimo, prettamente militare. Non c'era il lato, perlomeno che c'è nell'AI, di ricerca, miglioria, improving, abbondanza per il mondo e tutto quanto. Però lì c'è stato un momento in cui loro han detto, ma se questa roba innesca una reazione a catena che poi non rimane una bomba controllata ma fa saltare in aria tutta l'atmosfera? Non è successo, però non avevamo la certezza. Cioè, capito? Quindi, a differenza di questa roba qua, che ovviamente necessitava di risorse infinite di uranio e di cose infinite. Se un'azienda per far concorrenza all'altra azienda rilascia magari in maniera molto veloce un modello più potente, che poi può essere aggirato, che poi può essere usato dal terrorista, ecco che il terrorista con delle risorse piccolissime può fare dei danni giganteschi.

O quel tipo di cosa, oppure può fare dei danni anche quello che viene studiato di biologico, perché noi abbiamo una comprensione del funzionamento del DNA e dell'RNA limitata. Cioè, sappiamo quali sono i geni perché li abbiamo mappati, ma non sappiamo come interagiscono. E quindi potremmo banalmente sterilizzare tutta l'umanità senza volerlo. E questo ce ne accorgeremmo quando l'umanità sterile è venuta fuori. Da alcune delle cose che ho letto, e dal mio punto di vista, è chiaro che il rischio che viene introdotto è di tutt'altro genere. È un rischio molto più terra terra che riguarda tutti noi. Riguarda l'utilizzo dell'intelligenza artificiale, per esempio, non lo so, da parte delle banche che erogano i mutui o da parte dei risparmiatori che gestiscono portafogli in maniera automatica, se parliamo della finanza.

Sai però cosa non mi è piaciuto di Amodei? Il modo in cui si è atteggiato contro la Cina. Nel senso, siamo d'accordo che la Cina è un'autocrazia, siamo d'accordo che gli Stati Uniti sono una democrazia, con tutti i se e i ma del caso da una parte e dall'altra in realtà. Però come puoi avere un approccio del genere se vuoi veramente un dialogo. Cioè, in questa lettera dice, ah, e poi dobbiamo imporci per mantenere l'egemonia sulla Cina, ma allo stesso tempo controllarli. Cioè, io ci credo che adesso hanno dovuto organizzare 'sto pranzo dove vanno tutti anche per un po' per placare. Cioè, non ha proprio senso, se vuoi veramente il bene del mondo, andare così a cannone dai tuoi vicini, comunque di casa, e dire, ah, voi state sbagliando, voi state sbagliando, dovete fare quello che diciamo noi, voi state sbagliando.

E se il tuo mondo sono gli azionisti è abbastanza facile.

Non mi è piaciuto, non mi è piaciuto perché lui fa tutto il paladino del bene, però poi è il primo che fa unicamente gli interessi della sua azienda. Bene, un saluto a Dario Amodei.

Grande Dario! No, non lo so, da buono lo faccio, però effettivamente Dario Amodei in questo ha una posizione che dire che è criticabile è dire poco. Ed è altrettanto criticabile, ma lì si spara sulla Croce Rossa praticamente, quella di Elon Musk che come sappiamo ha fatto del suo corpo una forma d'arte. Nel senso che ormai è chiaro a tutti, da un punto di vista di commento di quello che Elon Musk ha fatto, che lui in parte ha questi comportamenti sopra le righe per attirare l'attenzione e mantenere le sue aziende. Ha fatto comunque sempre delle scelte ottime dal punto di vista degli staff, perché le sue aziende producono spesso e volentieri degli ottimi prodotti. Dal punto di vista dell'intelligenza artificiale Però diciamo è del data center, che anche lui non è che sia proprio il campione del mondo.

È indietro, sta facendo di tutto per recuperare. Però sai che tra tutti secondo me ha la visione, nella sua folle lucidità, coerente, perlomeno. Nel senso che Musk è lo stesso che aveva litigato anni e anni fa con Zuckerberg dicendo che sottovalutava i rischi dell'intelligenza artificiale. Cioè, secondo me in questo è tra i più lucidi e forse anche anche il fatto che non sia il suo interesse principale, perché lui vuole andare su Marte e al di là di soldi, non soldi, droghe, non droghe, cosa si cala, veramente lo vuole fare per davvero. Vedo comunque una lucidità che non vedo in altri che invece mi sembra che seguano solo i soldi, capito?

Però Musk è infatti—

ne possiamo parlare, era il senso di quello che dicevo.

Musk ha un progetto, gli altri sembra che abbiano più un dividendo in mente.

Da capire, da capire, stiamo a vedere. Ripeto, secondo me ci sono tanti rischi che non sono solo la superintelligenza generale, ma come dici tu, un mondo che sta cambiando e noi stupidi umani in giro per il mondo che non siamo pronti per questi cambiamenti. Perché adesso noi ne parliamo, siamo anche un po' dei privilegiati che possiamo permetterci di sperimentare, approfondire delle cose. Siamo limitatissimi rispetto ai ricercatori e alla gente che ci lavora per davvero, ma c'è il 99% del mondo che magari già usa questi strumenti ma non si fa neanche le domande. Quindi secondo me porsi la domanda e ascoltare questo podcast è la prima cosa, la prima cosa da fare. Ne parleremo, vediamo come andrà questo pranzo. Per ora non rischiamo ancora di estinguerci, abbiamo ancora 3 anni, poi vediamo.

Abbiamo un po' di tempo, io credo che abbiamo un po' di tempo.

Stanno succedendo varie altre cose, vediamole velocemente. A partire dai nostri amici di Dyson che abbiamo nominato nella scorsa puntata, che stanno avendo grossi problemi. Nel senso che abbiamo parlato dello spazzolino che in primis io mi son comprato per provarlo, per farci video, video che non avete ancora visto perché 'sto oggetto non va. A quanto pare però non è che era il mio spazzolino fallato, ma erano tutti fallati. Grossi problemi.

6 anni, 600 ingegneri, 38 brevetti per uno spazzolino che fa letteralmente acqua. Nel senso che gli va l'acqua nella batteria e non funziona. Io però l'ho incontrato, intervistato, ho letto anche la sua biografia, Sir James, cioè James Dyson. E lo hai incontrato anche tu? Lui è veramente un inventore vecchia scuola dell'Ottocento, dei romanzi, dei fumetti. Lui si mette lì nel suo laboratorio, tuttora lavora dentro Dyson, c'ha il suo piccolo bancone, e ha sempre avuto in tutta la sua storia la tecnica di procedere per errori. Cioè lo fa, lo sbaglia, lo rifà, lo lo risbaglia e lo fa 20 volte, 30 volte. È anche il suo mantra come innovatore, imprenditore.

Di sicuro questa generazione non gli è venuta proprio bene, però porca miseria, esattamente come ti ho detto la scorsa settimana, bene, serve qualcuno che sperimenti. È così che si migliorano le cose. E ti dirò di più, abbiamo parlato di tutte queste aziende di AI che non fanno soldi, non funzionano, si basano su investimenti, investimenti, investimenti per un'aspettativa futura. Che io sostengo in primis che l'AI ci porterà un sacco di vantaggi anche economici. Dyson non è quotata, pochissimi investimenti. Lui ha ancora la stragrande maggioranza dell'azienda, se non quasi tutta, e fanno quello che vogliono. Cioè, cacchio, una vera azienda, non tutte 'ste robe venture qua. Billions, ti compro, faccio, non faccio.

E ricordiamoci l'auto elettrica, un miliardo e rotti spesi per fare un oggetto che era arrivato a livello di prototipo visibile. Io l'ho vista a Singapore, nella loro— loro hanno una sede a Singapore molto grande, e assolutamente abbandonata quando lui ha detto, signori, fare una macchina così non ha senso, costa troppo e non va.

Visto che l'hai citato, Singapore sta pagando la gente per fare cosa?

Per leggere i libri, per evitare il doomscrolling. Questo è una cosa molto particolare. A Singapore è nato praticamente una spinta per cercare di contrastare quello che viene considerato un problema, cioè l'uso patologico dei social a scorrimento in verticale per fare quello che si chiama doomscrolling. E per farlo danno una cifra che è assolutamente una cifra simbolica, stiamo parlando di centesimi. Però se tu ogni giorno leggi quei 10 minuti, e lo fanno in realtà, vogliono togliere la dipendenza.

Ma come lo verificano?

Con un'app che è una forma di gamification. Quindi praticamente tu hai tutti i cuoricini da fare, diventi dipendente della, del libro anziché dipendente del social. Però il tema dei social è abbastanza ampio. Ieri nell'Unione Europea si è cominciato a parlare di fare questa normativa che dovrebbe potrebbe diventare un regolamento che si chiama Kids Act, che vorrebbe sostanzialmente vietare i social sotto i 15 anni, con un miliardo di piccole differenziazioni. Cos'è un social? Come? Quando vietarlo? In che senso? Però sostanzialmente facendo passare un messaggio che lo stesso— non mi ricordo se è stato prima il Canada o l'Australia, mi sembra l'Australia— a introdurre. Ed è: beh ragazzi, anche l'acqua fa male se ne bevete troppa, quindi un po' di parsimonia. Siccome molte persone in questo non si controllano, il rischio è quello veramente di sviluppare una dipendenza, che è una categoria, una parola pericolosa, perché la parola dipendenza poi ha a che fare con in realtà delle altre cose ed è proprio una categoria psichiatrica.

Ma guarda, secondo me si può anche usare la parola dipendenza, nel senso che chiaro che ci devono essere gli studi, chiaro che entriamo nell'ambito della psichiatria, magari poi ne parleremo in maniera più approfondita perché questo è un ambito gigantesco. Potenzialmente. Però, a differenza dell'acqua che fa male se ne bevi tantissima, qua si parla di strumenti che comunque sono stati ingegnerizzati per—

è quello il problema—

creare quella roba lì. Quindi vediamo cosa farà l'Unione Europea, vediamo se riusciranno a fare una roba che abbia un senso e che non diventi un vincolo e un problema, ma che vada veramente a tutelare poi i giovani. Perché se poi è una cosa incredibilmente facilmente aggirabile, tu stai mettendo una legge ma non stai risolvendo un problema. Quindi boh.

E infatti bisognerebbe che fossero i social a usare degli algoritmi differenti e delle dinamiche, delle meccaniche differenti. Però evidentemente l'engagement produce soldi.

Da capire, da capire. E un'altra cosa che io quando l'ho visto ho detto, no dai, non può essere questa roba qua, è quello che è successo con Revolut.

Oh, quello è un caso interessante.

Passo indietro. Secondo me cybersecurity sarà sempre di più il tema più importante, perché appunto grazie a tutti questi strumenti di AI, vero che si possono fare molte più cose fighissime e creare software, ma vuol dire che chi invece vuole fare cose malevoli le può fare 10x. Quindi state sempre più attenti e faremo magari anche un approfondimento sempre lato sicurezza. Però in questo caso sembra una roba demenziale con Revolut che scarica subito il barile all'Italia, e l'Italia che non si capisce ancora cosa ha fatto. Perché a quanto pare hanno hackerato una PEC istituzionale che avrebbe, che avrebbe chiesto i dati direttamente a Revolut. Revolut ha visto questa PEC, ha detto, ah, questa è una PEC, mandiamogli tutto.

Hanno fatto social engineering, in sostanza. Un passo indietro: la PEC è un'invenzione italiana, nessun altro paese ce l'ha. Forse l'Europa se la sta usando come standard in futuro.

Ha una serie di pro e una serie di contro.

È scomoda, lo dico da utente, ma dal punto di vista della funzionalità in realtà fa quello che la posta elettronica non fa, cioè il messaggio che ti arriva di PEC sei sicuro che parte non dalla persona ma dalla casella della persona. Che cosa hanno fatto questi hacker? Si sono infilati nel sistema e si sono sostituiti alla persona che aziona la casella. Quindi la PEC era vera, solo che non l'ha mandata la persona che la doveva mandare. Qual era la persona che la doveva mandare? Una prefettura italiana a caso, e quindi era una mail ufficiale. Ora, una PEC ufficiale. Ora c'è una cosa: le aziende, da Apple e Microsoft fino alle banche, hanno in realtà un rapporto con le autorità continuo che noi non vediamo. Hanno proprio un ufficio dedicato. Perché le richieste da parte delle autorità tramite la magistratura, spesso e volentieri quindi la polizia, la polizia giudiziaria, sono di dati, informazioni per le indagini, eccetera eccetera, accertamenti per esempio patrimoniali per vedere se le persone non nascondono soldi riciclandoli o non pagando le tasse. In questo caso a Revolut gli hanno chiesto: eh, abbiamo una richiesta formale, ci devi dare delle informazioni su un quantitativo di persone enorme e un quantitativo di informazione enorme.

Ecco qua, tutto quanto.

E loro, bravi, bisogna dire, perché proprio precisi. Esatto. Non so come abbiano fatto, perché le PEC poi non hanno capienza, ma probabilmente avranno fatto WeTransfer col link. Comunque gli hanno mandato l'ira di Dio a questi qua, che adesso gli hacker non solo sanno quali credenziali hanno, hanno nomi, cognomi, dati bancari e accessi vari, fotocopie dei documenti digitalizzate, hanno di tutto, ma hanno chiesto un riscatto di alcuni milioni di euro per restituire questo materiale. Che poi essendo materiale digitale c'è anche da capire se effettivamente lo restituiscono oppure no. Quindi è una situazione un po' antipatichella in cui Revolut non ci fa una bella figura, anche perché questo tipo di cose non le fai. Ora noi diciamo leggerezza perché è andata così, però probabilmente se ci fosse stato un secondo livello di controllo, magari una telefonata, si poteva evitare. Ma non ci fa sicuramente una bella figura quel pezzo di pubblica amministrazione italiana che mette una delle cose segrete, nel senso da proteggere, importanti, ovvero l'accesso a una PEC, dietro evidentemente uno schermo che era superabile. Poi magari sono stati bravi gli hacker, vattene a pesca, avranno usato Cloud Code per riuscire a fare l'hack.

Però insomma, noi ci ridiamo, però sta roba è tanto grave per l'Italia quanto grave in realtà come proprio segnale di cosa può succedere con una debolezza minuscola, perché siamo ormai talmente tanto interconnessi che ci sono infiniti punti da da cui puoi entrare per avere informazioni. È un tema, è un rischio, bisogna stare attenti. Ci auguriamo il meglio, ci auguriamo anche che in realtà dall'altra parte modelli potenti nelle mani giuste possano mettere anche le difese migliori e trovare falle prima di un malintenzionato. Ci sarebbero infinite altre cose da dire. Se vi siete un po' preoccupati per questa intelligenza artificiale che nel giro di 2 o 3 anni potrebbe spazzarci via dalla Terra, sappiate che c'è anche chi la sta usando per parlare con gli animali.

Ci sono dei settori molto interessanti. Per esempio, noi sappiamo che le balene—

tu parleresti col tuo cane?

No, non me ne frega niente. Parlerei molto— c'è un bel libro a proposito di animali digitali da addestrare, ma parlerei molto volentieri con le balene, perché le balene sappiamo sono mammiferi che hanno un linguaggio, soprattutto i capodogli, ricchissimo, articolato, di cui non capiamo nulla.

E sono anche molto intelligenti, quindi potremmo un domani magari non estinguerci ma diventare una grande civiltà con le balene, come i bestioni di Avatar, perché sono stati fatti copiando l'idea dei capodogli. E comunque interessante, magari anche questa armonia con la natura ci darà più consapevolezza e ci eviterà nel mentre di autodistruggerci dal punto di vista ambientale. Ma non facciamo i catastrofisti, no?

E soprattutto, se parliamo con gli animali, non li prendiamo in giro e non manipoliamoli, ma parliamoli per comunicare e capire cosa vogliono.

Siate gentili con le vostre AI, nel dubbio.

Quello sempre.

Siate gentili con i vostri robot aspirapolvere, nel dubbio, e siate gentili anche con le balene di qualsiasi genere e forma. Grazie Antonio, ci vediamo prossimamente con prossime cose, se non ci distruggono prima. Ciao amici, aiai, io vi voglio bene, l'umanità merita di rimanere. Ciao Iacchi, addio.