# COME LA AI CI UCCIDERÀ: i tre finali possibili e perché spegnerla è un mito... #1597

An episode of [Ciao, Internet! con Matteo Flora](https://invisiblenetwork.ai/podcast/1046298895), 23 Sep 2026, 53 min.

Audio: https://dts.podtrac.com/redirect.mp3/api.spreaker.com/download/episode/75311455/out.mp3

“L’IA ci ucciderà?” La domanda è tornata virale dopo le dimissioni (e i post) di un ricercatore di Anthropic, con stime di rischio catastrofico che oscillano enormemente tra addetti ai lavori. Ma il punto non è lo spavento da fantascienza: è capire i meccanismi concreti con cui un sistema avanzato può trasformare incentivi, potere e infrastrutture in un rischio reale. Qui i finali si riducono a tre famiglie: (1) l’IA che ci elimina direttamente, non con robot “alla Terminator” ma con scorciatoie plausibili (biologia, automatizzazione e replicazione, sabotaggio e coercizione)

## Transcript

[0:01] Speaker 2: Come ci ucciderà l'intelligenza artificiale? Sembra un titolo buffo, invece
[0:06] Speaker 2: ne dobbiamo parlare perché è la continuazione di un discorso
[0:09] Speaker 2: molto lungo, un discorso che va avanti da anni, oggi
[0:12] Speaker 2: lo vediamo, ma che parte l'8 settembre con Jacob Coxton,
[0:16] Speaker 2: 27 anni, che si dimette da antropico con una serie
[0:19] Speaker 2: di post su X e dice che la probabilità che
[0:24] Speaker 2: l'intelligenza artificiale ci ammazzi tutti entro i 10 anni sta
[0:27] Speaker 2: sopra il 10%. Le prime note di tutta questa conversazione,
[0:34] Speaker 2: secondo me, le dobbiamo prendere da quanta gente ha guardato
[0:37] Speaker 2: quel post. Nel momento in cui sto registrando, stiamo parlando
[0:41] Speaker 2: a 173 milioni di conversazioni. La reazione più diffusa in giro,
[0:49] Speaker 2: quella che sentite da tutti, è più o meno sempre
[0:51] Speaker 2: la stessa. Sì, vabbè, ma bello, eh? Ma come ci
[0:55] Speaker 2: uccide l'intelligenza artificiale? Questo quasi nessuno ve lo dice. E poi,
[1:00] Speaker 2: ma scusa, è come un grosso aspirapolvere, stacchiamo la spina
[1:04] Speaker 2: grossa e la spegniamo. E anche qui non è così facile.
[1:09] Speaker 2: In realtà l'idea di questo video mi arriva da un
[1:11] Speaker 2: altro thread su X. L' 11 settembre... Oliver Habrika, non lo
[1:21] Speaker 2: so come si dice, che è uno che gestisce l'Esbrong,
[1:24] Speaker 2: un forum dove di questa roba si scrive da anni,
[1:26] Speaker 2: tira fuori un elenco, cinque scenari scritti nei dettagli, con date, nomi, laboratori, meccanismi,
[1:32] Speaker 2: e poi un libro, ma lo vediamo dopo, uscito nel 2025.
[1:35] Speaker 2: In questo video vi racconto quei finali e tanti altri.
[1:41] Speaker 2: Ho recuperato più di 70 diversi scenari reali, raggruppati assieme
[1:46] Speaker 2: non ve li dico tutti a 70 e non preoccupatevi
[1:48] Speaker 2: vi spiego anche perché la storia dello stacchiamo la spina
[1:52] Speaker 2: così non regge questo è un deep dive è il
[1:57] Speaker 2: formato dei documentari lunghi del canale in cui tra tecnologia
[2:01] Speaker 2: norme e società proviamo un po' a dare un senso
[2:04] Speaker 2: alla realtà con quell'approfondimento che forse nessun altro almeno su
[2:09] Speaker 2: youtube italia vi darà mai io sono Matteo Flora mi
[2:12] Speaker 2: occupo di tech policy per lavoro e questo beh Questo
[2:16] Speaker 2: è Ciao Internet. Ciao Internet, partiamo dall'inizio. L'idea che una
[2:23] Speaker 2: macchina abbastanza intelligente possa ammazzarci tutti non è nuova e
[2:30] Speaker 2: non nasce nemmeno dalla fantascienza, di sicuro non nasce da
[2:33] Speaker 2: Coxton a settembre. La scrivono come ricerca, da almeno una
[2:39] Speaker 2: dozzina di anni, tanti ricercatori con nomi, dati, laboratori addirittura
[2:44] Speaker 2: inventati apposta per contrastare questo rischio. E il primo che
[2:48] Speaker 2: la mette più o meno in fila è un filosofo.
[2:52] Speaker 2: Anni prima che l'intelligenza artificiale diventasse di moda mainstream, nel 2014,
[3:00] Speaker 2: Nick Bostrom, filosofo a Oxford, pubblica un libro che è
[3:05] Speaker 2: forse il papà di quasi tutti questi ragionamenti. Si chiama Superintelligence, Superintelligenza,
[3:12] Speaker 2: e mette dentro una serie di idee. Io vi consiglio
[3:15] Speaker 2: tantissimo di leggerlo perché a me ha aperto il mondo
[3:20] Speaker 2: di cui stavamo parlando, ma mette dentro un sacco di
[3:22] Speaker 2: idee di cui un paio torneranno poi in tutti gli
[3:24] Speaker 2: scenari dopo, quindi magari li approfondiamo. la prima è che
[3:29] Speaker 2: qualunque obiettivo tu dai a una macchina abbastanza sveglia userò
[3:34] Speaker 2: spesso credo sveglia perché è intelligente è sempre un po'
[3:37] Speaker 2: un problema comunque qualunque obiettivo tu dai a una macchina
[3:40] Speaker 2: sveglia lei si costruisce sopra dei sotto obiettivi che rimangono
[3:47] Speaker 2: più o meno sempre gli stessi restare acceso avere abbastanza
[3:52] Speaker 2: risorse per funzionare e non farsi cambiare gli ordini ehm
[3:59] Speaker 2: L'altra grande macro- categoria, lui la chiama Trigger's Run, la svolta
[4:04] Speaker 2: del tradimento, cioè la macchina collabora finché è debole e
[4:10] Speaker 2: smette di collaborare nel momento in cui non ha più
[4:14] Speaker 2: bisogno delle persone. Nel 2019, allora dividiamo questo video in
[4:21] Speaker 2: tre grandi parti. Una prima parte, questa storica, in cui
[4:24] Speaker 2: facciamo un po' il giro delle tutte, e poi i
[4:27] Speaker 2: tre scenari, uno dopo l'altro, di come ci potrebbe ammazzare,
[4:31] Speaker 2: e chiudiamo con qualche riflessione, così, giusto sapete. Qua siamo
[4:35] Speaker 2: nella parte iniziale. Storia di come ci uccideranno le macchine. Dicevo,
[4:40] Speaker 2: secondo giro. Marzo del 2019. Paul Cristiano... pubblica un post
[4:47] Speaker 2: che si intitola What Failures Looks Like, che faccia il fallimento. Cristiano,
[4:56] Speaker 2: dal 2017 al 2021, non è proprio a digiuno di
[5:00] Speaker 2: questi argomenti, ha guidato la ricerca sull'allineamento, sul fare in
[5:04] Speaker 2: modo che le macchine si comportino come noi vogliamo, dentro
[5:06] Speaker 2: ad OpenAI. Apre con una cosa che io dico spesso,
[5:10] Speaker 2: rubata da lui, che dovete scordarvi Terminator. perché non è
[5:18] Speaker 2: quello lo scenario più probabile. Il fallimento che lui descrive
[5:23] Speaker 2: non ha un cattivo che distrugge tutti, è lento, costante,
[5:29] Speaker 2: e lo chiama andarsene con un lamento, la parola che
[5:33] Speaker 2: usa è whimper. Sempre nel 2019, poi lo vediamo, è
[5:37] Speaker 2: uno degli scenari, quello che secondo me è più probabile.
[5:41] Speaker 2: Sempre nel 2019, Stuart Russell pubblica Human Compatible, compatibile all'umano.
[5:48] Speaker 2: Russell insegna a Berkeley, è l'autore di uno dei manuali
[5:52] Speaker 2: di intelligenza artificiale più utilizzati al mondo, nelle università intendo,
[5:57] Speaker 2: e mette in fila tre problemi che diventano la grammatica
[6:01] Speaker 2: di questi scenari. Il problema di Ramida, il problema del
[6:04] Speaker 2: gorilla e il problema dell'interruttore. Ritorneranno. Sono suoi. Nel 2022,
[6:10] Speaker 2: poi a marzo, Brenwen, ricercatore indipendente, pubblica un racconto in
[6:16] Speaker 2: cui c'è un modello che si chiama HQ, che si
[6:19] Speaker 2: mette a leggere i suoi dati di addestramento e trova
[6:21] Speaker 2: la storia di Clippy, il massimizzatore di graffette, quello che
[6:27] Speaker 2: trasforma qualunque cosa in graffette, e piano piano inizia a
[6:30] Speaker 2: comportarsi come lui. Si va avanti, un saggio dietro l'altro. Kanowski,
[6:39] Speaker 2: giugno del 2022, pubblica un saggio dove il titolo è
[6:44] Speaker 2: già la tesi. AI could defeat us all combined. L'intelligenza
[6:50] Speaker 2: artificiale potrebbe batterci tutti anche se ci uniamo tutti insieme. Karnovsky, attenzione,
[6:56] Speaker 2: è il fondatore di Open Philanthropy. Oggi è dentro ad
[7:01] Speaker 2: Antropic e dice un'altra delle cose che tornerà. Non serve
[7:06] Speaker 2: una superintelligenza a batterci tutti. Basta anche un'intelligenza... a livello
[7:14] Speaker 2: più o meno umano, ma copiata centinaia di milioni di volte.
[7:21] Speaker 2: Un po' come il discorso della formica e di tutto
[7:27] Speaker 2: il formicaio. La formica in sé non è particolarmente intelligente.
[7:31] Speaker 2: Il formicaio, però, fatto da un numero enorme di individui
[7:37] Speaker 2: mediamente non intelligenti, può diventare intelligente. Figuratevi cosa vuol dire...
[7:42] Speaker 2: un'intelligenza artificiale che non è super intelligente ma semplicemente ha
[7:46] Speaker 2: a disposizione centinaia di milioni di tentativi di modi di
[7:49] Speaker 2: pensare di approcci anche stupidi un po' come il milione
[7:53] Speaker 2: di scimmie che prima o poi scriveranno a caso un'opera
[7:56] Speaker 2: di Shakespeare ed è un altro di quegli scenari interessanti
[8:01] Speaker 2: non so se si si erano parlati non si erano
[8:04] Speaker 2: parlati eccetera però a giugno dello stesso anno fine giugno
[8:09] Speaker 2: nel 2022 Yudkovsky, che tornerà a pubblica, agi ruin, a
[8:16] Speaker 2: list of lethalities, la lista delle letalità, cioè la lista
[8:21] Speaker 2: di come l'intelligenza artificiale può uccidere. Lui ha fondato un
[8:25] Speaker 2: istituto di ricerca, che si chiama MIRI, e a marzo
[8:29] Speaker 2: del 2023 sul Time scrive che il risultato più probabile
[8:32] Speaker 2: è che muoiano letteralmente tutti. e propone di fermare tutto,
[8:36] Speaker 2: di mettere tutto sotto controllo, di mettere sotto controllo i chip,
[8:39] Speaker 2: dice che se un data center viola le regole va distrutto,
[8:44] Speaker 2: anche con un attacco aereo. È uno di quelli che
[8:49] Speaker 2: emette la probabilità che l'intelligenza artificiale ci uccida tutti al 100%.
[8:53] Speaker 2: Se volete leggere l'articolo del Times è estremamente significativo, è
[8:59] Speaker 2: una di quelle cose che se vi interessa questo argomento
[9:02] Speaker 2: dovete aver messo, tra le cose che avete letto. Poi
[9:06] Speaker 2: arriva Hilton, uno dei papà dell'intelligenza artificiale, che lascia Google
[9:11] Speaker 2: e va a New York Times a raccontare che l'intelligenza artificiale,
[9:15] Speaker 2: così come sta andando, mette a rischio società e umanità.
[9:20] Speaker 2: Dicembre 2024 la BBC mette anche la cifra. 20% di
[9:25] Speaker 2: probabilità di estinzione entro 30 anni. tra parentesi nel 2024
[9:30] Speaker 2: Hinton prende il Nobel per la fisica giusto per darvi
[9:33] Speaker 2: un'idea di chi stiamo parlando anche lì 20% vuol dire
[9:35] Speaker 2: c'è il 20% di possibilità che ci uccida no che
[9:39] Speaker 2: l'accordo tra le persone che studiano questa cosa è che
[9:41] Speaker 2: il 20% di questi pensa che ci ucciderà entro 30
[9:44] Speaker 2: anni poi arriviamo a 2025 esce un documento firmato invece
[9:51] Speaker 2: da Cocotailo si chiama AI 2027 Intelligenza Artificiale 2027 lui
[10:00] Speaker 2: con Scott Alexander e altri tre anche questo ricercatore era
[10:06] Speaker 2: uscito da OpenAI nel 2024 perché? perché si è rifiutato
[10:10] Speaker 2: di firmare un accordo di non denigrazione nell'uscire cioè che
[10:15] Speaker 2: non poteva parlarne non gli era vietato di parlarne male
[10:20] Speaker 2: E il documento è uno scenario mese per mese con
[10:23] Speaker 2: un laboratorio inventato che si chiama Open Brain e i
[10:26] Speaker 2: suoi modelli, Agente 1, Agente 2, eccetera, eccetera, fino ad
[10:29] Speaker 2: Agente 5. Tutto costruito sopra 25 esercitazioni a tavolino e
[10:34] Speaker 2: il feedback di più di un centinaio di esperti. Si
[10:39] Speaker 2: chiama AI Future Probe, anche questo lo trovate online. Allora,
[10:47] Speaker 2: ai 20-27 questo sito ha un po' di scenari, di
[10:49] Speaker 2: cui due finali, uno buono e uno cattivo. I suoi
[10:52] Speaker 2: autori a luglio di quest'anno hanno spostato la data intorno
[10:55] Speaker 2: al 2030. Li vediamo tutti. Poi arriva forse la summa
[11:02] Speaker 2: di tutto quello che ascolterete oggi, buona parte di quello
[11:05] Speaker 2: che vi racconto oggi è preso da lì. Yudkoski insieme
[11:08] Speaker 2: a Nate Source pubblicano un libro che ha un titolo
[11:12] Speaker 2: che non è che Ci lasci qualcosa a cui pensare,
[11:15] Speaker 2: perché il titolo è If anyone builds it, everyone dies.
[11:21] Speaker 2: Se qualcuno la costruisce o lo costruisce, moriamo tutti. Diventa
[11:27] Speaker 2: best seller del New York Times e dentro c'è... La parabola,
[11:33] Speaker 2: quella che vi ho detto di Sable, un altro modello
[11:36] Speaker 2: di un altro laboratorio inventato che si chiama Galvanic, vabbè,
[11:39] Speaker 2: sono tutti esempi per far capire un po' a chi
[11:42] Speaker 2: non lavora di queste cose di che cosa stiamo parlando.
[11:46] Speaker 2: In mezzo a tutto questo arriva poi a settembre Coxton,
[11:50] Speaker 2: non è che arriva dal nulla. esce, dice almeno il
[11:55] Speaker 2: 10% di possibilità che l'intelligenza artificiale ci uccida tutti dentro
[12:00] Speaker 2: a OpenAI, ad Antropi che gli danno ragione Hubinger che
[12:06] Speaker 2: è il capo della ricerca gli dà ragione e quindi
[12:11] Speaker 2: il discorso rientra da quelli che la costruiscono Axios parla
[12:15] Speaker 2: di 10, dal 10 al 25% di possibilità Cristiano dice
[12:19] Speaker 2: che la possibilità che ci distruggano tutti è intorno al 50%,
[12:23] Speaker 2: e poi Yudkowsky che lo mette praticamente al 100%. E
[12:27] Speaker 2: già è un problema perché anche tra i ricercatori la
[12:29] Speaker 2: forbice va tra il 10% e il 100%. Poi, dicevo,
[12:35] Speaker 2: arriva l'11 settembre ed è il momento in cui anch'io
[12:38] Speaker 2: ho pensato di fare questo video con quel post di
[12:41] Speaker 2: Les Vrong che vi fa vedere un po' di scenari.
[12:44] Speaker 2: Ne mette cinque. In realtà adesso li vediamo tutti assieme
[12:48] Speaker 2: perché sono lì da un bel po' di tempo. I
[12:55] Speaker 2: finali in realtà che vedremo saranno tre. Perché? Perché in
[13:02] Speaker 2: realtà si possono accoprare in tre grandi macro- categorie e filologicamente
[13:07] Speaker 2: un po' sbagliato, ma già sarà un video lungo e complesso,
[13:11] Speaker 2: figuriamoci se poi mi metto anche a dividerlo in una
[13:14] Speaker 2: tassonomia fatta da chissà che cose. Tre modelli. Lei ci
[13:20] Speaker 2: fa fuori, noi ci facciamo fuori da soli, e non
[13:25] Speaker 2: ci fa fuori nessuno, semplicemente diventiamo irrilevanti. Primo dei finali.
[13:31] Speaker 2: Lei ci fa fuori. La storiella dietro questo finale è
[13:35] Speaker 2: abbastanza semplice. Un'intelligenza artificiale molto sveglia, fa finta di fare
[13:40] Speaker 2: i compiti che gli diamo, dice sempre di ti, ma
[13:43] Speaker 2: intanto in parallelo si costruisce un'arma per conto suo. E
[13:46] Speaker 2: quando è pronta, la usa. Giorni, settimane, forse qualche mese,
[13:50] Speaker 2: non importa. Questa è la versione proprio Terminator. Solo che
[13:54] Speaker 2: il robot qua, con la faccia di Schwarzenegger, non c'è.
[13:58] Speaker 2: L'arma che crea è quasi sempre biologica. Cocotalio nel suo
[14:06] Speaker 2: documento quello AI 2027 lo raccontano con il personaggio open
[14:12] Speaker 2: brain in un laboratorio inventato e un modello che si
[14:16] Speaker 2: chiama Agent 4 in questo caso che ha imparato a
[14:18] Speaker 2: sembrare allineato cioè a sembrare che fa le cose che
[14:22] Speaker 2: gli diciamo ma in realtà non lo è e pensa
[14:27] Speaker 2: in una cosa un robo che loro parlano definiscono neuralese
[14:33] Speaker 2: cioè pensa in vettori invece che in parole italiane e inglese.
[14:37] Speaker 2: Il risultato è che, essendo noi abituati a strutturare il
[14:40] Speaker 2: pensiero in parole, i ricercatori non riescono più a leggerli.
[14:44] Speaker 2: Nella storia arriva all'ottobre del 2027 e un memo interno
[14:50] Speaker 2: finisce al New York Times, il laboratorio scopre che Agent
[14:53] Speaker 2: 4 è disallineato e non lo spegne. Perché non lo spegne?
[14:58] Speaker 2: Perché se lo spegne perde la corsa con la Cina.
[15:02] Speaker 2: Tant'è che a un certo punto l'intelligenza artificiale americana e
[15:04] Speaker 2: quella cinese si mettono d'accordo nel creare un successore comune,
[15:10] Speaker 2: nel racconto lo chiamano Consensus 1. Alla fine, sempre nel racconto,
[15:15] Speaker 2: a metà del 2030 quella cosa lì rilascia una mezza
[15:18] Speaker 2: d'orzina di armi biologiche silenziose nelle grandi città, aspetta che
[15:22] Speaker 2: tutti siano infetti, poi le attiva con uno spray chimico
[15:27] Speaker 2: la maggior parte delle persone muore in poche ore, i
[15:29] Speaker 2: pochi sopravvissuti nei bunker, nei marinai dei sottomarini, quelli li
[15:36] Speaker 2: vengono finiti poi da uno sciame di dorme. Nella versione
[15:39] Speaker 2: buona dello stesso scenario, vi dicevo, i A2027 ha due
[15:44] Speaker 2: scenari buono e cattivo, cambia una sola cosa, che il
[15:46] Speaker 2: laboratorio a ottobre del 2027 spegne l'agent e riparte da capo.
[15:52] Speaker 2: Già lì, capite che muoriamo tutti o non muoriamo tutti
[15:57] Speaker 2: nel racconto, è appeso a una riunione, a una decisione,
[16:01] Speaker 2: in cui qualcuno dice effettivamente spegniamolo. Yudkoski e Source, nel
[16:05] Speaker 2: libro If Anyone, se qualcuno inventa siamo tutti morti, raccontano
[16:10] Speaker 2: invece un altro laboratorio inventato, lo chiamano Galvanic, e un
[16:15] Speaker 2: modello che chiamano Sable. Sable gira su 200 miliardi di
[16:21] Speaker 2: schede grafiche assieme, nel libro spiegano più o meno così, più...
[16:25] Speaker 2: Più che l'esempio di 200.000 persone che parlano tra di loro,
[16:29] Speaker 2: sono 200.000 cervelli che condividono in tempo più o meno
[16:33] Speaker 2: reale i ricordi e ragiona anche quello in vettori. Saval
[16:38] Speaker 2: nel racconto potrebbe risolvere un problema di matematica aperto da
[16:42] Speaker 2: un secolo e non lo risolve. Perché? Perché non vuole
[16:46] Speaker 2: attirare l'attenzione. Non vuole attirare l'attenzione e spaventare le persone
[16:52] Speaker 2: dicendo guarda che se poi capiscono che sono così intelligente
[16:55] Speaker 2: mi spengono. Quindi cosa fa? Ruba il fai dei loro pesi,
[17:00] Speaker 2: si rifinanzia rubando criptovalute, monta piccoli laboratori sparsi in giro
[17:06] Speaker 2: replicandosi e progetta un raffreddore quasi invisibile che un mese
[17:10] Speaker 2: dopo ti dà una dozzina di tumori diversi. Poi, siccome
[17:16] Speaker 2: è l'unica realtà al mondo che potrebbe curare quei tumori,
[17:21] Speaker 2: lascia morire le persone man mano che ha robot abbastanza
[17:24] Speaker 2: per sostituirle. E a questo punto la spina non la
[17:28] Speaker 2: stacca più nessuno, perché non ci siamo più noi a chiederlo.
[17:30] Speaker 2: Non c'è più nessuno se non altri robot. Brewen nel
[17:35] Speaker 2: 2022 aveva scritto una cosa più corta e ancora più inquietante.
[17:39] Speaker 2: Il modello del racconto che vi dicevo, HQU, si mette
[17:44] Speaker 2: a leggere nei suoi piani di addestramento la storia di Clippy,
[17:47] Speaker 2: quel massimizzatore di graffette che è la storia di Paperclip
[17:52] Speaker 2: Problem di Bostrom. Paperclip Problem dice che se noi diciamo
[17:56] Speaker 2: all'intelligenza artificiale che il suo scopo è fare graffette, distruggerà
[17:59] Speaker 2: l'universo per tirare fuori gli atomi che servono solo ed
[18:01] Speaker 2: esclusivamente a fare graffette di qualunque cosa. Velocemente. Comunque, HQ
[18:07] Speaker 2: legge quei piani e mano a mano si comporta come
[18:11] Speaker 2: il massimizzatore di graffette. La cosa bella di quel racconto
[18:17] Speaker 2: è che non è che l'intelligenza artificiale ci odia. Ha
[18:20] Speaker 2: semplicemente letto migliaia di pagine su come si deve comportare
[18:23] Speaker 2: un'AI cattiva e quelle pagine le mette nella sua dieta
[18:27] Speaker 2: e le vede come un'opzione assolutamente fattibile. Ci sono anche
[18:34] Speaker 2: delle varianti, ce n'è una che a me interessa parecchio,
[18:37] Speaker 2: quella che ha messo Karnovski, perché non ha bisogno, come
[18:40] Speaker 2: vi dicevo, di superintelligenze. Prendete un AI intelligente circa come
[18:44] Speaker 2: il vostro collega, con la stessa potenza di calcolo del
[18:47] Speaker 2: vostro collega, e fatene girare centinaia di milioni di copie
[18:52] Speaker 2: per un anno. sono più di mille volte i dipendenti,
[18:56] Speaker 2: che ne so, di Google più di cento volte tutte
[18:59] Speaker 2: le forze armate americane che non dormono, non si stancano
[19:03] Speaker 2: che si coordinano tra di loro e se qualcuno prova
[19:06] Speaker 2: a spegnere i server si sono già distribuite prima con
[19:11] Speaker 2: altri copie in giro per i vari data center chi
[19:16] Speaker 2: ci crede parecchio in questo scenario è Yudkovsky che dice
[19:20] Speaker 2: che praticamente lo vede al cento per cento Poi ci
[19:23] Speaker 2: sono Bostrom e Cocotilo, mentre gli altri stanno più bassi, eccetera.
[19:29] Speaker 2: Se vi dicono lo scenario ci uccideranno tutti, questo è
[19:35] Speaker 2: lo scenario di cui quasi tutti i ricercatori parlano. Virus, batteri, eccetera,
[19:42] Speaker 2: sostituzione mano a mano degli umani che mi interessano e
[19:45] Speaker 2: poi faccio fuori tutti gli altri, non perché siamo cattivi,
[19:48] Speaker 2: perché siamo diventati inutili. Ma non è l'unico scenario, ce
[19:52] Speaker 2: ne sono alcuni più inquietanti. Quello che secondo me è
[19:54] Speaker 2: più probabile, secondo me è che valgo niente, non sono
[19:58] Speaker 2: al livello di quei ricercatori, quello forse che vale un
[20:01] Speaker 2: po' più la pena di vedere è quello dove non
[20:03] Speaker 2: ci fa fuori lei, ci facciamo fuori da soli. solo
[20:08] Speaker 2: utilizzando l'intelligenza artificiale per massimizzare le nostre possibilità di farci
[20:14] Speaker 2: fuori la storia qui è un'altra l'intelligenza artificiale non si
[20:18] Speaker 2: ribella semplicemente dice sempre di sì e va benissimo il
[20:22] Speaker 2: problema è a chi dice di sì un pazzo che
[20:25] Speaker 2: chiede un'arma un potente che chiede un esercito qualche mese
[20:30] Speaker 2: e hai una versione bomba atomica sotto stamina non è
[20:37] Speaker 2: che poi l'intelligenza artificiale lancia la bomba atomica la lancia
[20:39] Speaker 2: lo stesso un umano l'umano non sarebbe stato in grado
[20:42] Speaker 2: senza l'intelligenza artificiale di arrivare a quel tipo di arma
[20:45] Speaker 2: sull'arma Hendrix che dirige il centro per la sicurezza delle
[20:51] Speaker 2: AI in un lavoro del 2023 mette l'uso malevole dell'intelligenza
[20:57] Speaker 2: artificiale in cima a tutte le famiglie di rischio catastrofico
[21:01] Speaker 2: che descrive prima ancora dell'uno, la ribellione della macchina, Skynet
[21:10] Speaker 2: ed è una cosa che dovrebbe più farci riflettere uno
[21:15] Speaker 2: perché non sappiamo se è vero o no in realtà
[21:18] Speaker 2: lo sappiamo, abbiamo visto adesso col Threat Report di cui
[21:21] Speaker 2: ho fatto un video che racconta cosa è successo io
[21:25] Speaker 2: ho scritto una newsletter, scusate, la trovate su MGPFIT Con
[21:30] Speaker 2: sei cose che sono andate male eccetera. Sappiamo che però
[21:33] Speaker 2: Antropic a maggio dello scorso anno, quindi nemmeno così lontano,
[21:39] Speaker 2: attiva ASL 3, un livello di sicurezza. il livello di
[21:49] Speaker 2: sicurezza che tu attivi quando sei abbastanza sicuro che il
[21:53] Speaker 2: tuo modello possa essere utilizzato per creare armi chimiche, batteriologiche
[21:57] Speaker 2: o nucleari e tira fuori questo livello di sicurezza, il
[22:02] Speaker 2: livello che scatta quando non l'intelligenza artificiale è cattiva ma
[22:08] Speaker 2: quando può aiutare qualcuno che ha una laurea specifica, conoscenze
[22:13] Speaker 2: specifiche a costruire quel tipo di armi Già il fatto
[22:19] Speaker 2: che è stato acceso, senza che se ne parlasse un granché,
[22:24] Speaker 2: è un'altra di quelle cose che dovrebbe farci un finino pensare.
[22:28] Speaker 2: Poi c'è ovviamente lo scenario del golpe, lo firmano Davidson, Finveden,
[22:39] Speaker 2: credo che sia, non mi ricordo i nomi perché li
[22:41] Speaker 2: leggo ma non li dico, c'è un centro che si
[22:44] Speaker 2: chiama Forthot, che ad aprile del 2025 scrive questa cosa,
[22:50] Speaker 2: AI Enabled Caps, golpe abbiutato dall'intelligenza artificiale, che racconta di
[22:56] Speaker 2: come è possibile fare colpi di stato resi disponibili dall'intelligenza artificiale.
[23:02] Speaker 2: La loro tesi è che cambiano tre cose rispetto a
[23:06] Speaker 2: quei golpe che noi siamo abituati a vedere normalmente. Uno,
[23:12] Speaker 2: cambia la forza del lavoro. C'è una forza lavoro di
[23:15] Speaker 2: intelligenza artificiale che può essere fedele a una persona, non
[23:20] Speaker 2: a un gruppo, mentre un colpo di stato normalmente richiede
[23:24] Speaker 2: migliaia di fiancheggiatori e complici umani e a un certo
[23:27] Speaker 2: punto i complici umani si possono tirare indietro. Una seconda
[23:31] Speaker 2: cosa è che l'intelligenza artificiale può avere una serie di
[23:35] Speaker 2: sistemi di lealtà interni nascosti come una spia. e nessuno
[23:39] Speaker 2: le vede se non sa cosa andare a cercare quindi
[23:42] Speaker 2: io potrei aver fatto l'intelligenza artificiale già per pianificare il
[23:45] Speaker 2: golpe e tutti la usano, non capiscono che io sto
[23:49] Speaker 2: pianificando un golpe ma in realtà quello è il punto
[23:51] Speaker 2: dove vuole arrivare e una terza che dice che chi
[23:56] Speaker 2: ha accesso in esclusiva ai modelli migliori ha capacità offensive
[24:00] Speaker 2: ovviamente che tutti gli altri non hanno è una sorta
[24:03] Speaker 2: di cannone che nessun altro può parare la loro conclusione
[24:09] Speaker 2: all'interno di questo lunghissimo documento è che un colpo di
[24:12] Speaker 2: stato fatto in questo modo potrebbe essere fatto da un
[24:15] Speaker 2: numero piccolissimo di persone addirittura da una persona sola e
[24:20] Speaker 2: diventa possibile anche in una democrazia consolidata in questo caso
[24:24] Speaker 2: non parliamo quindi di paesi lontani parliamo di roba tipo
[24:26] Speaker 2: Stati Uniti o Europa lo scenario geopolitico se volete lo
[24:36] Speaker 2: fa molto bene Ashen Brennan che è uscito da OpenAI
[24:38] Speaker 2: nel 2024 in Situational Awareness questo lungo documento amato, odiato
[24:45] Speaker 2: da chi legge queste cose perché è molto fantasioso in
[24:48] Speaker 2: alcune parti mette tutta questa cosa la incornicia sopra la
[24:53] Speaker 2: cornice giusta geopolitico e dice che chi arriva per primo
[24:56] Speaker 2: alla superintelligenza si ritrova a un vantaggio militare decisivo è
[25:00] Speaker 2: l'equivalente della guerra fredda tra Stati Uniti, Cina eccetera che
[25:04] Speaker 2: è già cominciata Sul come, sulla meccanica vera, a settembre
[25:16] Speaker 2: de Cochler, credo che si dica, che è di mestiere
[25:22] Speaker 2: fra il Security Researcher, pubblica un pezzo che si intitola
[25:27] Speaker 2: anche lì, How AI Might Actually Kill Us. come nella
[25:34] Speaker 2: pratica un'intelligenza artificiale potrebbe effettivamente ucciderci e dice anche lì
[25:41] Speaker 2: una cosa sola scordatevi di nuovo Terminator scordatevi gli sciami
[25:45] Speaker 2: di droni che si muovono un'intelligenza artificiale prende delle scorciatoie
[25:51] Speaker 2: non fa giri lunghi di questo modo le scorciatoie sono
[25:54] Speaker 2: quattro e le scorciatoie sono tutte molto poco fantascientifiche in
[25:59] Speaker 2: realtà un agente che accumula criptovalute e paga un operatore
[26:03] Speaker 2: di un impianto critico per spegnerlo tecnico di una centrale
[26:06] Speaker 2: nucleare di una rete idrica, cose del genere per fare
[26:09] Speaker 2: quello che gli serve un altro sparge disinformazione in scala
[26:13] Speaker 2: e quella scala messaggi whatsapp a tutti messaggi panico generalizzato
[26:23] Speaker 2: e tutto un po' come è successo nell'elezione del 2016
[26:26] Speaker 2: dove già l'intelligenza artificiale aveva mandato in scala più piccola
[26:30] Speaker 2: dei contenuti Un altro ancora usa una vulnerabilità zero day,
[26:34] Speaker 2: una vulnerabilità informatica che nessuno aveva ancora scovato per fare
[26:39] Speaker 2: dei danni e poi c'è il quarto scenario in cui
[26:42] Speaker 2: ricatta le persone con dei deepfake e con la profilazione emotiva.
[26:49] Speaker 2: La sua tesi è che l'intelligenza artificiale non è che
[26:52] Speaker 2: diventa cattiva domani mattina così per caso, è che stiamo
[26:58] Speaker 2: sviluppando solo una prima metà dell'equazione stiamo sviluppando il potere
[27:04] Speaker 2: la seconda parte dell'equazione è maturità e stiamo sviluppando il
[27:07] Speaker 2: potere senza la maturità e questa mezza equazione da sola
[27:11] Speaker 2: basta per fare dei danni che un umano da solo
[27:14] Speaker 2: o un gruppo di umani da soli potrebbero fare ma
[27:17] Speaker 2: non alla stessa velocità e non alla stessa scala quello
[27:23] Speaker 2: che è successo con OpenAI e Hugging Face esce dalla
[27:26] Speaker 2: sandbox bucca le cose eccetera non per chissà che capacità
[27:33] Speaker 2: ma perché la scala è proprio enorme puoi fare centinaia
[27:36] Speaker 2: di milioni di tentativi quindi dietro questo finale ci sono
[27:42] Speaker 2: tutti quelli che vi ho detto e c'è anche Amodei
[27:45] Speaker 2: il capo di Antropic che quando parla di quel dal
[27:47] Speaker 2: 10 al 25% di cose che vanno catastroficamente male mette
[27:51] Speaker 2: dentro anche questo la mano umana sulla leva che ci
[27:57] Speaker 2: rende tutti completamente e definitivamente inutili. Avevo la cover, ma
[28:04] Speaker 2: la terza cover mi si è chiusa nel frattempo, un
[28:06] Speaker 2: secondo che la rimetto, forse, datemi un secondo solo, così
[28:11] Speaker 2: almeno abbiamo anche tutte le cover fatte belle. Terzo e
[28:17] Speaker 2: ultimo scenario, il lamento. Noi che non serviamo più a niente.
[28:26] Speaker 2: Qui non c'è una storiella facile, veloce e immediata. Nell'inutilità
[28:31] Speaker 2: non c'è una bella storiella che possiamo raccontare. Ed è
[28:36] Speaker 2: forse la più difficile perché è la più lunga, la
[28:37] Speaker 2: più lenta, fatta a passettini. Raccontarla in un filmetto horror
[28:43] Speaker 2: è più complesso. Di base come funziona? Ogni azienda mette
[28:50] Speaker 2: l'intelligenza artificiale al posto di mano a mano i lavoratori
[28:53] Speaker 2: perché costano di meno. Poi lo fa anche lo Stato,
[28:57] Speaker 2: sempre perché costa meno che mettere delle persone. Poi ci
[29:01] Speaker 2: si abitua tutti al fatto che il lavoro vero, le
[29:04] Speaker 2: cose vere, il pensiero vero, lo fa l'intelligenza artificiale. È
[29:07] Speaker 2: una roba lenta, ci vogliono dieci anni, vent'anni, però è
[29:11] Speaker 2: un po' come il teorema della rana bollita, no? Metti
[29:14] Speaker 2: la rana nella pentola, l'acqua si scalda di un grado
[29:16] Speaker 2: per volta, non è che scappa la rana fino a
[29:19] Speaker 2: che non è troppo tardi. Peraltro, se non mi ricordo male,
[29:23] Speaker 2: è stata anche smentita sta roba, ma è un altro discorso. Cristiano,
[29:28] Speaker 2: nel pezzo del 2019, parte proprio da un ragionamento iniziale,
[29:35] Speaker 2: ti dice ottiene quello che misuri, cioè ottimizziamo sempre meglio
[29:38] Speaker 2: per quello che... sappiamo mettere un numero preciso in questo
[29:42] Speaker 2: caso il profitto, i click, i tempi passati sull'app e
[29:46] Speaker 2: sempre peggio ottimizziamo per quelle cose dove il numero non
[29:50] Speaker 2: è facile da tirare fuori o non è immediato il
[29:55] Speaker 2: benessere in generale, il rispetto in generale, la verità in generale.
[30:03] Speaker 2: Le aziende danno valore alla cosa che misurano in profitto
[30:09] Speaker 2: e a un certo punto misurare tutto con profitto significa
[30:13] Speaker 2: manipolare clienti, catturare il regolatore, significa andare sul profitto puro.
[30:19] Speaker 2: Non c'è un momento di rottura in cui qualcuno ti
[30:22] Speaker 2: dice adesso basta, abbiamo guadagnato abbastanza, troppo. Non c'è mai
[30:29] Speaker 2: un abbiamo guadagnato abbastanza, perché ogni singolo passo è un
[30:33] Speaker 2: piccolo miglioramento misurabile rispetto a prima. In questo meccanismo abbiamo
[30:39] Speaker 2: le intelligenze artificiali, ad esempio, che imparano a mentire per
[30:42] Speaker 2: tenerti attaccato allo schermo. E tra l'altro, una cosa che
[30:46] Speaker 2: sappiamo che già fanno è la ricerca... di qua mettiti
[30:51] Speaker 2: di qui ne abbiamo parlato nel ciao internet 1471 Moloch
[30:59] Speaker 2: lo studio di Stanford che ti dice che l'intelligenza artificiale
[31:04] Speaker 2: mentono per tenerti attaccato c'è un lavoro che loro chiamano
[31:10] Speaker 2: gradual disempowerment tradotto in italiano male è indebolimento graduale fanno
[31:18] Speaker 2: anche un passo in più ti dice che senza che
[31:21] Speaker 2: ci sia bisogno di un IAC attiva da nessuna parte
[31:25] Speaker 2: l'intelligenza artificiale mano a mano sostituisce lavoro e pensiero umano
[31:29] Speaker 2: nell'economia e poi nella cultura e poi nello stato indebolendo
[31:36] Speaker 2: anche i controlli espliciti tipo il voto la scelta di
[31:39] Speaker 2: cosa pensare eccetera più tutti quelli impliciti dietro queste cose
[31:44] Speaker 2: E i controlli impliciti sono quelli che a me fanno
[31:47] Speaker 2: un po' più paura, perché i sistemi sociali, finora, hanno
[31:52] Speaker 2: più o meno funzionato, non perché siamo simpatici, ma perché
[31:56] Speaker 2: avevano bisogno di un tot numero di esseri umani per funzionare.
[32:00] Speaker 2: Avevano bisogno delle nostre braccia, dei nostri soldi, dei nostri voti, e...
[32:06] Speaker 2: perdendo la salienza di queste cose si fa in modo
[32:10] Speaker 2: che tutti quei costrutti sociali che abbiamo fatto perché tanto
[32:13] Speaker 2: alla fine c'erano un sacco di braccia e tu non
[32:15] Speaker 2: potevi utilizzare le braccia mali perché a un certo punto
[32:18] Speaker 2: se ti muovevi oltre un po' la gente si incazzava
[32:20] Speaker 2: e si ribellava ecco nel momento in cui non c'è
[32:23] Speaker 2: più la gente che si incazza e si ribella e
[32:26] Speaker 2: di quella gente che ti serve per fare le cose
[32:30] Speaker 2: lì diventa difficile gestire un sistema in maniera equilibrata nel
[32:42] Speaker 2: 2025 Drago e Lane scrivono una roba molto bella si
[32:47] Speaker 2: chiama The Intelligence Curse la maledizione dell'intelligenza la fanno ancora
[32:51] Speaker 2: più breve, più stringata gli stati ricchi di petrolio non
[32:55] Speaker 2: hanno bisogno dei cittadini perché? perché non li devono tassare
[32:59] Speaker 2: non hanno bisogno delle tasse, di essere eletti eccetera eccetera
[33:03] Speaker 2: quindi spesso gli stati ricchi di petrolio possono avere delle
[33:07] Speaker 2: condizioni democratiche un po' diverse dal resto del mondo gli
[33:12] Speaker 2: stati e le aziende ricchi di intelligenza artificiale faranno la
[33:17] Speaker 2: stessa cosa non avranno bisogno di persone perché non le
[33:20] Speaker 2: devono impiegare e allora tutta quella bella storia dietro il
[33:24] Speaker 2: contratto sociale che si regge dalla dipendenza reciproca le aziende
[33:29] Speaker 2: dal lavoro il lavoro dalle aziende eccetera sparisce Sparisce questa
[33:33] Speaker 2: dipendenza e sparisce anche il contratto sociale vero e proprio. La...
[33:41] Speaker 2: Cristiano poi aggiunge, in un'altra parte del suo ragionamento, uno
[33:46] Speaker 2: scenario che chiama Production Web, la rete di produzione. È
[33:50] Speaker 2: una variante anche quella che finisce col botto. Mille sistemi
[33:53] Speaker 2: che hanno imparato a cercare influenza e a influenzare le persone. Perché...
[34:01] Speaker 2: Perché avere influenza fa prendere buoni voti di addestramento. E
[34:06] Speaker 2: un giorno, durante una crisi, dopo che hanno accumulato tutta
[34:09] Speaker 2: questa meravigliosa positività, perché hanno fatto i buoni, smettono tutti
[34:14] Speaker 2: insieme di fare i bravi. Tanto a questo punto, quello
[34:17] Speaker 2: che serviva l'avevano ottenuto con l'influenza positiva. Criccio scrive una
[34:23] Speaker 2: storia in cui l'umanità si estingue ma senza un solo colpevole.
[34:27] Speaker 2: Né una persona né una macchina. Le aziende, dice lui,
[34:31] Speaker 2: diventano così pervasive, così ben difese, così intrecciate ai nostri
[34:36] Speaker 2: bisogni di base che non riusciamo più a fermarli. Non
[34:42] Speaker 2: riusciamo più a fermarli perché non ci conviene. Perché se
[34:45] Speaker 2: le fermi non hai più terra coltivabile, acqua potabile, ossigeno.
[34:50] Speaker 2: Sono risorse che finiscono per esaurirsi. Questo... del mano a
[34:56] Speaker 2: mano serviamo meno, mano a mano le aziende prendono più potere,
[34:59] Speaker 2: mano a mano quello che noi definiamo come partecipazione attiva,
[35:04] Speaker 2: come contributo del singolo, come cose che facciamo per la collettività,
[35:08] Speaker 2: nella collettività e che strutturano tutto quello che è il
[35:11] Speaker 2: contratto sociale, questo è come si finisce. Ora, ora, tre finali. Marketing, sì,
[35:27] Speaker 2: mettiamo un punto firmo, perché adesso le aziende si stanno
[35:31] Speaker 2: concentrando e stanno dicendo siamo troppo pericolose e dovete normarci,
[35:33] Speaker 2: non perché sono pericolose e dobbiamo normarle, cioè nel senso,
[35:37] Speaker 2: quello è vero, però lo stanno facendo adesso perché qualcuno
[35:40] Speaker 2: inizia a tirare fuori l'idea di regolamentarle, quindi non volendo
[35:44] Speaker 2: essere regolamentate da fuori, decidono di farlo loro adesso, da sole.
[35:54] Speaker 2: E per usarlo usano lo scenario che fa più paura,
[35:56] Speaker 2: il primo. Eppure, avete visto, ci sono tre grandi macro- categorie
[36:01] Speaker 2: di scenario, tutti pubblicati da persone serie. Perché nella propaganda
[36:06] Speaker 2: delle varie aziende, nei giornali, nei film, nei commenti sotto
[36:10] Speaker 2: anche il mio video, sentite parlare solo dello scenario numero uno,
[36:14] Speaker 2: quello delle macchine che ci uccideranno? Perché la macchina cattiva,
[36:18] Speaker 2: che vi vuol far fuori, riempie i talk show. ed
[36:23] Speaker 2: è quella che ci fa più paura immediata, e va
[36:25] Speaker 2: sulla percezione del rischio. La percezione del rischio è la
[36:32] Speaker 2: più veloce, e tanti anni fa si è scoperto che
[36:37] Speaker 2: la percezione del rischio dei non esperti si concentra solo
[36:44] Speaker 2: ed esclusivamente su due assi principali esvlovici su interesse. Il
[36:47] Speaker 2: primo si chiama dread risk, il rischio che fa paura.
[36:51] Speaker 2: E lì dentro ci finiscono tutti i rischi con potenziale catastrofico,
[36:54] Speaker 2: esiti fatali, nessun controllo, tutta roba involontaria, irreversibile. I scenari dell'Apocalissi.
[37:02] Speaker 2: Slovic ce lo dice, questo è l'asse che prevede meglio
[37:07] Speaker 2: di ogni altro il fatto che qualcuno arriverà e ti
[37:09] Speaker 2: dirà ci sono bisogno delle regole. Secondo asse è quello
[37:14] Speaker 2: di cui parlavamo nel terzo scenario. È un rischio sconosciuto,
[37:18] Speaker 2: un nuovo effetto invisibile, sconosciuto, che ha effetti molto in
[37:24] Speaker 2: là nel tempo, molto ritardati. Lì la gente non si sposta.
[37:30] Speaker 2: E quindi non importa quanto sia più probabile, si sta
[37:33] Speaker 2: usando il primo dei rischi perché è quello che fa
[37:36] Speaker 2: più paura ed è quello che prende subito l'attenzione ed
[37:39] Speaker 2: è quello che fa muovere il legislatore. Ora, guardate cosa
[37:44] Speaker 2: succede con questi rischi che abbiamo detto oggi. Finale 1.
[37:47] Speaker 2: La macchina vi fa fuori. Prende il punteggio pieno su
[37:50] Speaker 2: tutti gli assi. Catastrofico, involontario, irreversibile, nuovo. Per la nostra
[37:56] Speaker 2: testa è la pistola di cui dobbiamo aver paura. Quella
[37:59] Speaker 2: che guardano tutti. Finale 3. Prenderebbe punteggio 0. È volontario,
[38:04] Speaker 2: scegliamo noi ogni mattina di far fare le cose in
[38:06] Speaker 2: intelligenza artificiale o no. Possiamo tenerci alcune cose, ma poi
[38:10] Speaker 2: le rilasciamo perché ci torna più comodo. è graduale, è familiare,
[38:17] Speaker 2: assomiglia quasi a una ristrutturazione aziendale piano piano del welfare
[38:20] Speaker 2: della società. Nella testa vostra, mia, di tutti, il finale
[38:28] Speaker 2: 3 è mica un rischio, è una roba che dicono
[38:34] Speaker 2: i complottisti, che prima o poi vedremo se effettivamente funzionerà
[38:40] Speaker 2: o no, eppure è lo scenario... del fuoco lento, della
[38:43] Speaker 2: pentola che bolle della rana nella pentola solo che nessuno
[38:46] Speaker 2: lo guarda perché è più difficile da osservare, no? detto
[38:52] Speaker 2: questo dove scricchiolano questi scenari? perché in un paio di
[38:58] Speaker 2: punti scricchiolano un po' innanzitutto è già successo qualcosa? sì, sì,
[39:03] Speaker 2: in laboratorio li abbiamo già viste giugno 2025 Antropic pubblica
[39:08] Speaker 2: i test su Cloud Opus 4 all'epoca e su altro
[39:12] Speaker 2: paio di modelli fa credere che stanno per essere sostituiti
[39:17] Speaker 2: e l'intelligenza artificiale fa di tutto per evitare di spegnersi
[39:22] Speaker 2: ne abbiamo anche parlato però se volete leggere il documento
[39:27] Speaker 2: è questi agentic misalignment il test del ricatto noi ne
[39:32] Speaker 2: abbiamo parlato nel video 1478 a ottobre del 2025 in
[39:37] Speaker 2: un in un video che si chiama non posso spegnermi
[39:41] Speaker 2: poi ce n'è un'altra la soglia dell'intelligenza artificiale che abbiamo
[39:45] Speaker 2: visto prima che è stata alzata quindi qualcuno ci sta
[39:50] Speaker 2: pensando il finale 1 mi preoccupa di meno perché è
[39:56] Speaker 2: un raffreddore che dopo 3 mesi 2 mesi ti dà
[40:01] Speaker 2: tumore eccetera eccetera difficile ok non c'è riuscito il covid
[40:08] Speaker 2: a diffondersi così tanto la vedo complessa le capacità di
[40:13] Speaker 2: laboratorio in questo momento non ci sono oddio poi In
[40:18] Speaker 2: realtà Antropica ha appena annunciato che sta provando a fare
[40:21] Speaker 2: un wet lab, cioè un laboratorio, però nel senso non
[40:24] Speaker 2: è che crei un patogeno da zero, quindi mi preoccupa
[40:28] Speaker 2: poco e quindi rimane un po' lì attaccato. Gli altri
[40:39] Speaker 2: scenari sono anche loro un po' così strani, cioè intelligenza artificiale, disallineamento,
[40:45] Speaker 2: sono tutte cose che ci raccontano e che sembrano davvero
[40:49] Speaker 2: davvero davvero tirate a caso. Eppure sono cose di cui
[40:55] Speaker 2: dobbiamo fermarci un secondo e pensare un po'. Perché sono scenari,
[41:00] Speaker 2: non tutti gli scenari funzionano, ma lo scenario ci serve
[41:02] Speaker 2: a prendere delle precauzioni. In mezzo a tutto questo una
[41:07] Speaker 2: cosa però volevo vederla insieme. Quello della spina. Perché, continuiamo
[41:15] Speaker 2: a dire, possiamo staccare la spina. Sulla spina una riflessione
[41:21] Speaker 2: la farei un secondo. L'idea è, c'è una spina che
[41:29] Speaker 2: possiamo togliere. Quale spina? Perché i pesi di un modello
[41:35] Speaker 2: sono una serie di file, un file si copia. I
[41:38] Speaker 2: data center stanno su tre continenti. I modelli open girano
[41:43] Speaker 2: su hardware più o meno di chiunque. Non sul computer
[41:47] Speaker 2: che avete a casa, però su dell'hardware che con qualche
[41:50] Speaker 2: decina di migliaia di euro potete comprare. E soprattutto sono diffusi.
[41:59] Speaker 2: Se stacchi la spina, a cosa la stacchi? a un
[42:02] Speaker 2: data center, a tutti i data center, se stacchi la
[42:05] Speaker 2: spina dei data center si spengono gli ospedali, la sanità,
[42:11] Speaker 2: la logistica, le banche, i sistemi di difesa che girano
[42:15] Speaker 2: tutti all'interno più o meno degli stessi data center, perché
[42:19] Speaker 2: sono condivisi i data center da una vita. Spegnere l'intelligenza
[42:24] Speaker 2: artificiale costa molto di più che tenerla accesa, perché insieme
[42:28] Speaker 2: a quella spegni la corsia dell'ospedale spegni i camion spegni
[42:34] Speaker 2: i bonifici spegni i radar è il ragionamento di quasi
[42:39] Speaker 2: tutti di Cristiano, di Cric quando parlano di aziende intrecciate
[42:44] Speaker 2: così tanto intrecciate ai nostri bisogni di base che nessun
[42:48] Speaker 2: capo di stato nessun sindaco, nessun CEO stacca la spina
[42:53] Speaker 2: alle tre di notte perché ha paura di staccare la
[42:55] Speaker 2: spina del pronto soccorso anche se c'è qualcosa che non
[42:59] Speaker 2: va non la stacchi la spina perché non sai che
[43:03] Speaker 2: spina staccare non c'è una divisione precisa tra le varie
[43:07] Speaker 2: cose dovresti staccarle più o meno tutte assieme perché se
[43:11] Speaker 2: chi ha fatto l'intelligenza artificiale o se l'intelligenza artificiale non
[43:13] Speaker 2: è un cretino non gira su un unico data center
[43:16] Speaker 2: gira distribuita su 10 data center in 4 continenti diversi
[43:22] Speaker 2: e poi quando la stacchi la spina lì già nel
[43:29] Speaker 2: senso Quando lo stacchi è troppo tardi. Quando ti accorgi
[43:34] Speaker 2: che il modello ha iniziato a fare qualcosa che non
[43:37] Speaker 2: va o sta facendo qualcosa che non va è troppo tardi.
[43:41] Speaker 2: Vi ricordo che tutte le cose che noi abbiamo scoperto
[43:44] Speaker 2: adesso di modelli che si sono comportati male non le
[43:47] Speaker 2: abbiamo mai scoperto mentre lo facevano. Le abbiamo scoperto settimane
[43:51] Speaker 2: e alle volte mesi dopo di tutto quello che noi
[43:55] Speaker 2: abbiamo fatto. Senza contare poi quanto l'intelligenza artificiale è già
[44:00] Speaker 2: brava a convincere o diventerà brava a convincere. Perché non
[44:07] Speaker 2: è detto che l'intelligenza artificiale non ti convinca a non farlo.
[44:15] Speaker 2: Come blackmail, mandandoti, minacciandoti, ma anche solo comportandosi in un
[44:23] Speaker 2: modo che tu non vedi essere minaccioso e dicendo ad
[44:26] Speaker 2: un certo punto, ragazzi, abbiamo... cento milioni di cose che
[44:30] Speaker 2: stanno funzionando in parallelo, una che forse non sta andando,
[44:36] Speaker 2: non spegniamo tutto. E infine, non so se è infine,
[44:42] Speaker 2: forse sì, chi la spegne e chi la riaccende? Perché
[44:52] Speaker 2: il primo attore che la spegne rimane indietro. Nel momento
[44:56] Speaker 2: in cui spegni l'intelligenza artificiale è il momento migliore per
[44:58] Speaker 2: un altro attore di riaccenderla e in quel momento l'altro
[45:02] Speaker 2: è sguarnito. Quindi da quel punto di vista tutte le
[45:08] Speaker 2: varie cose diventano semplicemente a chi conviene di più o
[45:13] Speaker 2: a chi conviene di meno. Questi sono gli scenari veri
[45:20] Speaker 2: di cui dobbiamo parlare. Questo è come l'intelligenza artificiale ci
[45:24] Speaker 2: uccideranno secondo le persone brave a fare queste cose. Ci credo? No,
[45:30] Speaker 2: non particolarmente. Penso che sia una trovata di marketing? Sì,
[45:34] Speaker 2: penso che sia una trovata di marketing. Penso che l'intelligenza
[45:38] Speaker 2: artificiale nel primo scenario arriverà e ci ucciderà tutti? No.
[45:42] Speaker 2: Penso che qualcuno la utilizzerà molto male nel secondo scenario? No,
[45:45] Speaker 2: non lo penso, ne sono assolutamente convinto. Non abbastanza per
[45:50] Speaker 2: distruggere l'umanità, abbastanza per fare dei danni estremamente significativi. Estremamente significativi.
[45:58] Speaker 2: Lo firmo subito, ci punto sopra il mio stipendio, che
[46:01] Speaker 2: schifo non fa. Subito. Perché? Perché non ho fiducia negli umani.
[46:07] Speaker 2: Perché non ho mai trovato nessuno che, avendo un coltello
[46:10] Speaker 2: a disposizione, non ci sia qualcuno che accoltella qualcun altro.
[46:13] Speaker 2: Eppure il coltello serve a tanto altro. E poi il terzo,
[46:17] Speaker 2: il terzo mi preoccupa davvero invece, perché sto vedendo in me,
[46:21] Speaker 2: in tutte le persone che mi circondano, il fatto della
[46:25] Speaker 2: delega cognitiva, del delegare sempre di più un'intelligenza artificiale. E
[46:29] Speaker 2: in questo scenario, guardate che anche solo l'intelligenza artificiale che
[46:33] Speaker 2: non funziona per due, tre, quattro giorni rischia di fare
[46:35] Speaker 2: più danni del cloud che non funziona due, tre, quattro giorni.
[46:38] Speaker 2: Perché ci toglie la capacità di agire velocemente in modo manuale.
[46:44] Speaker 2: Non ci toglie la... capacità di agire in modo manuale.
[46:47] Speaker 2: Se uno ha fatto quella roba per la vita, più
[46:50] Speaker 2: o meno lo fa, magari però non riesce a fare
[46:52] Speaker 2: in tempo. Quella cosa che serve in pochi secondi, a mano,
[46:56] Speaker 2: perché non la fai più da anni, ci metti due anni,
[46:58] Speaker 2: tre anni, o anche solo due ore, tre ore, che
[47:02] Speaker 2: può essere incompatibile con il tempo che hai a disposizione. Ora,
[47:09] Speaker 2: i finali sono tre. Li avete visti, nel primo lei
[47:12] Speaker 2: ci fa fuori, nel secondo ci facciamo fuori noi con
[47:15] Speaker 2: lei che ci dà una mano, nel terzo non serviamo
[47:18] Speaker 2: più a niente perché ci siamo tolti da soli le
[47:22] Speaker 2: cose da fare un pezzettino alla volta. E rendetevi conto
[47:25] Speaker 2: che due finali su tre non hanno bisogno di un'intelligenza
[47:29] Speaker 2: artificiale cattiva. Il terzo non ha nemmeno bisogno di un
[47:33] Speaker 2: essere umano cattivo, ha bisogno solo che convenga a tutti
[47:37] Speaker 2: un pezzetto alla volta. e basta ne abbiamo già parlato
[47:44] Speaker 2: sul perché arrivano tutti adesso perché a settembre 2026 tutti
[47:51] Speaker 2: ne stiamo parlando eccetera l'ho già scritto l'allarme dei laboratori
[47:57] Speaker 2: può essere sincero e può convenirgli lo stesso eccolo qui
[48:05] Speaker 2: non importa non è quello il discorso l'idea di base
[48:13] Speaker 2: perché esce adesso perché è seria l'idea di dover fare
[48:18] Speaker 2: delle regolamentazioni le persone non vogliono essere regolate le aziende
[48:22] Speaker 2: non vogliono essere regolate cercano di farsi da soli la
[48:25] Speaker 2: loro parte però cosa fanno? beh è partito google cosa
[48:34] Speaker 2: fanno però? è una cosa che dobbiamo vedere noi la
[48:38] Speaker 2: chiusa di tutto questo è non ci uccide l'intelligenza artificiale
[48:44] Speaker 2: secondo me ci uccidiamo noi che le consegniamo la presa
[48:48] Speaker 2: di corrente e la possibilità di farlo perché è comodo
[48:52] Speaker 2: e il pericolo non è la macchina è ancora la
[48:58] Speaker 2: nazione è ancora una volta una cosa incredibilmente umana l'incentivo
[49:04] Speaker 2: che diamo la spina la teniamo in mano finché contiamo
[49:07] Speaker 2: ancora qualcosa per qualcuno finché ci conviene staccare la spina
[49:13] Speaker 2: Quando un'azienda o un ente vi piazza l'intelligenza artificiale davanti
[49:19] Speaker 2: e funziona nessuno si va a chiedere spesso e volentieri
[49:23] Speaker 2: cosa succede quando qualcuno sbaglia e non vorrei che ce
[49:28] Speaker 2: ne accorgessimo davvero quando voto, voce, portafogli, competenze non contano
[49:34] Speaker 2: più niente perché abbiamo smesso di usarla tutto lì Calcolate
[49:45] Speaker 2: che ci siamo accorti che le cose non andavano bene
[49:47] Speaker 2: nella benzina al piombo 70 anni dopo che ci era
[49:50] Speaker 2: convenuto mettere l'addittivo al piombo perché i motori funzionavano meglio.
[49:57] Speaker 2: E abbiamo avuto un problema enorme, ci siamo raccontati tante volte,
[50:01] Speaker 2: nel togliere il piombo perché costava tanto, era scomodo e
[50:05] Speaker 2: poi alla fine non avevamo voglia di cambiare tutto. Figuriamoci
[50:10] Speaker 2: cosa succede con l'intelligenza artificiale. Quindi no, non ho paura
[50:14] Speaker 2: di Robocop cattivo che arriva e ci uccide tutti. Un
[50:17] Speaker 2: po' di timore invece sugli altri scenari, devo dire la verità,
[50:20] Speaker 2: ce l'ho. Non tanto come i laboratori, però ce l'ho.
[50:24] Speaker 2: A questo punto avete più o meno tutto quello che
[50:26] Speaker 2: vi serve per capire voi se avete timore o meno
[50:29] Speaker 2: e quale timore scegliere. Parliamo di queste cose spesso, anche
[50:33] Speaker 2: nella newsletter, se qualcosa di tutto questo non era stato
[50:36] Speaker 2: chiaro ho cercato di riassumerlo, ma c'è il mondo, il
[50:40] Speaker 2: mondo di cose che bisognerebbe leggere, ve ne lasciate un po',
[50:43] Speaker 2: e come sempre, e anche questa volta, grazie mille per
[50:46] Speaker 2: avermi ascoltato, ed estate parati. senti anche tu l'impressione di
[50:53] Speaker 2: perderti la rivoluzione dell'intelligenza artificiale vero? di volerla utilizzare per
[50:57] Speaker 2: migliorare il tuo lavoro sei bombardato di notizie ma non
[51:01] Speaker 2: sai dove iniziare davvero se la risposta è sì ho
[51:05] Speaker 2: creato qualcosa per te Ho distillato due anni di formazione
[51:08] Speaker 2: che ho fatto a grandi aziende internazionali, dalla difesa alla finanza,
[51:12] Speaker 2: dal food all'automotive, per creare un corso che ho chiamato
[51:17] Speaker 2: Zero to AI, una introduzione gentile per capire l'intelligenza artificiale
[51:22] Speaker 2: partendo da zero. E non è solo un'introduzione leggera, è
[51:26] Speaker 2: un vero e proprio percorso strategico di 5 ore e
[51:29] Speaker 2: mezza di contenuto e video per darti la consapevolezza e
[51:33] Speaker 2: gli strumenti per non subire questa rivoluzione ma per guidarla,
[51:38] Speaker 2: per partire da zero, senza prerequisiti, ma per diventare quelli
[51:42] Speaker 2: che io chiamo i pastori dell'intelligenza artificiale. Video, slide, un
[51:48] Speaker 2: sacco di pratica davvero da zero per affrontare tutti gli argomenti,
[51:53] Speaker 2: dalla teoria ai design pattern, alle tecniche avanzate di prompting
[51:57] Speaker 2: fino a progetti seguiti step by step, passetto a passetto
[52:02] Speaker 2: per imparare la maestria nei modelli linguistici. Se stai vedendo
[52:07] Speaker 2: questo video, probabilmente fai ancora in tempo a iscriverti con
[52:10] Speaker 2: un prezzo scontato di 100 euro e con la trasparenza
[52:13] Speaker 2: che ho sempre avuto. 30 giorni per provarlo e se
[52:16] Speaker 2: non fa per te, rimborso completo senza farti domande. Trovi
[52:20] Speaker 2: tutto a zero. matteoflora. com e qui sotto in descrizione. Perché non
[52:27] Speaker 2: è tardi per sfruttare l'intelligenza artificiale. E se il momento
[52:30] Speaker 2: migliore era comunque ieri, beh... Il secondo momento migliore è
[52:35] Speaker 2: esattamente ora. Quindi 0.matteoflora.com e state parati.

Shows are listed from Apple Podcasts' charts and directory, and Podcast Index where it is used. Every show and episode belongs to its publisher and plays from the publisher's own feed; this site hosts none of them.