Dai chip ai token, dalle reti neurali agli agenti: il viaggio dentro le macchine che generano risposte e stanno cambiando il nostro modo di pensare, lavorare e decidere.
Dopo un lungo e complesso lavoro, sono felice di presentarvi il mio nuovo libro, COSA SUCCEDE DAVVERO DENTRO L’IA?, disponibile dal prossimo 7 novembre su Amazon in tre formati:
Copertina rigida, nel formato 21,59 × 27,94 cm.
Copertina flessibile, nel formato 21,59 × 27,94 cm.
Ebook.
Di intelligenza artificiale si discute continuamente, tra entusiasmo, timori e promesse. Ma che cosa succede davvero dentro queste macchine? Come si passa dai calcoli eseguiti da un chip alle parole di una risposta? E quale percorso storico ci ha portati fino ai sistemi che utilizziamo oggi?
Ho scritto questo libro con l’obiettivo di riunire le conoscenze necessarie per comprendere più a fondo questa trasformazione. Il volume affronta sia gli aspetti tecnici sia quelli storici, collegando il funzionamento dell’IA alle idee, alle scoperte e agli sviluppi che ne hanno reso possibile la nascita e l’evoluzione.
È un libro impegnativo, e desidero dirlo con chiarezza. Alcuni argomenti richiedono concentrazione e pazienza: ho cercato di spiegarli senza sacrificare la profondità necessaria per comprenderli. È una lettura pensata per chi vuole dedicare tempo a capire gli strumenti che stanno entrando nel nostro lavoro e nella nostra vita quotidiana.
Il risultato è un’opera ampia, nata dal desiderio di offrire al lettore gli elementi per orientarsi e formarsi un giudizio consapevole sulla tanto discussa intelligenza artificiale.
Riporto qui sotto l’indice completo: meglio di tante parole, mostra il contenuto del libro e il percorso che propongo di affrontare insieme.
PARTE I — LA MATERIA DELL’INTELLIGENZA 15
Cap. 1. Dentro il chip: dove comincia il calcolo 15
Un segnale che controlla un altro segnale 15
Come nascono lo zero e l’uno 15
Quando gli stati diventano numeri 16
Il chip prende forma 17
Il ritmo delle operazioni 17
I numeri hanno una dimensione 18
Il primo frammento di una rete neurale 18
Il calcolo lascia calore 19
Dal componente al sistema 19
Cap. 2 La fabbrica dei calcoli: GPU, memoria e connessioni 19
Due modi di organizzare il lavoro 20
Dalla grafica alle reti neurali 20
Chi distribuisce i compiti? 21
I dati devono arrivare 21
La memoria ha più livelli 21
Capacità, banda e latenza 22
Quanto spazio occupa un modello? 22
Il vantaggio di riutilizzare 23
Una richiesta o molte richieste insieme? 23
Quando una GPU non basta 23
Le connessioni fanno parte del sistema 24
L’infrastruttura del calcolo effettivo 24
Cap. 3 Il linguaggio diventa numeri: token, vettori e tensori 25
Dove finisce una parola? 25
Il tokenizer prepara l’ingresso 25
Una scelta tecnica con conseguenze visibili 26
Un numero per trovare molti numeri 26
Come si legge un vettore? 27
La frase diventa una matrice 28
Perché l’ordine deve lasciare una traccia 29
Che cosa rende speciale un tensore? 29
Le sequenze non hanno tutte la stessa lunghezza 30
Anche una conversazione ha una struttura numerica 30
I numeri devono cominciare a interagire 30
Cap. 4. Il Transformer: come le informazioni interagiscono 31
Un’architettura, diverse famiglie 31
Che cosa significa “attenzione” 31
Tre trasformazioni: query, key e value 32
Dai confronti ai coefficienti 32
Un esempio che possiamo calcolare 33
Il vincolo che impedisce di usare il futuro 33
Più teste, più combinazioni 34
Conservare una strada attraverso la rete 34
Dopo l'attenzione: una nuova elaborazione delle informazioni 34
Una mappa dell’attenzione non è tutta la spiegazione 36
Come la rete ha imparato a usare queste operazioni 37
PARTE II — COME SI COSTRUISCE UN MODELLO 37
Cap. 5. Prima dell’intelligenza vengono i dati 37
Il materiale del mondo 38
Una pagina web non è ancora un buon esempio 38
Che cosa significa “qualità”? 38
Quando la stessa pagina torna migliaia di volte 39
Il mondo non compare nelle stesse proporzioni 39
Scegliere anche le proporzioni 40
Lavoro umano prima e dopo la raccolta 40
Da dove vengono e come possono essere utilizzati? 40
Quando il materiale d’esame entra nel programma di studio 41
I dati possono essere prodotti dalle macchine 41
Il momento in cui il corpus diventa materiale di calcolo 41
Prima della risposta c’è una selezione 42
Cap. 6. Imparare sbagliando: come cambiano i pesi di una rete 42
Un sistema di calcolo con un solo peso 42
Dare una forma all’errore 43
Il primo aggiornamento 44
Quando i pesi sono molti 45
Qual è l’obiettivo di un modello linguistico? 46
Quanto era probabile il token osservato? 46
Molti esempi per un aggiornamento 47
L’ottimizzatore decide il passo 47
Abbassare la perdita, imparare a generalizzare 47
Conservare il percorso 48
Dall’apprendimento all’utilizzo 48
Cap. 7 Da modello ad assistente: istruzioni, preferenze e rinforzo 48
Mostrare il comportamento desiderato 49
La richiesta entra nel contesto, la risposta diventa il bersaglio 49
Una risposta esemplare non esaurisce le possibilità 50
Che cosa significa “migliore”? 50
Un modello che impara a valutare 50
Il rinforzo modifica il comportamento 51
Migliorare il punteggio può allontanare dall’obiettivo 51
Preferire una risposta non significa verificarla 51
Usare direttamente i confronti 52
Quando il feedback arriva da un’altra IA 52
Quando il risultato può essere controllato 52
L’assistente comprende anche il prodotto 53
Orientare e verificare 53
Cap. 8. Le memorie dell’IA: che cosa conserva e che cosa dimentica 53
La conversazione torna nell’ingresso 54
La finestra ha un limite 54
Avere un’informazione e utilizzarla bene 54
Le conoscenze nei pesi 55
Imparare una regola dentro la conversazione 55
Un archivio intorno al modello 56
Decidere che cosa vale la pena ricordare 56
Il riassunto conserva e trasforma 56
Consultare un archivio di conoscenze 57
La cache KV: conservare calcoli già svolti 57
Una mappa delle memorie 57
Quando aggiornare significa anche perdere 58
Che cosa significa cancellare? 58
La memoria utile ha bisogno di confini 58
PARTE III — ANATOMIA DI UNA RISPOSTA 59
Cap. 9. Dalla domanda al server: il viaggio della richiesta 59
Il messaggio diventa una richiesta 59
Attraversare la rete 60
La porta d’ingresso del servizio 60
Comporre il contesto effettivo 60
Scegliere la destinazione 61
Il modello è già disponibile? 61
Entrare nella coda 61
Il testo assume la forma richiesta dal modello 62
Riutilizzare una parte del percorso 62
Quanto tempo abbiamo aspettato? 63
Una richiesta può contenere più passaggi 63
Finalmente, una parola 63
Cap. 10. Una risposta, un token alla volta 64
Dai logit alle probabilità 64
Probabile rispetto a che cosa? 65
Scegliere il candidato più probabile 65
Campionare: lasciare spazio alle alternative 65
La temperatura modifica la distribuzione 66
Top-k e top-p: delimitare i candidati 66
Il token scelto cambia ciò che viene dopo 67
Proseguire senza ricalcolare tutto 67
Quando il formato restringe le scelte 67
Perché la stessa domanda cambia risposta? 68
Che cosa ferma la risposta? 68
Una spiegazione prende forma 68
Cap. 11. Il tempo nascosto: attese e colli di bottiglia 69
La risposta ha più di una velocità 69
Il lavoro cambia dopo il primo token 69
Quando il calcolo aspetta i dati 70
La coda può pesare più del modello 71
Il contesto occupa spazio mentre la risposta cresce 71
Quando una nuova richiesta interrompe il ritmo delle altre 71
Separare le fasi crea un nuovo trasferimento 72
Più dispositivi, più coordinamento 72
La media nasconde le attese peggiori 72
Le attese possono trovarsi fuori dalla GPU 72
Accelerare la parte giusta 73
Misurare il percorso, non indovinarlo 73
Il tempo diventa una scelta di progetto 73
Cap. 12. Come rendere l’intelligenza più economica 74
Il prezzo non racconta tutto 74
Usare un modello adatto al compito 74
La quantizzazione: conservare i numeri con meno bit 75
Ridurre la precisione modifica le approssimazioni numeriche. 75
La distillazione: trasferire capacità a un altro modello 75
Attivare soltanto una parte della rete 76
Eseguire meglio la stessa operazione 76
Gestire meglio lo spazio disponibile 76
Proporre più token, poi verificarli 77
Spendere meno anche per l’adattamento 77
Elaborare ciò che serve 77
Il costo di un risultato accettabile 78
I risparmi non si sommano automaticamente 78
Più efficienza, più possibilità di utilizzo 78
PARTE IV — QUANDO IL MODELLO ENTRA NEL MONDO 79
Cap. 13 Cercare prima di rispondere: documenti, fonti e conoscenza 79
La conoscenza disponibile si amplia 79
Prima della domanda, preparare i documenti 80
Dividere senza perdere il significato 80
Conservare l’identità delle fonti 80
Cercare le parole 81
Rileggere i candidati migliori 81
La domanda può diventare più ricerche 82
Pertinenza e credibilità sono proprietà diverse 82
I passaggi entrano nella generazione 82
L’archivio ha confini di accesso 83
Dalla risposta plausibile alla risposta controllabile 83
Cap. 14 Oltre le parole: immagini, voce e video 84
L’immagine è già una struttura di numeri 84
Dai pixel alle rappresentazioni 85
Collegare immagini e linguaggio 85
Osservare e inferire 85
Due percorsi per una conversazione vocale 86
Il video aggiunge il tempo 87
Lo streaming deve decidere quando agire 87
Architetture diverse possono collaborare 88
Il realismo non certifica l’accuratezza 88
Dalle rappresentazioni alle azioni 89
Cap. 15. Dal chatbot all’agente: quando l’IA comincia ad agire 89
Una definizione operativa 89
Il modello propone, il software esegue 90
Il ciclo dell’agente 90
Trasformare l’obiettivo in criteri 90
Pianificare senza fissare tutto in anticipo 91
Lo stato del lavoro 91
Quando uno strumento fallisce 91
Dire di aver finito ed essere arrivati al risultato 92
Il problema degli errori concatenati 92
Autonomia entro un perimetro 92
Quando più agenti collaborano 93
Decidere quando fermarsi 93
Dal compito digitale al mondo fisico 94
Cap. 16 L’intelligenza incontra la materia: i robot 94
Dal testo agli oggetti 94
Vedere non significa comprendere 95
Il problema della posizione 95
Pianificare un movimento 95
Agire significa modificare il mondo 95
Il tempo entra nell'equazione 96
Perché le fabbriche sono più facili delle case 96
Quando arriva l'intelligenza generativa 96
L'autonomia ha un costo 96
Dal comportamento alla fiducia 97
PARTE V — CAPIRE I LIMITI, VERIFICARE LE PROMESSE 97
Cap 17. Perché una macchina capace può sbagliare 97
La capacità non è uniforme 97
La perdita di addestramento non misura tutta la correttezza 98
Che cosa chiamiamo allucinazione 98
Quando manca l’informazione 99
Quando l’informazione c’è, ma viene usata male 99
Gli assistenti vengono orientati a essere utili e disponibili e in alcune condizioni questo può trasformarsi in eccessiva compiacenza. 100
Le fonti possono fallire in più modi 100
Gli strumenti aggiungono capacità e nuovi punti di errore 100
Il tono sicuro non misura l’incertezza 101
Ricontrollare può aiutare, ma serve un criterio 101
Una verifica adatta al tipo di errore 101
Comprendere l’errore senza ridurre tutto all’errore 102
Cap. 18. Possiamo guardare dentro una rete neurale? 102
Conoscere le operazioni e comprenderne il ruolo 102
Tre livelli di indagine 103
Le attivazioni sono misure, non etichette 103
Perché un neurone può avere più significati 103
Cercare direzioni più leggibili 104
Le sonde: che cosa si può leggere nelle rappresentazioni? 104
Passare dall’osservazione all’intervento 104
Seguire un circuito 105
Le immagini dell’attenzione mostrano un passaggio 105
Le parole del modello sul proprio percorso 105
Modificare una conoscenza è possibile? 106
Quanto rimane fuori dalla spiegazione? 106
Questo limite va mantenuto visibile. 106
Che cosa possiamo ricavarne 106
Dalla rete alle prove 107
Cap. 19. Quanto è intelligente, davvero? 107
Un profilo prima di un voto 107
Quale sistema stiamo valutando? 108
Il risultato giusto deve essere definito bene 108
Un tentativo e molti tentativi misurano cose diverse 109
Il budget fa parte della capacità osservata 109
Il confronto con gli esseri umani 110
Preferenze e correttezza 110
Quando il giudice è un’altra IA 110
Quando il modello ha già incontrato la prova 111
Quanto a lungo può lavorare? 111
La differenza tra due punteggi può essere incerta 112
Quando una prova non distingue più 112
La carta d’identità di un risultato 112
Cap. 20. Sicurezza, allineamento e controllo 113
Allineare rispetto a quali obiettivi? 113
Sicurezza del modello e sicurezza dell’applicazione 114
Quando un contenuto cerca di diventare un comando 114
I confini devono diventare controlli 114
Isolare l’esecuzione 115
Controllare ciò che entra e ciò che esce 115
La supervisione umana deve permettere una decisione reale 115
Monitorare ciò che avviene 115
Fermare il lavoro e contenere gli effetti 116
Mettere alla prova le protezioni 116
Comportarsi bene durante il test è sufficiente? 116
Il caso di sicurezza 117
Dalla segnalazione alla correzione 117
Che cosa possiamo concludere sui rischi futuri? 117
Il controllo come capacità concreta 118
PARTE VI — CHI PAGA, CHI DECIDE, CHI BENEFICIA 118
Cap. 21. L’economia dell’intelligenza: energia, capitale e costo dei risultati 118
Tre numeri da tenere separati 119
Addestrare e utilizzare 119
Il capitale arriva prima dei risultati 119
La capacità inutilizzata ha un costo 120
L’energia è una quantità fisica 120
Oltre l’elettricità del processore 120
Perché un token non ha un costo universale 121
Il rischio del tempo 122
La domanda dipende dal prezzo e dall’utilità 123
Il costo del risultato accettato 123
Il risparmio privato e i costi collettivi 123
Chi riceve il valore 124
Cap. 22. Lavorare e imparare con le macchine 124
Un lavoro contiene molte mansioni 124
Più velocità, a quale condizione? 125
La frontiera attraversa lo stesso mestiere 125
Sentirsi più produttivi e misurarlo 125
Delegare cambia il punto nel quale serve competenza 126
Il paradosso del principiante 126
Il risultato disponibile non coincide con la capacità acquisita 126
Un tutor può aiutare oppure sostituire l’esercizio 127
Progettare una collaborazione che insegni 127
Le competenze che sostengono la delega 127
Come cambia l’organizzazione 128
La conoscenza di un gruppo può diventare un’infrastruttura 128
Conservare la possibilità di dissentire 128
Il tempo liberato deve trovare una destinazione 129
Cap. 23. Chi controlla l’intelligenza controlla il futuro? 129
Il potere si distribuisce lungo la filiera 129
I colli di bottiglia diventano leve strategiche 130
La dimensione può trasformarsi in dipendenza 130
Chi controlla più livelli ha più possibilità di scelta 130
Aprire i pesi cambia il rapporto con il fornitore 131
Apertura e sicurezza pongono domande diverse 131
Possedere i dati non equivale a governarne l’uso 131
L’assistente influenza ciò che vediamo 131
Un agente può esercitare un potere delegato 132
Il controllo degli Stati ha più dimensioni 132
Competere senza rinunciare al coordinamento 132
Controllare la macchina e distribuire il potere 133
La capacità di scegliere un’alternativa 133
Il futuro non ha un solo proprietario 134
Cap. 24. AGI, superintelligenza e autonomia umana 134
Che cosa significa intelligenza generale? 134
Tre dimensioni da non confondere 135
Che cosa chiameremo superintelligenza? 135
Capacità, coscienza e volontà 135
Il progresso può arrivare dal sistema completo 136
Quando l’IA aiuta a sviluppare altra IA 136
Una retroazione non garantisce un’accelerazione illimitata 136
Le curve non sono un calendario 137
Futuri diversi richiedono preparazioni diverse 137
Essere meno capaci implica perdere il controllo? 137
La capacità di scegliere gli obiettivi 138
L’abbondanza richiede anche distribuzione 138
Che cosa dovremmo chiedere a un sistema più avanzato? 139
Un futuro che comincia nelle decisioni presenti 139
Una scelta segue l’altra., la frase prende forma. 140
Questa attenzione lascia spazio alla sorpresa. 140
Lo stesso vale su scala più grande. 141
PARTE VII — APPENDICI 142
Cap. 25. Come siamo arrivati fin qui: storia dell’intelligenza artificiale 142
Alan Turing e le fondamenta del calcolo 142
La macchina di Turing, una macchina immaginaria 142
L’universalità e i limiti del calcolo 142
Bletchley Park: il calcolo incontra la storia 143
Dall’esecuzione delle istruzioni all’intelligenza 143
La possibilità di costruire macchine che apprendono 143
I primi modelli di neuroni artificiali 144
1943: il neurone incontra la logica 144
Un esempio: due condizioni per attivare una risposta 144
Una rete che calcola non è ancora una rete che impara 145
Hebb: l’esperienza può cambiare le connessioni 145
Che cosa significa davvero “ispirato al cervello” 145
Un’origine che non rendeva inevitabile il presente 146
Dartmouth 1956: un programma di ricerca prende nome 146
Dare un nome significa anche costruire una comunità 147
Il cervello era un riferimento, non un percorso obbligato 147
L’ottimismo e il problema della generalizzazione 147
Il significato duraturo di Dartmouth 148
Percettroni, simboli e primi sistemi conversazionali 148
Il percettrone: modificare le risposte attraverso gli esempi 148
I limiti di una separazione semplice 149
L’approccio simbolico: rappresentare il problema e cercare una soluzione 149
Il mondo deve entrare nella rappresentazione 149
ELIZA: il computer entra nella conversazione 150
La conversazione cambia il nostro giudizio 150
Tre strade, tre domande ancora aperte 150
Sistemi esperti e inverni dell’IA 150
DENDRAL: restringere il campo per ottenere risultati 151
MYCIN: ragionare anche con informazioni incerte 151
Dalla ricerca alla fabbrica 151
Il collo di bottiglia della conoscenza 152
Il primo inverno: quando cresce lo scetticismo 152
Il secondo inverno: il successo tecnico incontra il bilancio 152
Che cosa rimane dopo un inverno 153
Cap 26. La retropropagazione e il rilancio delle reti neurali 153
Il problema degli strati nascosti 153
Il contributo decisivo del 1986 154
Come l’errore attraversa la rete 154
Apprendere una rappresentazione 154
Cap. 27. Dai successi specialistici all’apprendimento su larga scala 156
Deep Blue: un risultato storico dentro un dominio preciso 156
Il problema diventa apprendere dai dati 156
Internet cambia la disponibilità degli esempi 157
Il linguaggio entra negli spazi numerici 157
ImageNet: costruire una risorsa comune 157
Il calcolo rende praticabili esperimenti più grandi 158
Una convergenza, non una singola invenzione 158
Cap. 28. Dartmouth 2006: cinquant’anni di promesse e risultati 159
I protagonisti tornano sul luogo delle origini 159
Anche il racconto delle origini viene rivisto 159
Risultati concreti, spiegazioni differenti 159
Il valore scientifico degli insuccessi 160
Il futuro rimaneva una domanda aperta 160
Un anniversario da leggere senza il senno di poi 160
Cap. 29. Asilomar 2009: anticipare le conseguenze dell’IA 160
Un’iniziativa della comunità scientifica 161
Perché proprio Asilomar? 161
Tra scenari estremi e problemi affrontabili 161
Il controllo come problema concreto 161
Anche il rapporto emotivo merita attenzione 162
Dall’incontro a un’osservazione continuativa 162
Due incontri da distinguere 162
Cap. 30. AlexNet 2012: l’incontro tra dati, reti profonde e GPU 163
Una competizione rende visibile il progresso 163
Il risultato del 2012 da SuperVision 163
Una rete che apprende trasformazioni successive 163
Le GPU rendono praticabile l’esperimento 164
Addestrare un modello grande richiede anche disciplina 164
Tre elementi che acquistano forza insieme 164
Una svolta nella visione, non la soluzione dell’intelligenza 165
Cap. 30. AlphaGo 2016: strategie che sorprendono gli esseri umani 165
Perché AlphaGo era una sfida particolare 165
Apprendimento e ricerca lavorano insieme 165
Dalle partite umane al gioco contro sé stesso 166
La mossa 37 166
La sorpresa cambia anche direzione 166
Che cosa significa chiamare una mossa “creativa”? 166
AlphaGo e AlphaGo Zero sono sistemi differenti 167
Una lezione oltre la scacchiera 167
Cap. 31. Asilomar 2017: i principi per un’IA benefica 167
Costruire un terreno comune 168
Una visione più ampia della sicurezza 168
Che cosa significa “benefica”? 168
Il controllo umano come scelta di delega 168
Guardare anche agli scenari di lungo periodo 169
Dai principi alle verifiche 169
Il posto di Asilomar nella storia 169
Cap. 32. Il Transformer e l’espansione dei modelli linguistici 169
L’attenzione esisteva già: cambiava la sua posizione 170
Il vantaggio del parallelismo 170
Dal modello per un compito al modello da adattare 170
BERT: utilizzare il contesto in entrambe le direzioni 171
La scala diventa una variabile sperimentale 171
GPT-3: esempi nel contesto 171
La flessibilità introduce nuove difficoltà 172
Una base tecnica per la fase successiva 172
Cap. 33. ChatGPT: l’IA conversazionale incontra il grande pubblico 172
Dal completamento del testo all’assistenza 173
Il contributo del feedback umano 173
Una capacità sperimentabile personalmente 173
I limiti erano già parte del lancio 174
Il contesto non coincide con la memoria permanente 174
Il nome del prodotto e il modello sottostante 174
Una nuova fase del rapporto con l’IA 174
Cap. 34. Dal 2023 al 2026: multimodalità, agenti e infrastrutture 175
2023: il linguaggio si collega alle immagini 175
Un ecosistema con forme diverse di accesso 175
2024: voce, immagini e tempi di interazione 176
Più calcolo prima della risposta 176
Dal testo alle azioni sul computer 176
2025: l’infrastruttura diventa parte centrale della strategia 176
L’energia entra nel bilancio 177
2026: integrare gli agenti nei processi 177
Una fase aperta 177
Cap. 34. Dal 2023 al 2026: multimodalità, agenti e infrastrutture II vers 178
La multimodalità: mettere in relazione forme diverse di informazione 178
Voce, immagini e continuità dell’interazione 178
Più contesto, senza confonderlo con la memoria 179
Collegare la generazione alle fonti 179
Il calcolo impiegato durante la risposta 180
Dalla risposta all’azione: gli agenti 180
Collegamenti comuni e ambienti di esecuzione 180
Le infrastrutture fisiche dietro l’interfaccia 181
Una diversa misura dell’affidabilità 181
Una trasformazione ancora in corso 182
Cap. 35. Principali IA disponibili
Aggiornato al 31 ottobre 226 183
Assistenti per uso generale 183
Strumenti per attività specifiche 184
Come leggere la tabella 184
Cap. 36. Figure chiave dell'intelligenza Artificiale 185
Ventinove protagonisti dell'IA 185
Loro affiliazione professionale e istituzionale 185
Cap. 37. Glossario dei termini dell’intelligenza artificiale 186
94 termini in ordine alfabetico con una breve descrizione, dai chip agli agenti. 186
.png)
.jpg)
j.jpg)
j.jpg)
a.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
.jpg)
