Sai fare cose che non sai spiegare

Prova questo esercizio. Ti costa un minuto e cambia il modo in cui guarderai tutto il resto.

Squilla il telefono. È tua madre. Dice "pronto" e tu sai che è lei. Non ci pensi, non confronti, non deduci: lo sai. Mezza sillaba è bastata.

Adesso scrivi le istruzioni.

Non parlarne a parole tue: scrivi la procedura, passo per passo, in modo che possa eseguirla qualcuno che non ha mai sentito quella voce. Cosa deve misurare? L'altezza del suono? La velocità? Quanto vibra? Con quali valori decide che è lei e non tua zia?

Non ci riesci. Nessuno ci riesce.

E la cosa interessante è che questo vale per quasi tutto ciò che sai fare bene. Il fornaio guarda il pane e sa che è pronto: non ha un termometro, ha il colore. Un maestro di tennis, guardando tre palleggi, sa se quel ragazzo ha braccio. Chiedigli cosa ha visto e ti dirà "si vede". Ti sta dicendo la verità: lo sa e non lo sa spiegare.

Questa cosa qui — sapere fare senza sapere spiegare — è il punto di partenza di tutta la storia che sto per raccontarti.

Cinquant'anni a scrivere le regole

Per mezzo secolo, chi provava a far fare queste cose a un computer ha seguito l'unica strada che sembrava sensata: scrivere le regole.

È il modo in cui funziona tutto il resto del software, del resto. Un computer fa quello che qualcuno gli ha detto di fare, riga per riga. Vuoi che calcoli le buste paga? Scrivi le regole del calcolo. Vuoi che ordini una lista di nomi? Scrivi la regola dell'ordinamento. Funziona benissimo, e funziona ancora oggi per la maggior parte delle cose.

Poi si è provato con il riconoscere una voce, una faccia, una parola scritta a mano. E lì il metodo si è rotto.

Non per mancanza di intelligenza o di soldi: ci hanno lavorato le migliori università del mondo. Il problema è che quelle regole non esistono in forma scrivibile. Non è che erano difficili da trovare. Non c'erano. Tu stesso, che riconosci tua madre da mezza sillaba, non le possiedi.

Per decenni la conclusione sembrava questa: certe cose le sa fare solo un essere umano.

L'idea diversa

Poi qualcuno ha girato il problema al contrario.

Se non riusciamo a scrivere le regole, non scriviamole. Costruiamo invece una macchina piena di manopole — migliaia, milioni di manopole — che di per sé non fa niente di sensato. E poi giriamole, una per una, un pochino alla volta, finché la macchina non comincia a dare le risposte giuste.

Detta così sembra una cosa disperata. È invece l'idea che ha funzionato, ed è quella su cui oggi girano il riconoscimento vocale del tuo telefono, i traduttori, e i sistemi che rispondono alle domande scritte.

Vediamo cos'è una manopola e poi come si gira.

Prima però: un computer non vede e non sente

C'è un passaggio da chiarire, altrimenti tutto il resto sembra magia.

Un computer non sa cosa sia una faccia, una voce o un colore. Sa fare una cosa sola: conti su numeri. Quindi, prima di qualunque altra cosa, il mondo va tradotto in numeri. Non è un dettaglio tecnico: è il primo atto di tutta la faccenda.

Prendi una fotografia. Per un computer è una griglia di caselle — i pixel — e in ogni casella c'è un numero che dice quanto quella casella è chiara o scura. Zero è nero, 255 è bianco, in mezzo tutti i grigi. Una foto piccolissima, cento caselle per cento, sono diecimila numeri. Nient'altro.

Con il suono è lo stesso. Un microfono misura la pressione dell'aria migliaia di volte al secondo e produce una lunga fila di numeri. La voce di tua madre, per il computer, è quella fila. Con un testo, ogni pezzetto di parola ha un suo codice numerico.

Da qui in avanti, quindi, quando dico "cosa entra nella macchina" intendo sempre e soltanto file di numeri. Non c'è nessun momento in cui il computer "vede" qualcosa. C'è solo aritmetica su quantità enormi di cifre.

Cos'è una manopola

Immagina di dover decidere se accendere il condizionatore. Guardi tre cose: la temperatura, l'umidità, quanta gente c'è in casa.

Non contano tutte uguale. La temperatura conta molto, l'umidità un po' meno, il numero di persone poco. Ognuna ha un suo peso, e i pesi sono le manopole. Poi c'è una soglia: sotto un certo punteggio complessivo, non accendi.

Questo è un neurone artificiale. Un neurone.

Ora immaginane migliaia, collegati tra loro: le decisioni dei primi diventano le cose che guardano i secondi. Ogni collegamento ha la sua manopola. È tutto qui — non c'è niente di più sofisticato dentro. La complessità non sta nel pezzo, sta nel numero.

Nei sistemi che usi ogni giorno le manopole sono miliardi.

E una manopola, fisicamente, dov'è?

Qui bisogna essere precisi, perché è il punto in cui la spiegazione rischia di diventare una favola.

Una manopola non è un oggetto. È un numero scritto in una casella di memoria. Girarla di un pochino vuol dire cancellare quel numero e scriverne uno leggermente diverso. Non c'è nessuna parte meccanica, nessun ingranaggio: c'è una cifra sostituita da un'altra cifra.

E un numero, dentro un computer, cos'è?

È una configurazione di interruttori elettrici. Il pezzo fondamentale si chiama transistor, ed è un interruttore senza parti mobili: comandato da un impulso elettrico, lascia passare corrente o la blocca. Passa corrente, oppure no. Uno, oppure zero. Solo questo.

Mettine otto in fila e le combinazioni di acceso e spento diventano 256: abbastanza per rappresentare un numero da 0 a 255, cioè il grigio di una casella della fotografia di prima. Mettine miliardi e hai il chip che stai usando per leggere questa pagina.

Quindi, ricomponendo la catena senza salti:

• La foto di una faccia è una griglia di numeri
• Ogni numero è una configurazione di interruttori aperti e chiusi
• Ogni interruttore è un impulso elettrico che passa o non passa
• Le manopole della macchina sono altri numeri, in altre caselle, fatti della stessa cosa
• Far funzionare la macchina significa moltiplicare e sommare tutti quei numeri
• Moltiplicare e sommare, per un computer, significa far passare corrente attraverso miliardi di interruttori in una sequenza precisa

Non c'è nessun altro strato. Sotto non si nasconde niente. Il "ragionamento" di cui si sente parlare è questo: elettricità che attraversa silicio secondo uno schema, tante volte al secondo.

E c'è una conferma che si vede a occhio, se ti serve una prova che non sia teorica: queste macchine consumano una quantità enorme di corrente e scaldano. I centri di calcolo dove si addestrano hanno bollette elettriche da città medie e impianti di raffreddamento industriali. Se fosse pensiero, non servirebbe l'acqua fredda. Serve perché sono miliardi di miliardi di moltiplicazioni, e ogni moltiplicazione è corrente che scorre e dissipa calore.

Chi ti dice che dentro c'è qualcosa di misterioso ti sta raccontando una storia. Chi ti dice che è "solo aritmetica" ti sta dicendo la verità — e la cosa sorprendente, quella per cui vale la pena leggere il resto, è che tanta aritmetica banale, messa insieme nel modo giusto, produce comportamenti che non ci aspettavamo.

Ora la domanda vera: chi ha girato quelle manopole?

Nessuno. E qui entra il tennis

Pensa a come hai imparato il rovescio.

Il maestro non ti ha spiegato la fisica. Non ti ha dato l'angolo del piatto corde in gradi, né la velocità dell'anca in metri al secondo. Ti ha messo in campo e ti ha detto: lungo. Ancora lungo. In rete. Fuori di poco. Ecco, quello.

Tu aggiustavi. Non sapevi cosa stavi aggiustando — non pensavi "riduco l'apertura del piatto di tre gradi". Sentivi che qualcosa era troppo e lo toglievi un po'. Poi ripetevi. Cinquecento palle, mille palle, cinquemila palle.

E alla fine il colpo veniva.

Fermati un attimo su cosa è successo davvero, perché è il cuore di tutto:

• Non hai imparato la regola. Ancora oggi non sai scrivere le istruzioni del tuo rovescio.
• Hai imparato dagli errori, non dalle spiegazioni.
• Ti serviva solo un segnale: lungo o corto, dentro o fuori. Non serviva sapere perché.
• Le correzioni erano piccole. Se a ogni palla avessi cambiato tutto, non avresti imparato niente: avresti solo oscillato tra due errori opposti.
• Ci sono volute migliaia di ripetizioni.

Una rete neurale impara esattamente così. Non è una somiglianza poetica: è lo stesso meccanismo.

Le si mostrano milioni di esempi di cui la risposta giusta è già nota. Per ognuno, la macchina prova. Si misura di quanto ha sbagliato. E si girano tutte le manopole di un pochino, nella direzione che avrebbe ridotto l'errore.

Milioni di volte. Come le tue palle in campo, ma con la pazienza di una macchina.

Chi dice "lungo"?

Nel tennis il segnale d'errore ce lo dà il maestro, o il campo. Ma se la macchina deve imparare a scrivere, chi le dice che ha sbagliato?

La risposta è la cosa più elegante di tutta la storia: glielo dice il testo stesso.

Prendi una frase qualsiasi, da un libro, da un giornale, da una pagina web:

La domenica mattina mio nonno andava sempre al…

Copri la parola successiva. Chiedi alla macchina di indovinarla. Poi scopri la parola vera — era mercato — e misuri di quanto ha sbagliato. Correggi le manopole di un pochino.

Ripeti. Non con mille frasi: con miliardi. Su un pezzo enorme del testo scritto disponibile al mondo. Ogni singola parola di ogni singola frase diventa un esercizio con la risposta già in fondo alla pagina.

Questo è tutto l'allenamento. Nessuno ha insegnato la grammatica, la storia o la geografia. C'è stato un unico esercizio, indovinare il pezzo successivo, ripetuto un numero di volte che non ha senso intuitivo. Ed è dentro quell'esercizio che sono finite, come effetto collaterale, la grammatica, la storia e la geografia: perché per indovinare bene "la capitale della Francia è…" devi aver assorbito qualcosa che assomiglia a saperlo.

Non serve più il maestro. Il testo è il maestro, e ce n'è a tonnellate.

Come sceglie una parola, passo per passo

Ora la parte concreta: cosa succede davvero quando scrivi una domanda e arriva una risposta. Sono cinque passaggi, e nessuno è misterioso.

Primo: il testo si spezza in pezzi.

Non in parole: in pezzi. Le parole comuni restano intere, quelle rare si spaccano. La frase "il progetto è incomprensibile" diventa più o meno:

il · progetto · è · inc · ompre · nsibile

Ogni pezzo ha un numero identificativo, come un codice a barre. Ce ne sono circa centomila diversi in tutto, e con quei centomila si scrive qualunque cosa in qualunque lingua — al peggio lettera per lettera.

Secondo: ogni pezzo diventa una posizione.

A ogni pezzo corrisponde una lunga fila di numeri — qualche migliaio — che è una specie di indirizzo. Non un indirizzo su una mappa a due dimensioni, ma in uno spazio con migliaia di direzioni, che nessuno può disegnare ma che funziona con le stesse regole: ci sono punti vicini e punti lontani.

E qui c'è il primo fatto sorprendente, che è verificabile, non poetico: dopo l'allenamento, le parole con significati simili si ritrovano vicine. Cane e gatto stanno vicini. Cane e frigorifero stanno lontani. Nessuno l'ha programmato: succede perché parole che compaiono negli stessi contesti finiscono per ricevere correzioni simili, e quindi scivolano verso la stessa zona.

E c'è un secondo fatto, ancora più strano, che chiunque può controllare con gli strumenti pubblici: le direzioni hanno un significato. Se prendi l'indirizzo di re, sottrai quello di uomo e aggiungi quello di donna, arrivi vicinissimo a regina. Se fai la stessa cosa con Italia, Roma e Francia, arrivi vicino a Parigi. La differenza tra maschile e femminile, e la relazione "capitale di", sono diventate spostamenti geometrici dentro quello spazio.

Non è una metafora. Sono sottrazioni tra file di numeri, e i risultati si possono stampare.

Terzo: il contesto sposta le posizioni.

Il problema è che l'indirizzo fisso non basta. Guarda queste due frasi:

Ho colto una pesca dall'albero

Domani andiamo a pesca sul lago

Stessa parola, stesso indirizzo di partenza, due significati che non c'entrano niente.

Allora la macchina fa un passaggio in più. Ogni pezzo "guarda" tutti gli altri pezzi presenti nel testo e si sposta in base a quelli che gli sono rilevanti. Pesca accanto a colto e albero scivola verso la zona della frutta. Pesca accanto a lago scivola verso quella delle canne e degli ami.

Come fa a sapere quali sono rilevanti? Con altre manopole. Per ogni pezzo la macchina calcola, usando tre gruppi di numeri appresi, quanto quel pezzo è interessato a ciascuno degli altri. Ne esce un peso per ogni coppia: pesca riceve molta influenza da albero, quasi nessuna da ho e da una.

Questo spostamento non avviene una volta. Avviene decine di volte di seguito, in strati sovrapposti, e a ogni giro le posizioni diventano più precise. Nei primi giri si sistema la grammatica; negli ultimi, cose molto più astratte.

Quarto: un punteggio per ogni parola possibile.

Alla fine di tutta questa elaborazione, la macchina fa la cosa per cui è stata allenata: produce un punteggio per ognuno dei centomila pezzi possibili. Non scegliere una parola: dare un voto a tutte, contemporaneamente.

Quei centomila punteggi vengono poi trasformati in percentuali che sommano a cento. Prendi la frase:

Il gatto è salito sul…

Questi numeri non sono un'opinione della macchina. Sono il risultato di miliardi di moltiplicazioni fatte sulle posizioni spostate dal contesto. La stessa frase, con le stesse manopole, dà sempre esattamente le stesse percentuali.

Quinto: pesca una, e ricomincia da zero.

Adesso bisogna scegliere. E il punto è che non prende sempre la più alta. Se lo facesse, alla stessa domanda risponderebbe sempre con le stesse parole identiche, e i testi risulterebbero rigidi e ripetitivi.

Quindi pesca a sorte, ma con un sorteggio truccato: tetto ha 31 possibilità su 100 di uscire, letto 22, frigorifero praticamente zero. Quanto sia truccato il sorteggio è una manopola che si può regolare da fuori: strizzata verso la sicurezza, esce sempre la parola più probabile; allargata, escono continuazioni più inattese.

È questa la ragione per cui, se fai due volte la stessa domanda, non ricevi la stessa risposta. Non è capriccio e non è memoria: è un dado truccato che viene tirato ogni volta.

E poi — questa è la parte che quasi nessuno immagina — la parola scelta viene attaccata in fondo al testo, e tutto il procedimento riparte dall'inizio. Spezzatura, posizioni, spostamenti dal contesto, centomila punteggi, sorteggio. Per la parola successiva. E per quella dopo.

Una parola alla volta, senza sapere come finirà la frase. Non c'è nessun momento in cui la macchina pianifica il discorso, decide la conclusione e poi la scrive. Ogni parola è una scommessa nuova, fatta guardando solo quello che c'è già.

Perché a volte si inventa le cose

Rileggi i cinque passaggi e cerca il punto in cui la macchina controlla se quello che sta dicendo è vero.

Non c'è.

In nessun passaggio esiste un confronto con la realtà, un archivio consultato, una verifica. C'è una sola domanda ripetuta migliaia di volte: qual è il pezzo che più probabilmente viene dopo? E "probabile" significa una cosa precisa: somigliante al testo su cui si è allenata.

Adesso mettiti nei suoi panni davanti a una frase come questa:

Nella sentenza della Cassazione numero…

Nei miliardi di frasi che ha letto, dopo quelle parole veniva sempre un numero, poi una data, poi un principio giuridico. La forma è chiarissima. Il contenuto specifico, per quel caso, non ce l'ha. Ma il meccanismo non ha un tasto per dire "non lo so": ha solo centomila punteggi e un dado. Quindi produce un numero plausibile, una data plausibile, un principio plausibile.

Ne esce una frase perfetta e falsa.

Non è un guasto. È il meccanismo che funziona come è fatto. Una macchina allenata a produrre continuazioni verosimili produce continuazioni verosimili, e la verosimiglianza e la verità coincidono spesso ma non sempre. Dove i dati erano molti e concordi, ci prende quasi sempre. Sui dettagli precisi, rari, recenti o verificabili — numeri, nomi, citazioni, riferimenti — è esattamente dove il meccanismo ti lascia solo.

La regola pratica che ne segue è secca: le cose che devono essere vere si controllano altrove. Non perché la macchina sia inaffidabile per un difetto di fabbricazione, ma perché controllare non fa parte di quello che fa.

Il prezzo di questo modo di imparare

Alla fine funziona. Ma c'è un prezzo, e non è un difetto da correggere: è la conseguenza inevitabile del metodo.

La macchina non sa dire perché.

Dentro non c'è una regola scritta. Ci sono miliardi di manopole in una certa posizione, arrivate lì per correzioni successive. Nessuno le ha scelte. Nessuno le può rileggere. Non esiste il foglio con le istruzioni, perché non è mai stato scritto.

Ed è esattamente la tua condizione con il rovescio, e con la voce di tua madre al telefono.

Sai fare, non sai spiegare. Abbiamo costruito macchine che imparano come impariamo noi, e hanno ereditato il nostro limite insieme alla nostra abilità.

C'è qualcosa di onesto in questo, e vale la pena tenerlo presente la prossima volta che qualcuno ti dice che l'intelligenza artificiale è una scatola nera con tono di sospetto. Non è nascosto niente. È che certe abilità, per come si acquisiscono, non vengono con le istruzioni allegate.

Tre cose da sapere, e basta

Se di tutto questo ti resta solo questa parte, hai già il novanta per cento di quello che serve.

Sbaglia in modo strano, non in modo stupido. Un programma normale sbaglia sempre allo stesso modo: c'è un errore nella regola, salta fuori ogni volta. Una macchina che ha imparato per correzioni sbaglia a macchia di leopardo — perfetta su mille casi, inspiegabilmente fuori sul millesimoprimo. Come il tuo rovescio nel giorno in cui non entra: non è che hai dimenticato come si fa, è che quel giorno non viene. Con queste macchine non ti puoi fidare di aver capito il perimetro dell'errore solo perché per un po' ha funzionato.

Eredita gli esempi che ha visto, compresi gli errori. Se il maestro ti ha insegnato un rovescio con una presa sbagliata, quello ti resta addosso per anni. Se una macchina ha imparato da esempi sbilanciati, parziali o classificati male da qualcuno che aveva fretta, quello sbilanciamento è finito nelle manopole e non si vede. Non c'è un modo di guardarla e accorgersene. Le si può solo far fare delle prove.

"Quanto è brava" ha senso solo su prove nuove. Questa è la più importante, e la si capisce meglio da tennisti che da informatici.

Uno che tira contro il muro per due ore può sembrare bravissimo. Sempre la stessa altezza, sempre lo stesso rimbalzo, sempre lo stesso ritmo. Poi lo metti in partita con uno che non ha mai visto e non prende una palla.

Con queste macchine è identico. Se qualcuno ti dice che il sistema è preciso al novantaquattro per cento, l'unica domanda che conta è: misurato su cosa? Se è misurato sugli stessi esempi con cui ha imparato, non stai vedendo la partita. Stai vedendo il muro.

Una macchina che ha memorizzato gli esempi invece di imparare la sostanza dà risultati splendidi sul materiale di allenamento e crolla appena esce. È un fenomeno noto, con un nome tecnico che non ti serve, e ha un solo antidoto: si giudica solo su casi che non hanno partecipato all'allenamento.

Vale per il tennis. Vale per gli esami. Vale per le macchine.

Non è un cervello, non è un programma

Ecco dove siamo.

Non è un programma, perché nessuno ha scritto le regole di quello che fa. Non è un cervello, perché è corrente elettrica che attraversa interruttori di silicio, e non c'è niente sotto quello strato.

È una terza cosa: un'abilità costruita per correzioni, come si costruisce un colpo di tennis. Molto brava dove ha fatto migliaia di ripetizioni. Fragile dove non ne ha fatte. Incapace di spiegarsi, esattamente come te.

Se qualcuno la chiama magia, ricordati la bolletta della luce. Se qualcuno la chiama "solo un programma", ricordati che nessuno ne ha scritto le regole. Sta scomoda in entrambe le caselle, e questo è il motivo per cui vale la pena averne una propria.

Se ti tieni questa immagine invece di quella del robot che pensa, hai in mano lo strumento giusto per capire quasi tutto quello che sentirai dire nei prossimi anni.

Per chi vuole andare a fondo, il riferimento migliore che esista sono i video del canale 3Blue1Brown di Grant Sanderson: spiegano la matematica di tutto questo con una chiarezza che non ho visto altrove. Questo articolo prende la strada opposta — nessuna matematica, solo l'idea.