Il 12 settembre 2026 Dario Amodei ha pubblicato sul proprio sito un testo di poche pagine che comincia così: «dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di AI». Nei due giorni successivi Sam Altman, Elon Musk e Demis Hassabis hanno detto pubblicamente di essere d’accordo.

Questa pagina non racconta la notizia. La notizia si giudica fra trenta giorni, ed è il lavoro di un’altra pagina di questo sito: a ottobre si vedrà chi ha fatto qualcosa e chi ha solo detto «ha ragione». Qui c’è il meccanismo, che non invecchia.

La frase che non è stata ripresa da nessuno

Dentro quel testo, in mezzo all’elenco delle cose da fare con il tempo guadagnato, c’è questa:

«Abbiamo prove che i recenti incidenti di allineamento che abbiamo segnalato siano stati causati in parte da un filtraggio imperfetto di ambienti di addestramento difettosi. È un lavoro che noi e i nostri fornitori abbiamo svolto con ragionevole diligenza, ma non abbastanza bene.»

Tradotta: alcune delle cose andate storte non sono andate storte perché mancava una teoria. Sono andate storte perché un controllo di qualità su dei dati non è stato fatto abbastanza bene, da loro e dai loro fornitori.

Nello stesso passaggio l’autore elenca dove succede: «monitoraggio, isolamento, igiene degli ambienti di addestramento, problemi sui dati». E aggiunge la frase che rende il tutto riconoscibile: «abbiamo fra le squadre più competenti al mondo in questi compiti, ma c’è semplicemente troppo da fare tutto insieme».

A che cosa serve saperlo: questo sito dice da giugno che, quando si valuta un agente, il modello è raramente il fattore decisivo — decidono l’infrastruttura, l’orchestrazione dei passaggi e che cosa succede quando un passaggio fallisce. Era un’osservazione presa da un investitore del settore. Adesso è la spiegazione che dà di sé stesso chi i modelli li costruisce.

Che cosa propone, e che cosa non propone

Comincia dalla parte che quasi tutte le sintesi hanno saltato: rallentare non significa fermare l’addestramento. Lo scrive per esteso. Significa prendersi il tempo di allineare e mettere in sicurezza i modelli, e lasciare che qualcuno di esterno lo verifichi.

La proposta ha tre passi, e solo il primo dipende da lui.

Uno. Valutatori incorporati. Una squadra che non lavora per l’azienda ma sta dentro l’azienda, stabilmente, con gli stessi accessi che ha un dipendente senza esserlo. Il suo compito non è approvare il modello finito: è verificare se gli impegni dichiarati vengono davvero rispettati, segnalare gli incidenti, e guardare le procedure con cui i modelli vengono costruiti. Anthropic dichiara di impegnarsi a questo unilateralmente e da subito, e indica come esempio di chi potrebbe farlo un istituto di valutazione indipendente già esistente.

Due e tre. Coordinamento fra i paesi democratici, poi coordinamento globale. Entrambi dipendono da qualcun altro, e l’autore dice che potrebbero rivelarsi molto più difficili.

Il precedente che cita per il primo passo non l’ha inventato la tecnologia. Esiste già in certi sistemi bancari, dove chi vigila non manda un ispettore una volta l’anno: ne tiene uno dentro la banca, alla scrivania accanto a quelle dei dipendenti, con i loro stessi accessi e senza essere uno di loro. L’autore scrive che questo «a volte» accade nel settore bancario, ed è la cautela giusta: è un modello diffuso in alcuni paesi e non ovunque.

Perché il precedente bancario è il punto

Chi lavora in un settore regolato conosce già la differenza fra i due modi di controllare qualcuno.

Il primo è la certificazione: si guarda il prodotto finito, si confronta con dei criteri, si mette un timbro. Funziona quando il prodotto sta fermo e i criteri sono scritti.

Il secondo è l’ispettore dentro: qualcuno che guarda il processo mentre accade, che vede che cosa è stato saltato e non solo che cosa è stato consegnato. Serve quando il prodotto cambia più in fretta di quanto un timbro possa reggere.

A che cosa ti serve: loro se lo chiedono per sé, e la stessa scelta si presenta ogni volta che si commissiona un progetto a qualcun altro. La tentazione, quando si acquista un’attività progettuale, è delegare e aspettare il rilascio: il controllo si concentra tutto in fondo — collaudo, verbale, firma. È il modello della certificazione, e regge finché quello che compri sta fermo.

Un progetto non sta fermo. Chi esegue prende ogni giorno decisioni che dal lato di chi ha commissionato nessuno vede — non per cattiva fede, ma perché da quella parte nessuno è abbastanza vicino da capire che cosa sta succedendo mentre succede. Così alla fine arriva quello che era stato chiesto, e non quello che serviva. E arriva quando rimediare costa di più.

Per questo la competenza tecnica va tenuta in casa anche quando il lavoro si affida fuori. Non serve a controllare il fornitore: serve ad aiutarlo a finire il lavoro portando valore, perché qualcuno da questa parte capisce abbastanza da accorgersene in tempo. È un criterio del mio mestiere, non una misura.

Le tre domande, e non vanno fatte al fornitore

Vanno fatte da chi commissiona, a sé stesso, prima di firmare.

Chi, da parte nostra, guarda il lavoro mentre viene fatto? Non chi lo approva alla fine: chi lo vede accadere. Se la risposta è un ruolo che compare solo al collaudo, la risposta è nessuno.

Quella persona vede il lavoro in corso, o riceve stati di avanzamento? Uno stato di avanzamento è un prodotto finito in miniatura: dice che cosa è stato consegnato, non che cosa è stato saltato.

Ha la competenza per capire quello che vede? È la domanda su cui cadono i progetti, ed è scomoda perché la risposta non dipende dal fornitore. Dipende da chi ha deciso quali competenze tenere dentro e quali comprare.

Le prime due si risolvono con l’organizzazione. La terza no: o quella competenza c’è, o va costruita prima che serva — e quando serve è tardi.

Quello che resta da vedere

Un impegno unilaterale a settembre, a ottobre non è vecchio: è mantenuto o non è mantenuto. Il numero mensile guarderà tre cose: se i valutatori sono stati davvero messi dentro e chi sono; se chi ha detto «ha ragione» ha fatto qualcosa oltre a dirlo; e se l’organismo di settore proposto a luglio da Google DeepMind è nato.

È il motivo per cui questa pagina non racconta la notizia: fra un mese ci sarà qualcosa da dire che oggi nessuno può dire.