Scena 1 di 7
Micro-lezione visuale · Tappa 09 di 10 · 7–9 minuti
Dove stanno i fatti
In quale parte della rete finisce ciò che sembra sapere, e perché è così difficile trovarlo.
Fin qui abbiamo visto come una macchina impara e come il contesto sposta il significato delle parole. Resta la domanda più concreta di tutte, quella che conta quando si valuta uno di questi strumenti per un uso professionale: quando risponde che Manzoni ha scritto i Promessi Sposi, dove sta scritto? E, soprattutto: si può andare a controllare?
Come usare questa lezione
Perché ai sistemi seri si danno i documenti.
Questa tappa spiega il fondamento tecnico di una scelta progettuale che vale la pena riconoscere: i sistemi costruiti bene non si affidano a ciò che il modello ricorda. Gli mettono davanti i documenti veri al momento della domanda, e gli chiedono di rispondere su quelli, citandoli.
Non è diffidenza generica. È che la memoria interna di un modello non è consultabile, non è correggibile e non distingue ciò che sa da ciò che gli sembra plausibile. Un archivio documentale, invece, si può aggiornare, verificare e mostrare a chi chiede conto della risposta.
È il tema della voce RAG e fonti, e il motivo per cui in questo sito le evidenze stanno accanto all'intelligenza aumentata e non dopo.
Questa lezione copre gli stessi concetti del settimo capitolo della serie Neural networks di Grant Sanderson (3Blue1Brown), che resta il riferimento migliore per chi voglia poi affrontarne la matematica. Testi, esempi e diagrammi di questa pagina sono originali.
Fonti di questa pagina
- Geva e altri — Transformer Feed-Forward Layers Are Key-Value Memories (2021)
- Meng, Bau e altri — Locating and Editing Factual Associations in GPT (2022)
- Elhage, Olah e altri — Toy Models of Superposition (2022)
- Johnson, Lindenstrauss — lemma sulle direzioni quasi perpendicolari (1984)
- Ji e altri — Survey of Hallucination in Natural Language Generation (2023)
- Grant Sanderson — Neural Networks, 3Blue1Brown