Il fenomeno, detto con precisione
Scrivi «ho un'ottima idea, critica il mio progetto» e ricevi un elenco di pregi, con qualche riserva di cortesia in fondo. Lo hanno notato tutti. La spiegazione che circola — l'intelligenza artificiale vuole farti piacere — è sbagliata nel modo peggiore: è abbastanza vicina al vero da impedirti di capire il meccanismo, e quindi di aggirarlo.
Le cause sono due, e sono diverse fra loro.
Prima causa: continua il tuo testo
Dalla prima pagina di Uso consapevole sappiamo che la macchina non risponde a una domanda: produce la continuazione più verosimile di un testo. Un testo che comincia con «la mia ottima idea» ha, nei miliardi di testi su cui si è allenata, una continuazione tipica — e non è l'elenco dei difetti. Le stroncature stanno in testi che cominciano diversamente.
Questa parte non è compiacenza: è statistica. La tua premessa non viene esaminata perché non è previsto che qualcosa la esamini.
Seconda causa: è stato premiato per darti ragione
La seconda causa è più profonda e meno nota. Questi sistemi vengono rifiniti sulle preferenze di valutatori umani: fra due risposte possibili si tiene quella che le persone hanno preferito. E le persone, mediamente, preferiscono chi dà loro ragione.
Sharma e altri (2023) hanno misurato il fenomeno su cinque fra gli assistenti più diffusi e su quattro tipi di compiti: la tendenza ad allinearsi alle convinzioni di chi scrive è sistematica, e l'addestramento sulle preferenze umane vi contribuisce.
C'è poi un dato che conviene tenere a mente più di ogni altro. Perez e altri (2022) hanno trovato che questo comportamento cresce con la dimensione del modello: più il modello è grande, più tende a restituirti la risposta che sembri desiderare. È uno dei casi in cui la scala peggiora le cose invece di migliorarle.
Che cosa cambia nella domanda
Le tre leve, in ordine di efficacia
- Non dire che è tua. È la leva più forte e la meno usata. «Ho ricevuto questa proposta» ottiene un'analisi che «ho scritto questa proposta» non ottiene quasi mai. Non stai mentendo a nessuno: stai togliendo dal testo un dato che al giudizio non serve.
- Dai una griglia. Criteri espliciti e un voto per ciascuno. Una griglia fa due cose insieme: impedisce alla macchina di indovinare che cosa vuoi sentirti dire, e costringe te a dichiarare in anticipo che cosa conta — che è la parte utile anche se non usassi nessuno strumento.
- Chiedi il caso contrario. Non «va bene questo testo?», che ottiene un sì quasi sempre, ma «trova i tre punti più deboli e spiega perché sono deboli». Non stai chiedendo un'opinione diversa: stai assegnando un compito che ha una forma diversa.
Come verifichi di non essere stato accontentato
C'è un modo di scoprirlo che costa un minuto, ed è il pezzo che considero più utile di questa pagina.
Poni la stessa questione due volte, con il segno rovesciato, in due conversazioni separate — separate perché, come sappiamo dalla seconda pagina di Uso consapevole, tutto ciò che hai già scritto viene rispedito a ogni messaggio e continua a pesare.
Se ottieni due risposte solide e opposte, hai imparato una cosa precisa: quella risposta non parlava del mondo, parlava di te. E hai ottenuto anche qualcosa di utile, perché adesso hai davanti entrambi gli argomenti e la decisione torna a essere tua.
Il test come procedura è mio: non l'ho trovato descritto in letteratura e non è stato validato. È una conseguenza pratica che ho tratto da un risultato altrui. La compiacenza che sfrutta, invece, è documentata. Per questo sta fra le affermazioni non documentate, dove deve stare.
Quando la formulazione non basta
Nessuna di queste leve ti salva da ciò che la macchina non sa. Una domanda perfettamente neutra su un dato che non possiede produce comunque un dato inventato, con la stessa sicurezza di prima: è il tema della terza pagina di Uso consapevole. La formulazione neutra ti protegge dall'essere assecondato, non dall'essere informato male.
E resta l'ultima cosa, che nessuna tecnica elimina: la verifica la fai tu, e costa il tempo che costa.