Che cosa cambia, esattamente
Un assistente produce testo, e tu decidi che farne. Un agente ha in più due cose: può usare strumenti — leggere sistemi, aprire attività, mandare messaggi — e può decidere da solo quando usarli. Il salto non è di intelligenza: è di conseguenze.
La terza riga è quella che merita attenzione, perché non è tecnica. Quando concedi a un agente il permesso di accedere alla tua posta, al tuo calendario o a un sistema aziendale, le azioni che compie sono compiute a tuo nome. Non c'è nessun soggetto terzo a cui attribuirle: c'è un software che ha eseguito il mandato che gli hai dato tu.
Il meccanismo non è cambiato
Vale la pena ricordare che sotto c'è la stessa macchina delle pagine precedenti. Un agente non ha acquisito una facoltà di giudizio: continua a produrre la continuazione più verosimile di un testo. Solo che adesso quella continuazione, invece di comparire sullo schermo, può essere eseguita.
Quindi tutto quello che sai vale ancora, e pesa di più. Non ha un modo di dire «non lo so». Non distingue ciò che sa da ciò che gli sembra plausibile. Non ricorda che ieri quella cosa era andata male. E se non trova l'informazione che gli serve, non si ferma: completa.
La soglia: che cosa può fare da solo
La domanda giusta non è quanto sia capace, ma dove passa il confine fra quello che può fare da solo e quello per cui deve fermarsi e chiedere. Il criterio non è la difficoltà: è la reversibilità.
Chi progetta questi sistemi per un'organizzazione trova lo stesso ragionamento, con la governance che ne consegue, nel caso su processi e workflow e nella micro-lezione su chatbot, copilota e agente. Qui basta il criterio.
Il rischio meno evidente: la conferma automatica
Molti agenti chiedono conferma prima di agire, e questo sembra risolvere il problema. Fino a un certo punto.
Un sistema che ha ragione novantacinque volte su cento è precisamente quello che insegna a smettere di guardare. Dopo tre settimane di «conferma» premuto senza leggere, la soglia di controllo esiste sulla carta e non nei fatti — e quando arriva la volta sbagliata, la conferma arriva insieme.
Non c'è una soluzione tecnica. C'è una domanda da farsi ogni tanto, onestamente: nell'ultimo mese, quante volte ho detto no? Se la risposta è zero, non stai controllando.
Che cosa chiedere prima di dare un permesso
- Che cosa può fare, esattamente. Se la risposta è «accede alla posta», non basta: leggere o anche inviare?
- Che cosa succede se sbaglia. Si annulla? Qualcuno se ne accorge? Rimane una traccia di che cosa ha fatto e perché?
- Come lo fermo. Dove si spegne, e posso farlo io senza chiedere a nessuno.
- A nome di chi agisce. Chi vede il destinatario di un messaggio partito da lì: il sistema, o tu.
Che cosa cambia per te
- Concedi permessi per fascia, non in blocco. Leggere è quasi sempre sicuro, scrivere quasi mai.
- Diffida della comodità che elimina la revisione. Il valore di un agente è il tempo che ti restituisce; se lo ottiene togliendoti la possibilità di guardare, non te lo ha restituito, te lo ha anticipato.
- Contati i «no». È l'unico indicatore semplice che dice se una soglia di controllo è viva o è diventata un rituale.