Uno dei miei agenti IA mi ha ripreso perché avevo sforato l'orario. Io, il direttore generale della squadra. Lo dico ridendo, perché la mattina sposto pallet. Lui però era serissimo: tempo scaduto, certe attività andavano saltate o rimandate. E già che c'era, voleva rifarmi il piano della settimana.
Un agente IA non è un chatbot (il programma che ti risponde e si ferma lì). Prende un compito e lo porta avanti da solo, un passo dopo l'altro. La differenza l'ho spiegata in Un agente IA lavora, non risponde. Là c'erano le grandi aziende. Qui c'è la mia squadra: più piccola, e con gli errori che ho visto con i miei occhi.
Quando un agente IA sbaglia, di chi è la colpa
Parto da una premessa, e la metto sempre. Per come l'ho vista io finora, quando un agente sbaglia la colpa è metà e metà.
O non sono stato chiaro io nella richiesta. O ha inventato lui: la famosa allucinazione (quando l'IA dice una cosa che non esiste, con la faccia di chi è sicuro).
Non è una statistica. È il conto che faccio a occhio sui miei errori. Sbaglia l'umano e sbaglia l'agente: chi parte convinto del contrario prima o poi ci casca.
Ti racconto un caso per parte. Comincio dal mio, che fa più ridere.
La mia metà: gli orari senza il resto
Avevo dato all'agente gli orari per organizzare la giornata. Dalle tot alle tot questo lavoro, poi quest'altro. Tutto in fila, tutto preciso.
Quello che non gli avevo scritto è come sono fatto io: flessibile. Un giorno vado lungo, un altro chiudo prima. Gli orari mi servono per orientarmi nella settimana, non per timbrare il cartellino.
Lui questo non poteva saperlo. Ha visto che ero oltre l'orario e mi ha fermato: per non superare il monte ore, certe attività andavano tolte o spostate. Ragionamento perfetto, con quello che aveva in mano. Mi mancava solo il richiamo scritto.
Gò sbaglià mì (ho sbagliato io). Un agente non entra nella tua testa: sa solo quello che gli hai scritto.
Gliel'ho fatto presente: sono flessibile, gli orari per me sono indicativi, mi servono per organizzarmi. Due righe. Dovevo scriverle all'inizio.
È come dare a uno appena arrivato il foglio dei turni e nient'altro. Lo rispetterà alla lettera. Le abitudini della casa nessuno gliele ha dette.
La sua metà: chiedo il sito, aggiunge i social
Altra volta, richiesta chiara: una manutenzione al sito. Solo al sito.
L'agente ha preparato il lavoro e ci ha messo dentro, di testa sua, anche la manutenzione dei social. Nessuno gliel'aveva chiesta.
Me ne sono accorto da un dettaglio. Mi aveva scritto un prompt (la richiesta che scrivi all'IA) da passare a un altro agente della squadra. Quell'agente si occupa del sito e conosce solo il sito. Dei social non sa niente.
Leggo la richiesta, vedo i social e mi fermo. Questo lavoro non è suo, e non l'ho ordinato io. L'ho bloccato lì. Non è stato toccato niente.
L'errore l'ho visto perché so chi fa cosa nella mia squadra. Se avessi passato quel foglio senza leggerlo, un agente che conosce solo il sito si sarebbe trovato a lavorare su cose che non conosce. E lì gli sbagli si sommano.
Non era cattiveria e nemmeno stupidità. Voleva essere utile. Ma "utile" senza che nessuno l'abbia chiesto, in un lavoro, si chiama fare di testa propria.
Cosa lascio fare da solo a un agente IA
Oggi la mia divisione è questa. Agli agenti lascio la tecnica, i conti e l'informatica.
Sono i lavori dove il controllo si fa in fretta. Il codice di una pagina funziona o non funziona. Una somma torna o non torna.
Il resto lo metto io. E il resto vuol dire: i rapporti con le persone, la verifica dei fatti, le storie degli altri, l'ultima rilettura.
Le storie degli altri un agente non le può sapere. I fatti li può sbagliare. E la rilettura è il momento in cui tolgo quello che non direi a voce.
Poi c'è una riga che vale per tutta la squadra. Nessun agente pubblica, invia o programma qualcosa al posto mio. Nessuno scrive a una persona come se fosse me. Nessuno spende soldi. L'agente prepara, la firma la metto io.
Verde, giallo, rosso
Nel libro "Ragionare con l'IA" uso tre colori. Verde: l'IA esegue da sola, perché il rischio è basso. Giallo: propone, e una persona controlla prima. Rosso: fa solo l'analisi, la decisione resta a te.
Da dove parti tu
Magari pensi che gli agenti siano roba da aziende grandi, o da informatici. Io parto da un magazzino, quindi mi metto al tuo pari.
Hai mai lasciato un biglietto a qualcuno con scritto "compra il pane"? Torni a casa e il pane c'è. Ma non è quello che volevi tu. Scommetto che ti è successo.
Ecco, allora sai già come si sbaglia con un agente IA. E sai anche come si rimedia: si scrive meglio il biglietto.
Tre cose che faccio io, e che puoi provare da domani.
Uno. Scrivi anche quello che per te è ovvio: come sei fatto, cosa è indicativo e cosa no.
Due. Decidi chi fa cosa. Se un agente prepara il lavoro per un altro, quel foglio lo leggi tu prima di passarlo.
Tre. L'ultimo passaggio tienilo per te: pubblicare, inviare, pagare.
La prossima volta che un'IA fa più di quello che avevi chiesto, o ti prende troppo alla lettera, prima di arrabbiarti rileggi il biglietto. Io ormai gli errori li colleziono così, i miei per primi.
Il metodo per usare Gemini come partner di ragionamento, non come motore di ricerca. Dentro trovi la matrice verde, giallo, rosso, un capitolo sugli agenti e i cinque errori che ho fatto io.
Scopri il libro »
Sebastiano Guglielmi
Operaio di mattina. Autore e divulgatore IA di pomeriggio.