Il copione si ripete con una regolarità che ormai è diagnostica. Un'azienda decide di introdurre agenti AI, sceglie una piattaforma, avvia un progetto pilota su un processo scelto perché sembrava semplice, ottiene una demo che funziona e poi si arena nel passaggio in produzione. La causa quasi mai è tecnica.
L'errore di impostazione è partire dalla tecnologia. La domanda iniziale diventa quale strumento adottare, quando dovrebbe essere quali decisioni vengono prese oggi in azienda, da chi, sulla base di quali informazioni e con quale margine di errore accettabile. Un agente automatizza una decisione: se la decisione non è compresa, l'agente automatizza confusione.
L'assessment dei processi che serve è meno glamour di un proof of concept ma molto più predittivo. Significa ricostruire il flusso reale, non quello documentato, individuare dove il tempo si perde davvero, capire quali passaggi richiedono giudizio e quali sono meccanici, e identificare i punti in cui un errore ha conseguenze recuperabili.
Da questo lavoro emerge quasi sempre una sorpresa: i processi che sembravano candidati ideali sono pieni di eccezioni non documentate, mentre attività considerate marginali risultano perfettamente automatizzabili e ad alto volume. È la ragione per cui i pilot scelti d'istinto falliscono e quelli scelti dopo l'analisi reggono.
C'è poi una condizione organizzativa che nessuna tecnologia sostituisce: qualcuno deve rispondere degli esiti dell'agente. Finché la responsabilità resta indefinita, ogni output ambiguo genera un rimpallo e il sistema viene progressivamente aggirato dalle persone, fino a essere abbandonato in silenzio.