Gli errori più comuni quando si introduce l'AI in azienda

Un'azienda ci ha raccontato di aver comprato un software di AI per "migliorare il customer service". Sei mesi dopo, lo strumento era ancora sottoutilizzato, i dipendenti si lamentavano che complicava il lavoro invece di semplificarlo, e nessuno riusciva a spiegare cosa fosse cambiato in meglio. Il software funzionava perfettamente. Il problema era iniziato molto prima di installarlo: nessuno aveva mai definito cosa significasse davvero "migliorare il customer service" in numeri concreti.

Questo è il pattern che vediamo più spesso quando un progetto AI si arena. Non è un problema tecnico. È un problema organizzativo, e nella maggior parte dei casi si riconduce a uno di questi errori.

Comprare un tool prima di aver definito il problema che deve risolvere porta quasi sempre a delusioni. "Vogliamo usare l'AI per il customer service" non dice se l'obiettivo è ridurre i tempi di risposta, far gestire al sistema una quota di ticket senza intervento umano, o riordinare le richieste per urgenza. Ogni strumento sul mercato risolve bene un problema specifico e male gli altri, e senza aver scelto il problema in anticipo, la scelta dello strumento è quasi casuale.

La sequenza che funziona è inversa a quella istintiva: prima il numero che si vuole cambiare (dai 48 alle 4 ore di risposta media, per esempio), poi la ricerca dello strumento che effettivamente porta a quel numero.

Un sistema che impara da un processo di selezione del personale sbilanciato verso certe università o certe città non correggerà quello sbilanciamento: lo riprodurrà, più velocemente e su scala più ampia. Lo stesso vale per il pricing: se i dati storici mostrano che alcuni clienti pagano sistematicamente più di altri a parità di condizioni, un algoritmo che impara da quei dati manterrà lo squilibrio, semplicemente rendendolo automatico invece che occasionale.

L'intelligenza artificiale non introduce neutralità in un processo che prima non l'aveva. Fotografa quello che c'è già. La domanda da farsi prima di automatizzare qualcosa non è se lo strumento sia buono, ma se il processo che sta per essere automatizzato meriti davvero di essere replicato più velocemente.

"Stiamo solo sperimentando, non è ancora in produzione" è una frase che spesso maschera l'assenza di qualunque traccia scritta su cosa si è fatto con dati reali. Ma se un esperimento tocca dati di clienti veri, anche solo per testare la fattibilità di un'idea, quella scelta merita almeno una riga di documentazione: cosa si è testato, su quali dati, quando si è concluso il test.

Non serve un rapporto formale per ogni prova. Serve che, se qualcuno chiede tra un anno "cosa avete fatto con quei dati", la risposta non sia "avevamo due notebook con del codice, ma non ricordiamo bene".

Pagare per un sistema AI non trasferisce automaticamente la responsabilità di come viene usato. Il fornitore risponde di quello che ha costruito. Chi lo usa risponde delle decisioni prese con quello strumento, comprese quelle di continuare a usarlo dopo aver scoperto un problema.

Vale la pena leggere il contratto con attenzione, non solo la parte tecnica: chi è responsabile se il sistema discrimina, se sbaglia, se un dato personale finisce dove non doveva. Se un fornitore risponde che il funzionamento interno del modello è un segreto anche per loro, quello è un segnale da prendere sul serio prima di usarlo per decisioni che contano.

Quando un sistema modifica l'esito di un processo aziendale e nessuno lo ha comunicato internamente, la prima persona ad accorgersene spesso è il cliente, che chiede spiegazioni a un dipendente che non sa cosa rispondere perché non sapeva che l'AI fosse coinvolta.

Basta poco per evitarlo: una comunicazione semplice, del tipo "da oggi un sistema calcola automaticamente la priorità degli ordini; se qualcosa non vi convince, parlatene con il responsabile". Chi lavora con un processo reagisce bene quando sa cosa sta succedendo, e reagisce male quando lo scopre dopo, magari davanti a un cliente.

Nessuno di questi cinque punti riguarda la tecnologia in sé. Riguardano il fatto di non aver chiarito il problema, di non aver controllato i dati di partenza, di non aver lasciato traccia delle decisioni, di non aver capito chi risponde di cosa, di non aver comunicato con chi lavora ogni giorno con quel processo.

Evitarli non richiede competenze tecniche avanzate. Richiede che qualcuno, prima di premere "avvia", si sia fatto le domande giuste e abbia scritto le risposte da qualche parte.