Il rischio più comune nell'adozione dell'AI generativa non è il modello che allucina: è il dipendente che incolla in un servizio pubblico un documento che non doveva uscire dall'azienda. Contratti, listini, progetti, dati di clienti, codice sorgente. Accade quotidianamente, quasi sempre in buona fede, per fare più in fretta.
Il danno ha due dimensioni. La prima è la protezione dei dati personali, con obblighi GDPR e responsabilità del titolare che non si trasferiscono al fornitore dello strumento. La seconda, meno presidiata, riguarda il know-how: informazioni che costituiscono il vantaggio competitivo dell'impresa e che una volta uscite non tornano indietro.
Vietare non funziona. Le organizzazioni che hanno risposto bloccando gli strumenti generativi hanno ottenuto in pochi mesi un fenomeno prevedibile e peggiore: la shadow AI, cioè l'uso di servizi personali su dispositivi personali, invisibile a qualunque controllo. Il divieto non riduce il rischio, lo rende inosservabile.
L'approccio che regge combina tre elementi. Un ambiente aziendale che sia buono abbastanza da rendere inutile cercare alternative fuori. Regole chiare su cosa può essere sottoposto a un modello, scritte in modo comprensibile e non in linguaggio legale. Presidi tecnici: anonimizzazione, crittografia, segmentazione degli accessi, valutazioni d'impatto sui casi d'uso sensibili.
Sopra tutto questo c'è la scelta del fornitore, che è la decisione con l'orizzonte più lungo. Dove risiedono fisicamente i dati, se vengono usati per addestrare modelli, per quanto tempo sono conservati, quale legislazione si applica in caso di richiesta di accesso da parte di un'autorità straniera. Sono domande da porre prima della firma, quando si ha ancora potere negoziale.