L'articolo 55 dell'AI Act ha introdotto per i fornitori di modelli di uso generale considerati a rischio sistemico un pacchetto di obblighi che somiglia molto a quello di un'infrastruttura critica: red teaming documentato, procedure di gestione degli incidenti, misure di resilienza verificabili, notifica degli eventi rilevanti.
La tempistica è ironica. Proprio mentre queste regole diventano applicabili, la ricerca accademica continua a pubblicare tecniche di jailbreak che funzionano in modo trasversale su famiglie di modelli diverse, aggirandone i filtri di sicurezza con schemi di prompt sufficientemente generali da non dipendere dalle specificità di un singolo sistema.
Va distinto ciò che è rivendicazione da social da ciò che è ricerca verificata. Ma il quadro complessivo, al netto del rumore, indica una cosa semplice: l'allineamento di un modello è un livello di difesa, non una garanzia. Trattarlo come un perimetro impermeabile è un errore di progettazione.
Per le imprese la conseguenza è che la sicurezza di un sistema AI non può essere delegata interamente al fornitore del modello. Serve un livello di controllo proprio: filtri sui dati in ingresso, limiti su cosa il sistema può effettivamente fare al di là di cosa può dire, segmentazione degli accessi, revisione delle uscite nei processi sensibili.
Il ragionamento è lo stesso che si applica da anni al software: nessuno costruisce la propria postura di sicurezza sull'assunto che il fornitore non abbia vulnerabilità. Con i modelli linguistici, dove la superficie di attacco è il linguaggio naturale stesso, questo assunto è ancora meno difendibile.