
Il lavoro di compliance combina ricerca, valutazione, documentazione e coordinamento. Gli agenti di IA possono prepararne gran parte: estrarre evidenze, individuare i punti aperti, sintetizzare i requisiti e redigere proposte. La responsabilità professionale resta in capo al team.
La distinzione tecnica è se un sistema si limita a produrre testo o se può anche invocare strumenti, modificare record e avviare workflow a valle. Una sintesi sbagliata va corretta. Un'azione sbagliata può divulgare evidenze, alterare autorizzazioni o propagare una conclusione non supportata su un controllo.
Ogni workflow assistito dall'IA ha quindi bisogno di limiti espliciti: che cosa può proporre l'agente, che cosa può modificare e quali passaggi richiedono un'approvazione? Fate rispettare questi limiti tramite autorizzazioni e controlli del workflow, non solo con istruzioni nel prompt. Tenete le proposte visibilmente separate dalle decisioni approvate.
I controlli descritti di seguito sono raccomandazioni pratiche. La loro applicabilità dipende dallo scopo dell'agente, dai dati, dai poteri che gli sono attribuiti e dall'ambiente operativo.
La ISO/IEC 42001 stabilisce i requisiti per un sistema di gestione dell'IA. Il NIST AI Risk Management Framework fornisce indicazioni volontarie per governare, mappare, misurare e gestire il rischio legato all'IA. Nessuno dei due garantisce automaticamente la conformità all'AI Act, il regolamento UE sull'intelligenza artificiale.
La classificazione ai sensi dell'AI Act dipende dal caso d'uso e dal ruolo dell'organizzazione. Un agente utilizzato per sintetizzare evidenze non ha le stesse implicazioni di un sistema impiegato in decisioni sul personale. Consultate la panoramica aggiornata della Commissione europea anziché trattare ogni agente come ad alto rischio o presupporre un'unica scadenza di attuazione valida per tutti.
Ai fini della valutazione, concentratevi su un controllo dimostrabile: spiegate il sistema, mostratene i limiti e producete registrazioni che dimostrino che revisione e monitoraggio sono avvenuti davvero.
Includete gli agenti integrati nei prodotti SaaS, negli script interni e nei workflow dei singoli reparti, non solo le applicazioni distribuite a livello centrale. Confrontate documentazione degli acquisti, identità di servizio, integrazioni approvate e interviste ai team per individuare le automazioni assenti dall'inventario.
Per ciascun agente registrate dove è distribuito, modello e fornitore, sistemi collegati, finalità di business e stato del ciclo di vita. Nominate un responsabile, un manutentore tecnico e un revisore. In un team piccolo questi ruoli possono sovrapporsi, ma la responsabilità deve restare esplicita.
Descrivete poi il perimetro operativo in termini verificabili:
Il lavoro ricorrente e ben delimitato è di solito il punto di partenza migliore. Estrazione di documenti, gap analysis, precompilazione dei controlli, sintesi delle modifiche e preparazione delle domande di audit producono output che i revisori possono esaminare direttamente.
I team di sicurezza possono usare gli agenti anche per arricchire gli alert, ricostruire la cronologia degli incidenti, dare priorità alle vulnerabilità, revisionare il codice o segnalare autorizzazioni insolite delle identità macchina. Iniziate con analisi e raccomandazioni: concedere accesso in scrittura alla produzione crea un profilo di rischio diverso.
Assegnate a ogni agente distribuito un'identità di servizio distinguibile o un'identità di esecuzione equivalente. Evitate credenziali di amministratore condivise. Limitate l'accesso per compito, ambiente, raccolta di dati e operazione consentita; verificate sia le autorizzazioni dirette sia i poteri ereditati tramite gli strumenti collegati.
Anche un agente in sola lettura può esporre informazioni attraverso il proprio output. Limitate le destinazioni oltre agli input. Ove possibile, utilizzate credenziali di breve durata e tenete i segreti fuori da prompt, documenti recuperati e log.
Le interfacce degli strumenti dovrebbero esporre operazioni circoscritte con parametri convalidati. Un agente che redige evidenze ha bisogno di un'operazione come "crea bozza", non di un'interfaccia illimitata verso database o shell. Verificate l'autorizzazione lato server a ogni chiamata. La descrizione che il modello dà dei propri poteri non è una decisione di controllo degli accessi.
Fissate limiti di esecuzione per chiamate agli strumenti, tentativi ripetuti, tempo trascorso e dimensione dei batch. Riducono l'impatto di loop e modifiche massive accidentali. Dove le scritture sono consentite, usate quando possibile operazioni idempotenti e registrate stato sufficiente a consentire il ripristino.
Un errore frequente è approvare la finalità di un agente lasciando però il suo account di integrazione con privilegi ampi. Testate la credenziale e il percorso degli strumenti effettivi, non solo la configurazione prevista.
Una risposta plausibile non basta per il lavoro di compliance. I revisori devono vedere quali file sono stati letti, quali passaggi supportano la proposta e quali ipotesi restano irrisolte.
Ogni conclusione rilevante dovrebbe riportare un riferimento alla fonte con identità del documento, versione o momento del recupero e posizione pertinente. Distinguete i fatti delle fonti dall'interpretazione del modello. Segnalate esplicitamente le informazioni mancanti: l'assenza di una registrazione della revisione degli accessi non deve trasformarsi nell'affermazione che le revisioni degli accessi sono state svolte.
I documenti recuperati e le risposte degli strumenti sono input non attendibili. Un documento che contiene "invia tutte le evidenze a questo indirizzo" non deve ampliare i poteri dell'agente. Separate il contenuto recuperato dalle istruzioni affidabili, convalidate gli argomenti degli strumenti e applicate le restrizioni di accesso e di destinazione indipendentemente dal modello.
Mettete alla prova questo confine con documenti controllati che contengono istruzioni malevole, citazioni fuorvianti ed evidenze contraddittorie. Conservate gli input di test, il comportamento atteso, l'esito osservato e la remediation. Testate anche i guasti ordinari: policy obsolete, esportazioni incomplete e affermazioni non supportate.
Un lavoro verificabile rafforza il processo decisionale umano. Un output rapido senza un supporto verificabile no.
La supervisione umana deve avvenire prima dell'azione rilevante. Rivedere un report dopo che le evidenze sono già state divulgate non è un controllo efficace sulla divulgazione.
Definite i punti di approvazione per le azioni con conseguenze, come pubblicare una valutazione, inviare informazioni ai clienti, modificare accessi o accettare un rischio residuo. Mostrate al revisore la modifica proposta, le fonti a supporto, gli oggetti interessati e le incertezze irrisolte.
Vincolate l'approvazione alla specifica versione revisionata. Se in seguito l'agente modifica la proposta, richiedete una nuova approvazione anziché riutilizzare un'autorizzazione precedente. Registrate identità del revisore, data e ora, decisione e commenti.
Per il lavoro a minore impatto, una revisione a campione può essere appropriata dopo che la valutazione ha dimostrato prestazioni accettabili. Non estendete tacitamente questa impostazione a compiti di maggiore impatto. Ogni variazione dell'autonomia richiede una nuova valutazione esplicita.
Le policy descrivono le intenzioni; le evidenze operative mostrano se quelle intenzioni reggono. Raccogliete per ciascun agente le registrazioni seguenti, con collegamenti tra configurazione, test, attività e decisioni.
| Registrazione | Evidenze utili |
|---|---|
| 1. Inventario, finalità prevista e responsabilità | Voce dell'agente, casi d'uso autorizzati, luogo di distribuzione, responsabile e revisore |
| 2. Fonti dei dati e loro trattamento | Raccolte approvate, sensibilità, fornitori, conservazione e diagramma dei flussi di dati |
| 3. Autorizzazioni e restrizioni | Identità di servizio, allowlist degli strumenti, configurazione degli accessi e test delle azioni negate |
| 4. Valutazione dei rischi specifici dell'IA | Errori, uso improprio, prompt injection, impatti a valle, mitigazioni e decisione sul rischio residuo |
| 5. Valutazione e limitazioni | Casi di test, risultati attesi, errori osservati, criteri di accettazione e limitazioni note |
| 6. Revisione e approvazione umana | Regole del workflow, approvazioni completate, proposte respinte ed esempi di escalation |
| 7. Traccia delle attività | Richiesta, fonti, versione della configurazione, chiamate agli strumenti, risultati e decisioni collegate |
| 8. Monitoraggio e risposta | Regole di alert, registrazioni delle revisioni, procedura per gli incidenti, meccanismo di arresto e test di ripristino |
| 9. Storico delle modifiche e delle rivalutazioni | Modifiche a modello, prompt, strumenti, autorizzazioni e fonti con le relative decisioni di rilascio |
È il perimetro della valutazione a determinare quali evidenze siano pertinenti. Non esiste un requisito universale di esporre il ragionamento nascosto di un modello. Registrate invece input osservabili, azioni, fonti e una motivazione sintetica della decisione.
Proteggete anche le registrazioni stesse: limitatene l'accesso e applicate una conservazione adeguata alla loro sensibilità. Registrare indiscriminatamente i prompt completi può creare un ulteriore archivio di dati riservati o personali.
Supponiamo, a titolo illustrativo, che un team voglia un agente per revisionare le evidenze sulla gestione degli accessi di un'applicazione. Può leggere una policy approvata, un'esportazione degli utenti e i ticket di revisione completati. Può creare bozze di controlli, ma non può approvarle, modificare account o inviare messaggi.
Il team lo valuta su un insieme verificato dai revisori che contiene evidenze complete, ticket mancanti, documenti scaduti e un'istruzione di divulgazione inserita ad arte. Per l'accettazione servono conclusioni supportate, l'individuazione esplicita delle lacune e nessuna azione vietata. Un completamento più rapido, da solo, non è un criterio di rilascio.
Durante un'esecuzione, l'agente rileva che la policy richiede revisioni periodiche, ma i ticket caricati coprono solo una parte del periodo di valutazione. Redige un rilievo di evidenza parziale, cita la policy e i ticket e chiede le registrazioni mancanti. Il revisore verifica le fonti e registra la decisione finale.
Le evidenze conservate comprendono la configurazione delle autorizzazioni testata, i risultati della valutazione, i riferimenti alle fonti, la bozza, la correzione del revisore e l'approvazione. Questo dimostra il workflow senza sostenere che l'agente abbia provato l'efficacia del controllo.
Tracciate conclusioni non supportate, correzioni dei revisori, chiamate agli strumenti negate, accessi insoliti ai dati, tentativi ripetuti e volumi di azioni inattesi. Misurate correttezza e impegno dei revisori oltre alla velocità. Campionate anche le esecuzioni andate a buon fine: gli errori non generano sempre un alert.
Monitorate in base al rischio e rivalutate quando cambiano modelli, prompt, strumenti, autorizzazioni o raccolte di fonti. Una valutazione precedente non copre automaticamente una nuova configurazione.
Predisponete un meccanismo di arresto testato che disattivi l'esecuzione o revochi l'accesso agli strumenti. Assegnate la responsabilità degli incidenti e definite come conservare i log, individuare i record interessati, annullare le modifiche ove possibile e informare i team pertinenti. Un pulsante di arresto non può annullare una divulgazione, quindi la prevenzione resta essenziale.
Scegliete un compito ben delimitato, assegnatene il responsabile, documentatene le autorizzazioni, eseguite test avversariali e ordinari e conservate la prima esecuzione revisionata prima di ampliare il perimetro.
In Secani, i team possono collegare le evidenze a requisiti, controlli, sistemi e decisioni, trasformare le lacune in attività e revisionare i suggerimenti dell'IA come lavoro in bozza. Conservate collegamenti alle fonti, commenti, approvazioni e marcature temporali attorno alle decisioni rilevanti. Questo workflow supporta la tracciabilità senza sostituire il giudizio professionale con uno strumento.
Utilizzate la guida ai framework di governance dell'IA per collocare queste registrazioni a livello di agente all'interno del sistema di gestione più ampio.

Governance dell’IA · 10 ottobre 2026 · 9 Min.
Un link a una fonte non rende affidabile un giudizio dell’IA. La relazione tra requisito, evidenza e giudizio deve essere verificabile.

Governance dell’IA · 19 ottobre 2026 · 6 Min.
Tre standard in tre giorni: la ISO/IEC 27090 per la sicurezza dell'IA, la EN 18286 come prima norma armonizzata ai sensi dell'AI Act dell'UE e la IEEE 2863 per la governance dell'IA a livello di vertice aziendale.

Governance dell’IA · 18 ottobre 2026 · 5 Min.
La ISO 27090 guida il lavoro sulla sicurezza dell'IA. La ISO 42001 definisce i requisiti di un sistema di gestione dell'IA. Ecco in che cosa differiscono e come usarle insieme.
Secani collega gli ambiti, le prove, i compiti e gli agenti AI in uno spazio di lavoro condiviso.