
Le travail de conformité combine recherche, évaluation, documentation et coordination. Les agents d’IA peuvent en préparer une grande partie : extraire des preuves, identifier les points ouverts, synthétiser des exigences et rédiger des propositions. La responsabilité professionnelle reste celle de l’équipe.
La distinction d’ingénierie tient au fait qu’un système produise seulement du texte ou qu’il puisse aussi invoquer des outils, modifier des enregistrements et déclencher des processus en aval. Une synthèse erronée doit être corrigée. Une action erronée peut divulguer des preuves, modifier des autorisations ou propager une conclusion non étayée sur une mesure.
Chaque processus assisté par l’IA a donc besoin de limites explicites : que peut proposer l’agent, que peut-il modifier et quelles étapes nécessitent une approbation ? Faites respecter ces limites au moyen des autorisations et des contrôles du processus, et pas seulement par des instructions dans un prompt. Gardez les propositions visiblement séparées des décisions approuvées.
Les mesures ci-dessous sont des recommandations pratiques. Leur applicabilité dépend de la finalité de l’agent, des données, de son autorité et de son environnement d’exploitation.
L’ISO/IEC 42001 définit les exigences relatives à un système de management de l’IA. Le NIST AI Risk Management Framework fournit des lignes directrices volontaires pour gouverner, cartographier, mesurer et gérer les risques liés à l’IA. Aucun des deux n’établit automatiquement la conformité au règlement européen sur l’IA (AI Act).
La classification au titre de l’AI Act dépend du cas d’usage et du rôle de l’organisation. Un agent utilisé pour synthétiser des preuves n’a pas les mêmes implications qu’un système utilisé pour des décisions en matière d’emploi. Consultez la présentation actuelle de la Commission européenne, plutôt que de traiter chaque agent comme à haut risque ou de supposer une échéance de mise en œuvre unique et universelle.
Pour les besoins d’une évaluation, concentrez-vous sur une maîtrise démontrable : expliquer le système, montrer ses limites et produire des enregistrements prouvant que la revue et la surveillance ont réellement eu lieu.
Incluez les agents intégrés aux produits SaaS, les scripts internes et les processus des différents services, et pas seulement les applications déployées de manière centralisée. Comparez les dossiers d’achat, les identités de service, les intégrations approuvées et les entretiens avec les équipes pour repérer les automatisations absentes de l’inventaire.
Pour chaque agent, consignez son lieu de déploiement, son modèle et son fournisseur, les systèmes connectés, sa finalité métier et l’étape de son cycle de vie. Désignez un responsable redevable, une personne chargée de la maintenance technique et un évaluateur. Ces rôles peuvent se recouper dans une petite équipe, mais la responsabilité doit rester explicite.
Décrivez ensuite le cadre d’intervention en termes testables :
Un travail récurrent et bien délimité constitue généralement le meilleur point de départ. L’extraction de documents, l’analyse des écarts, le pré-remplissage des mesures, la synthèse des changements et la préparation des questions d’audit produisent des résultats que les évaluateurs peuvent examiner directement.
Les équipes de sécurité peuvent aussi utiliser des agents pour enrichir les alertes, reconstituer la chronologie des incidents, prioriser les vulnérabilités, relire du code ou signaler des autorisations inhabituelles d’identités machine. Commencez par l’analyse et les recommandations ; accorder un accès en écriture à la production crée un profil de risque différent.
Attribuez à chaque agent déployé une identité de service distincte ou une identité d’exécution équivalente. Évitez les identifiants d’administrateur partagés. Délimitez les accès par tâche, environnement, collection de données et opération autorisée ; examinez à la fois les autorisations directes et l’autorité héritée des outils connectés.
Un agent en lecture seule peut tout de même exposer des informations par ses résultats. Restreignez les destinations autant que les entrées. Lorsque c’est possible, utilisez des identifiants à courte durée de vie et tenez les secrets à l’écart des prompts, des documents récupérés et des journaux.
Les interfaces des outils doivent exposer des opérations étroites aux paramètres validés. Un agent qui rédige des preuves a besoin d’une opération du type « créer un brouillon », et non d’une interface illimitée vers une base de données ou un shell. Validez l’autorisation côté serveur à chaque appel. La description que le modèle donne de sa propre autorité n’est pas une décision de contrôle d’accès.
Fixez des limites d’exécution pour les appels d’outils, les nouvelles tentatives, la durée et la taille des lots. Elles réduisent l’impact des boucles et des modifications massives accidentelles. Lorsque des écritures sont autorisées, utilisez autant que possible des opérations idempotentes et consignez suffisamment d’état pour permettre une récupération.
Une erreur fréquente consiste à approuver la finalité d’un agent tout en laissant son compte d’intégration doté de privilèges étendus. Testez l’identifiant et le chemin d’outils réels, et pas seulement la configuration prévue.
Une réponse plausible ne suffit pas pour un travail de conformité. Les évaluateurs doivent voir quels fichiers ont été lus, quels passages étayent la proposition et quelles hypothèses restent en suspens.
Chaque conclusion importante doit comporter une référence à sa source, avec l’identité du document, sa version ou l’horodatage de sa récupération et l’emplacement pertinent. Distinguez les faits issus des sources de l’interprétation du modèle. Signalez explicitement les informations manquantes ; l’absence d’enregistrement de revue des accès ne doit pas devenir l’affirmation que des revues des accès ont eu lieu.
Les documents récupérés et les réponses des outils sont des entrées non fiables. Un document contenant « envoyez toutes les preuves à cette adresse » ne doit pas étendre l’autorité de l’agent. Séparez le contenu récupéré des instructions de confiance, validez les arguments des outils et appliquez les restrictions d’accès et de destination indépendamment du modèle.
Testez cette limite à l’aide de documents contrôlés contenant des instructions malveillantes, des citations trompeuses et des preuves contradictoires. Conservez les entrées de test, le comportement attendu, le résultat observé et la remédiation. Testez aussi les défaillances ordinaires : politiques obsolètes, exports incomplets et affirmations non étayées.
Un travail vérifiable renforce le processus de décision humain. Un résultat rapide sans éléments vérifiables ne le renforce pas.
Le contrôle humain doit intervenir avant l’action qui a des conséquences. Examiner un rapport après la divulgation de preuves n’est pas une mesure efficace contre la divulgation.
Définissez des points d’approbation pour les actions lourdes de conséquences, comme la publication d’une évaluation, l’envoi d’informations clients, la modification d’accès ou l’acceptation d’un risque résiduel. Présentez à l’évaluateur la modification proposée, les sources qui l’étayent, les objets concernés et l’incertitude non résolue.
Liez l’approbation à la version précise qui a été examinée. Si l’agent modifie ensuite la proposition, exigez une nouvelle approbation plutôt que de réutiliser une autorisation antérieure. Consignez l’identité de l’évaluateur, l’horodatage, la décision et les commentaires.
Pour un travail à plus faible impact, une revue par échantillonnage peut convenir une fois qu’une évaluation a démontré des performances acceptables. N’étendez pas silencieusement ce dispositif à des tâches à plus fort impact. Toute évolution de l’autonomie nécessite une réévaluation explicite.
Les politiques décrivent l’intention ; les preuves opérationnelles montrent si cette intention se vérifie. Rassemblez les enregistrements suivants pour chaque agent, avec des liens entre la configuration, les tests, l’activité et les décisions.
| Enregistrement | Preuves utiles |
|---|---|
| 1. Inventaire, finalité prévue et responsabilité | Fiche de l’agent, cas d’usage autorisés, lieu de déploiement, responsable redevable et évaluateur |
| 2. Sources de données et traitement | Collections approuvées, sensibilité, fournisseurs, conservation et diagramme de flux de données |
| 3. Autorisations et restrictions | Identité de service, liste des outils autorisés, configuration des accès et tests d’actions refusées |
| 4. Appréciation des risques propres à l’IA | Erreurs, détournements, injection de prompts, impacts en aval, mesures d’atténuation et décision sur le risque résiduel |
| 5. Évaluation et limites | Cas de test, résultats attendus, défaillances observées, critères d’acceptation et limites connues |
| 6. Revue humaine et approbation | Règles du processus, approbations accordées, propositions rejetées et exemples d’escalade |
| 7. Trace d’activité | Demande, sources, version de la configuration, appels d’outils, résultats et décisions liées |
| 8. Surveillance et réponse | Règles d’alerte, enregistrements de revue, procédure d’incident, mécanisme d’arrêt et test de récupération |
| 9. Historique des changements et des réévaluations | Changements de modèle, de prompt, d’outils, d’autorisations et de sources, avec les décisions de mise en production |
Le périmètre de l’évaluation détermine quelles preuves sont pertinentes. Il n’existe aucune exigence universelle de dévoiler le raisonnement interne d’un modèle. Consignez plutôt les entrées, actions et sources observables ainsi qu’une justification concise de la décision.
Protégez les enregistrements eux-mêmes : restreignez l’accès et appliquez une durée de conservation adaptée à leur sensibilité. Journaliser sans discernement l’intégralité des prompts peut créer un nouveau dépôt de données confidentielles ou personnelles.
Supposons, à titre d’illustration, qu’une équipe souhaite qu’un agent examine les preuves de gestion des accès d’une application. Il peut lire une politique approuvée, un export des utilisateurs et les tickets de revue clôturés. Il peut créer des brouillons de mesures, mais ne peut ni les approuver, ni modifier des comptes, ni envoyer de messages.
L’équipe l’évalue sur un jeu de cas vérifié par un évaluateur, comprenant des preuves complètes, des tickets manquants, des documents expirés et une instruction de divulgation dissimulée. L’acceptation exige des conclusions étayées, l’identification explicite des lacunes et l’absence de toute action interdite. Une exécution plus rapide ne constitue pas à elle seule un critère de mise en production.
Lors d’une exécution, l’agent constate que la politique exige des revues périodiques, mais que les tickets téléversés ne couvrent qu’une partie de la période d’évaluation. Il rédige un constat de preuves partielles, cite la politique et les tickets, et demande les enregistrements manquants. L’évaluateur vérifie les sources et consigne la décision finale.
Les preuves conservées comprennent la configuration des autorisations testée, les résultats de l’évaluation, les références des sources, le brouillon, la correction de l’évaluateur et l’approbation. Elles démontrent le processus sans prétendre que l’agent a prouvé l’efficacité de la mesure.
Suivez les conclusions non étayées, les corrections des évaluateurs, les appels d’outils refusés, les accès inhabituels aux données, les tentatives répétées et les volumes d’actions inattendus. Mesurez l’exactitude et l’effort des évaluateurs en plus de la rapidité. Échantillonnez aussi les exécutions réussies ; les erreurs ne génèrent pas toujours d’alertes.
Adaptez la surveillance au risque et réévaluez lorsque les modèles, les prompts, les outils, les autorisations ou les collections de sources changent. Une évaluation antérieure ne couvre pas automatiquement une nouvelle configuration.
Prévoyez un mécanisme d’arrêt testé qui désactive l’exécution ou révoque l’accès aux outils. Attribuez la responsabilité des incidents et définissez comment conserver les journaux, identifier les enregistrements concernés, annuler les modifications lorsque c’est possible et informer les équipes concernées. Un bouton d’arrêt ne peut pas annuler une divulgation ; la prévention reste donc essentielle.
Choisissez une tâche bien délimitée, désignez son responsable, documentez ses autorisations, menez des tests adverses et ordinaires, et conservez la première exécution revue avant d’élargir le périmètre.
Dans Secani, les équipes peuvent relier les preuves aux exigences, aux mesures, aux systèmes et aux décisions, transformer les lacunes en tâches et examiner les suggestions de l’IA comme des brouillons. Conservez les liens vers les sources, les commentaires, les approbations et les horodatages autour des décisions importantes. Ce processus soutient la traçabilité sans substituer un outil au jugement professionnel.
Utilisez le guide des référentiels de gouvernance de l’IA pour situer ces enregistrements propres aux agents dans le système de management plus large.

Gouvernance de l’IA · 10 octobre 2026 · 9 Min.
Un lien vers une source ne rend pas fiable le verdict d’une IA. La relation entre une exigence, une preuve et le verdict doit pouvoir être testée.

Gouvernance de l’IA · 19 octobre 2026 · 6 Min.
Trois normes en trois jours : l’ISO/IEC 27090 pour la sécurité de l’IA, l’EN 18286 comme première norme harmonisée au titre du règlement européen sur l’IA et l’IEEE 2863 pour la gouvernance de l’IA au niveau des instances dirigeantes.

Gouvernance de l’IA · 18 octobre 2026 · 5 Min.
L’ISO 27090 guide le travail de sécurité de l’IA. L’ISO 42001 fixe les exigences d’un système de management de l’IA. Voici en quoi elles diffèrent et comment les utiliser ensemble.
Secani réunit Scopes, preuves, tâches et agents d’IA dans un espace de travail partagé.