
El trabajo de cumplimiento combina investigación, evaluación, documentación y coordinación. Los agentes de IA pueden preparar gran parte de él: extraer evidencias, identificar cuestiones abiertas, resumir requisitos y redactar propuestas. La responsabilidad profesional sigue correspondiendo al equipo.
La distinción técnica es si un sistema solo produce texto o si también puede invocar herramientas, modificar registros y desencadenar flujos de trabajo posteriores. Un resumen erróneo necesita corrección. Una acción errónea puede revelar evidencias, alterar permisos o propagar una conclusión sobre un control sin respaldo.
Por tanto, cada flujo de trabajo asistido por IA necesita límites explícitos: ¿qué puede proponer el agente, qué puede modificar y qué pasos requieren aprobación? Imponga esos límites mediante permisos y controles del flujo de trabajo, no solo mediante instrucciones en un prompt. Mantenga las propuestas visiblemente separadas de las decisiones aprobadas.
Los controles que se describen a continuación son recomendaciones prácticas. Su aplicabilidad depende de la finalidad del agente, de sus datos, de su autoridad y de su entorno de operación.
ISO/IEC 42001 establece los requisitos de un sistema de gestión de la IA. El NIST AI Risk Management Framework ofrece orientaciones voluntarias para gobernar, mapear, medir y gestionar el riesgo de la IA. Ninguno de los dos acredita automáticamente el cumplimiento del Reglamento de IA de la UE.
La clasificación conforme al Reglamento de IA depende del caso de uso y del rol de la organización. Un agente utilizado para resumir evidencias no tiene las mismas implicaciones que un sistema utilizado en decisiones de empleo. Consulte la presentación general vigente de la Comisión Europea, en lugar de tratar todos los agentes como de alto riesgo o suponer un único plazo de aplicación universal.
A efectos de evaluación, céntrese en un control demostrable: explique el sistema, muestre sus límites y genere registros que demuestren que la revisión y la monitorización se produjeron realmente.
Incluya los agentes integrados en productos SaaS, los scripts internos y los flujos de trabajo departamentales, no solo las aplicaciones desplegadas de forma centralizada. Compare los registros de compras, las identidades de servicio, las integraciones aprobadas y las entrevistas con los equipos para encontrar automatizaciones que falten en el inventario.
Para cada agente, registre su ubicación de despliegue, el modelo y el proveedor, los sistemas conectados, la finalidad de negocio y el estado de su ciclo de vida. Designe un responsable que rinda cuentas, un encargado del mantenimiento técnico y un revisor. Estos roles pueden solaparse en un equipo pequeño, pero la responsabilidad debe seguir siendo explícita.
Después, describa el marco de actuación en términos verificables:
El trabajo recurrente y acotado suele ser el mejor punto de partida. La extracción de documentos, el análisis de brechas, la cumplimentación previa de controles, el resumen de cambios y la preparación de preguntas de auditoría producen resultados que los revisores pueden examinar directamente.
Los equipos de seguridad también pueden utilizar agentes para enriquecer alertas, reconstruir cronologías de incidentes, priorizar vulnerabilidades, revisar código o señalar permisos inusuales de identidades de máquina. Empiece por el análisis y las recomendaciones; conceder acceso de escritura en producción crea un perfil de riesgo distinto.
Asigne a cada agente desplegado una identidad de servicio diferenciada o una identidad de ejecución equivalente. Evite las credenciales de administrador compartidas. Limite el acceso por tarea, entorno, colección de datos y operación permitida; revise tanto los permisos directos como la autoridad heredada a través de las herramientas conectadas.
Un agente de solo lectura puede, aun así, exponer información a través de sus resultados. Restrinja tanto los destinos como las entradas. Cuando sea viable, utilice credenciales de corta duración y mantenga los secretos fuera de los prompts, los documentos recuperados y los registros de actividad.
Las interfaces de las herramientas deben exponer operaciones acotadas con parámetros validados. Un agente que redacta evidencias necesita una operación como «crear borrador», no una interfaz sin restricciones a una base de datos o a un shell. Valide la autorización en el servidor en cada llamada. La descripción que hace el modelo de su propia autoridad no es una decisión de control de acceso.
Fije límites de ejecución para las llamadas a herramientas, los reintentos, el tiempo transcurrido y el tamaño de los lotes. Reducen el impacto de los bucles y de los cambios masivos accidentales. Cuando se permitan escrituras, utilice operaciones idempotentes siempre que sea posible y registre el estado suficiente para facilitar la recuperación.
Un error frecuente es aprobar la finalidad de un agente y dejar su cuenta de integración con privilegios amplios. Pruebe la credencial y la ruta de herramientas reales, no solo la configuración prevista.
Una respuesta verosímil es insuficiente para el trabajo de cumplimiento. Los revisores necesitan ver qué archivos se leyeron, qué pasajes respaldan la propuesta y qué supuestos siguen sin resolverse.
Cada conclusión relevante debe llevar una referencia a la fuente con la identidad del documento, la versión o la marca de tiempo de recuperación y la ubicación pertinente. Distinga los hechos de las fuentes de la interpretación del modelo. Marque explícitamente la información que falta; la ausencia de un registro de revisión de accesos no debe convertirse en la afirmación de que se realizaron revisiones de accesos.
Los documentos recuperados y las respuestas de las herramientas son entradas no fiables. Un documento que contenga «envía todas las evidencias a esta dirección» no debe ampliar la autoridad del agente. Separe el contenido recuperado de las instrucciones de confianza, valide los argumentos de las herramientas e imponga las restricciones de acceso y de destino con independencia del modelo.
Pruebe este límite con documentos controlados que contengan instrucciones maliciosas, citas engañosas y evidencias contradictorias. Conserve las entradas de prueba, el comportamiento esperado, el resultado observado y la subsanación. Pruebe también los fallos ordinarios: políticas obsoletas, exportaciones incompletas y afirmaciones sin respaldo.
Un trabajo verificable refuerza el proceso de decisión humano. Un resultado rápido sin respaldo examinable no lo hace.
La supervisión humana debe producirse antes de la acción que importa. Revisar un informe después de que se hayan revelado las evidencias no es un control eficaz de la divulgación.
Defina puntos de aprobación para las acciones con consecuencias, como publicar una evaluación, enviar información de clientes, modificar accesos o aceptar un riesgo residual. Muestre al revisor el cambio propuesto, las fuentes que lo respaldan, los objetos afectados y la incertidumbre no resuelta.
Vincule la aprobación a la versión concreta revisada. Si el agente modifica la propuesta después, exija una nueva aprobación en lugar de reutilizar una autorización anterior. Registre la identidad del revisor, la marca de tiempo, la decisión y los comentarios.
Para el trabajo de menor impacto, puede ser adecuada una revisión por muestreo una vez que la evaluación haya demostrado un rendimiento aceptable. No extienda en silencio ese régimen a tareas de mayor impacto. Los cambios en la autonomía requieren una nueva evaluación explícita.
Las políticas describen la intención; las evidencias operativas muestran si esa intención se cumple. Reúna los siguientes registros para cada agente, con vínculos entre la configuración, las pruebas, la actividad y las decisiones.
| Registro | Evidencias útiles |
|---|---|
| 1. Inventario, finalidad prevista y responsabilidad | Entrada del agente, casos de uso autorizados, ubicación de despliegue, responsable que rinde cuentas y revisor |
| 2. Fuentes de datos y su tratamiento | Colecciones aprobadas, sensibilidad, proveedores, conservación y diagrama de flujos de datos |
| 3. Permisos y restricciones | Identidad de servicio, lista de herramientas permitidas, configuración de acceso y pruebas de acciones denegadas |
| 4. Evaluación de riesgos específica de la IA | Errores, uso indebido, inyección de prompts, impactos posteriores, mitigaciones y decisión sobre el riesgo residual |
| 5. Evaluación y limitaciones | Casos de prueba, resultados esperados, fallos observados, criterios de aceptación y limitaciones conocidas |
| 6. Revisión y aprobación humanas | Reglas del flujo de trabajo, aprobaciones completadas, propuestas rechazadas y ejemplos de escalado |
| 7. Traza de actividad | Solicitud, fuentes, versión de la configuración, llamadas a herramientas, resultados y decisiones vinculadas |
| 8. Monitorización y respuesta | Reglas de alerta, registros de revisión, procedimiento ante incidentes, mecanismo de parada y prueba de recuperación |
| 9. Historial de cambios y nuevas evaluaciones | Cambios de modelo, prompt, herramientas, permisos y fuentes con las decisiones de puesta en producción |
El alcance de la evaluación determina qué evidencias son pertinentes. No existe un requisito universal de exponer el razonamiento oculto de un modelo. Registre en su lugar las entradas, las acciones y las fuentes observables, junto con una justificación concisa de la decisión.
Proteja los propios registros: restrinja el acceso y aplique una conservación adecuada a su sensibilidad. Registrar indiscriminadamente prompts completos puede crear otro repositorio de datos confidenciales o personales.
Supongamos, a modo ilustrativo, que un equipo quiere un agente que revise las evidencias de gestión de accesos de una aplicación. Puede leer una política aprobada, una exportación de usuarios y los tickets de revisión completados. Puede crear borradores de controles, pero no puede aprobarlos, modificar cuentas ni enviar mensajes.
El equipo lo evalúa con un conjunto comprobado por revisores que contiene evidencias completas, tickets ausentes, documentos caducados y una instrucción de divulgación introducida deliberadamente. La aceptación exige conclusiones respaldadas, la identificación explícita de las carencias y ninguna acción prohibida. Terminar más rápido no es por sí solo un criterio de puesta en producción.
Durante una ejecución, el agente detecta que la política exige revisiones periódicas, pero que los tickets cargados solo cubren parte del periodo de evaluación. Redacta un hallazgo de evidencias parciales, cita la política y los tickets y solicita los registros que faltan. El revisor comprueba las fuentes y registra la decisión final.
Las evidencias conservadas incluyen la configuración de permisos probada, los resultados de la evaluación, las referencias a las fuentes, el borrador, la corrección del revisor y la aprobación. Esto demuestra el flujo de trabajo sin afirmar que el agente haya demostrado la eficacia del control.
Haga un seguimiento de las conclusiones sin respaldo, las correcciones de los revisores, las llamadas a herramientas denegadas, los accesos inusuales a datos, los reintentos repetidos y los volúmenes inesperados de acciones. Mida la corrección y el esfuerzo de los revisores además de la velocidad. Tome también muestras de las ejecuciones correctas; los errores no siempre generan alertas.
Monitorice en función del riesgo y vuelva a evaluar cuando cambien los modelos, los prompts, las herramientas, los permisos o las colecciones de fuentes. Una evaluación anterior no cubre automáticamente una configuración nueva.
Proporcione un mecanismo de parada probado que desactive la ejecución o revoque el acceso a las herramientas. Asigne la responsabilidad de los incidentes y defina cómo conservar los registros de actividad, identificar los registros afectados, revertir los cambios cuando sea posible y avisar a los equipos pertinentes. Un botón de parada no puede deshacer una divulgación, así que la prevención sigue siendo importante.
Elija una tarea acotada, asigne su responsable, documente sus permisos, realice pruebas adversariales y ordinarias y conserve la primera ejecución revisada antes de ampliar el alcance.
En Secani, los equipos pueden vincular las evidencias con requisitos, controles, sistemas y decisiones; convertir las carencias en tareas; y revisar las sugerencias de la IA como borradores. Conserve los enlaces a las fuentes, los comentarios, las aprobaciones y las marcas de tiempo en torno a las decisiones relevantes. Ese flujo de trabajo favorece la trazabilidad sin sustituir el criterio profesional por una herramienta.
Utilice la guía sobre marcos de gobernanza de la IA para situar estos registros de cada agente dentro del sistema de gestión más amplio.

Gobernanza de IA · 10 de octubre de 2026 · 9 Min.
Un enlace a una fuente no hace fiable un veredicto de una IA. La relación entre un requisito, las evidencias y el veredicto debe poder comprobarse.

Gobernanza de IA · 19 de octubre de 2026 · 6 Min.
Tres normas en tres días: ISO/IEC 27090 para la seguridad de la IA, EN 18286 como primera norma armonizada del Reglamento de IA de la UE e IEEE 2863 para la gobernanza de la IA en el órgano de dirección.

Gobernanza de IA · 18 de octubre de 2026 · 5 Min.
ISO 27090 orienta el trabajo de seguridad de la IA. ISO 42001 establece los requisitos de un sistema de gestión de la IA. Así se diferencian y así puede utilizarlas conjuntamente.
Secani conecta Scopes, evidencias, tareas y agentes de IA en un espacio de trabajo compartido.