Evaluación de seguridad de IA para tus clientes

1. ¿Sabes qué herramientas y asistentes de IA usan los empleados?

Recomendación: Haz un descubrimiento de las apps y extensiones de IA en uso antes de escribir reglas: una política escrita a ciegas suele prohibir lo que nadie usa y pasar por alto lo que todos hacen.

2. ¿Existe una política de uso aceptable de IA?

Recomendación: Publica una política breve de uso aceptable de IA que nombre las herramientas aprobadas, los datos prohibidos y quién aprueba herramientas nuevas; pide a los empleados que la acepten.

3. ¿Qué impide que lleguen datos sensibles a los prompts y archivos subidos?

Recomendación: Agrega controles técnicos que inspeccionen prompts y archivos en busca de datos regulados y confidenciales, en lugar de depender solo de la capacitación.

4. ¿Los empleados tienen alternativas aprobadas a las herramientas de IA de consumo?

Recomendación: Ofrece una herramienta de IA empresarial aprobada y una vía para pedir nuevas; prohibir sin dar alternativa empuja el uso hacia cuentas que no puedes ver.

1. ¿Está escrito el propósito de cada sistema de IA?

Recomendación: Lleva un registro breve por flujo de IA: propósito aprobado, datos a los que accede, acciones que puede y no puede realizar, límites conocidos y próxima fecha de revisión.

2. ¿Hay responsables nombrados, con autoridad, para cada sistema de IA?

Recomendación: Nombra un responsable de negocio, uno técnico y uno de operación que pueda suspender el servicio; una etiqueta de responsable solo sirve con autoridad y una vía de escalamiento.

3. ¿Qué pasa cuando alguien agrega una herramienta, una fuente de datos o un modelo?

Recomendación: Une los cambios de IA al control de cambios: una herramienta, fuente de datos, permiso o modelo nuevo debería requerir la misma aprobación que el despliegue original.

4. ¿Cómo se evalúa el riesgo de la IA?

Recomendación: Evalúa el riesgo de IA con una estructura como el NIST AI RMF, más allá de la seguridad: la confiabilidad que exige la tarea y los efectos en las personas a las que sirve el sistema.

1. ¿Con qué identidad funcionan los agentes e integraciones de IA?

Recomendación: Da a cada agente su propia identidad gestionada; un agente con las credenciales de un gerente puede hacer todo lo que el gerente puede, antes de que el modelo cometa un error.

2. ¿Cómo se limitan los permisos de los agentes?

Recomendación: Limita los permisos al flujo y aplica los límites de recurso y de tenant en el servicio dueño de los datos; permitir el nombre de una herramienta no basta.

3. ¿Dónde están las credenciales de los agentes?

Recomendación: Saca las credenciales de los agentes de los prompts y la configuración y llévalas a un gestor de secretos o a una identidad de carga de trabajo, con tokens de corta duración y alcance limitado.

4. ¿Se ha probado alguna vez quitarle el acceso a un agente?

Recomendación: Prueba la revocación en un entorno controlado: desactiva el agente y mide cuándo se detiene realmente el acceso, incluidas sesiones, trabajos en cola y conexiones posteriores.

1. ¿Hay un inventario de las herramientas, servidores MCP y modelos de IA en uso?

Recomendación: Mantén un catálogo aprobado de herramientas, servidores MCP, modelos y fuentes de datos de IA, cada uno con un responsable y el motivo de su admisión.

2. ¿Cómo se evalúa una herramienta o servidor MCP nuevo antes de usarlo?

Recomendación: Admite componentes con evidencia: procedencia, código cuando está disponible y comportamiento en una prueba aislada con datos sintéticos; un escaneo limpio es solo el punto de partida.

3. ¿Sabes qué versión de cada componente se aprobó?

Recomendación: Fija las versiones revisadas de los componentes propios y vigila los alojados para detectar cambios; una aprobación vale para una versión exacta haciendo una tarea exacta.

4. ¿Puedes retirar o revertir un componente rápidamente?

Recomendación: Haz que retirar y revertir sean parte del proceso del catálogo, para que descubrir un problema produzca una respuesta concreta.

1. ¿Un agente que lee contenido externo (correo, documentos, web) también puede realizar acciones sensibles?

Recomendación: Separa los flujos que leen contenido no confiable de los que tienen permisos sensibles; pedirle al modelo que 'ignore el contenido malicioso' no reemplaza el control sobre lo que se puede ejecutar.

2. ¿Se validan las llamadas a herramientas antes de ejecutarlas?

Recomendación: Valida en el servidor cada llamada a herramientas propuesta (tipos de campo, valores permitidos, pertenencia al tenant y autoridad) antes de ejecutarla.

3. ¿Se inspecciona el contenido en busca de inyección de instrucciones y datos sensibles?

Recomendación: Inspecciona entradas, resultados de herramientas y salidas en las rutas que lo necesitan, y decide qué hace el flujo cuando el servicio de inspección no está disponible.

4. Cuando una persona aprueba una acción de IA, ¿qué ve?

Recomendación: Ata la aprobación humana a la acción concreta (destinatario, contenido, datos y efecto) y exige una nueva decisión si eso cambia.

1. ¿Se registran las acciones de los agentes de forma que se pueda reconstruir un incidente?

Recomendación: Registra cada acción relevante de un agente con su identidad, contexto, decisión de política y resultado real, unidos por identificadores de correlación entre sistemas.

2. ¿Hay un runbook para contener un agente de IA?

Recomendación: Escribe un runbook de contención con cada mecanismo (identidad, credenciales, trabajos, red, conectores), quién lo controla y cómo verificar que funcionó; luego ejercítalo.

3. ¿Se vuelven a probar los controles de IA después de los cambios?

Recomendación: Mantén un set de pruebas repetible con tareas de uso indebido y legítimo, y repítelo tras cambios importantes de modelos, instrucciones, herramientas o permisos.

4. ¿Alguien revisa la seguridad de la IA con una frecuencia fija?

Recomendación: Haz una revisión mensual con métricas (cobertura de auditoría, usos indebidos que tuvieron éxito, trabajo legítimo bloqueado, tiempo de contención) y ciérrala con decisiones.

1. ¿Las altas, cambios y bajas (joiner/mover/leaver) se automatizan desde el sistema de RR. HH.?

Recomendación: Automatiza altas, cambios y bajas desde RR. HH., incluidos cambios de puesto y contratistas; cada cuenta de servicio y agente está ligado a una persona cuyo acceso debe estar bien primero.

2. ¿Los managers certifican los accesos de su equipo?

Recomendación: Haz certificaciones de acceso al menos trimestrales en sistemas críticos y ejecuta las revocaciones que resulten.

3. ¿Cómo se controla el acceso privilegiado?

Recomendación: Pon el acceso privilegiado bajo PAM con rotación de credenciales, grabación de sesiones y acceso just-in-time; comprometer a un administrador es comprometer también los secretos que puede ver.

4. ¿Las cuentas de servicio, claves de API y certificados están inventariados con responsables?

Recomendación: Inventaría cuentas de servicio, claves y certificados con responsables y rotación; sin una propiedad confiable, el ciclo de vida de las identidades no humanas no funciona.