Contacta con nosotros

Temario del curso

Fundamentos: Modelos de amenaza para IA agente

  • Tipos de amenazas de agentes: mal uso, escalada, fuga de datos y riesgos en la cadena de suministro
  • Perfiles de adversarios y capacidades de ataque específicas para agentes autónomos
  • Mapeo de activos, límites de confianza y puntos de control críticos para agentes

Gobernanza, política y gestión de riesgos

  • Marcos de gobernanza para sistemas agentes (roles, responsabilidades, puntos de aprobación)
  • Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y auditabilidad
  • Consideraciones de cumplimiento y recopilación de evidencia para auditorías

Identidad y autenticación no humana para agentes

  • Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de corta duración
  • Patrones de acceso de mínimo privilegio y acreditación bajo demanda
  • Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación

Controles de acceso, secretos y protección de datos

  • Modelos de control de acceso detallado y patrones basados en capacidades para agentes
  • Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
  • Protección de fuentes de conocimiento confidencial y datos personales frente al acceso no autorizado por agentes

Observabilidad, auditoría y respuesta a incidentes

  • Diseño de telemetría para el comportamiento del agente: trazado de intenciones, registros de comandos y procedencia
  • Integración con SIEM, umbrales de alerta y preparación forense
  • Manuales de procedimiento y juegos de guerra para incidentes relacionados con agentes y contención

Pruebas de penetración de sistemas agentes

  • Planificación de ejercicios de pruebas de penetración: alcance, reglas de compromiso y conmutación por error segura
  • Técnicas adversarias: inyección de prompts, mal uso de herramientas, manipulación del pensamiento en cadena y abuso de API
  • Ejecución de ataques controlados y medición de la exposición e impacto

Endurecimiento y mitigaciones

  • Controles de ingeniería: limitación de respuestas, habilitación de capacidades y aislamiento (sandboxing)
  • Controles de política y orquestación: flujos de aprobación, intervención humana y puntos de enlace de gobernanza
  • Defensas a nivel de modelo y prompt: validación de entrada, canonización y filtros de salida

Operacionalización de implementaciones seguras de agentes

  • Patrones de implementación: entorno de pruebas, implementación canario y despliegue progresivo para agentes
  • Control de cambios, tuberías de prueba y verificaciones de seguridad previas al despliegue
  • Gobernanza interfuncional: manuales de procedimiento de seguridad, legal, producto y operaciones

Proyecto final: Ejercicio de pruebas de penetración / defensa

  • Ejecutar un ataque simulado de equipo rojo contra un entorno de agente aislado
  • Defender, detectar y remediar como equipo azul utilizando controles y telemetría
  • Presentar hallazgos, plan de remedación y actualizaciones de políticas

Resumen y próximos pasos

Requerimientos

  • Sólida experiencia en ingeniería de seguridad, administración de sistemas u operaciones en la nube
  • Familiaridad con conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM)
  • Experiencia con gestión de identidad y acceso (IAM) y diseño de sistemas seguros

Audiencia

  • Ingenieros de seguridad y expertos en pruebas de penetración
  • Ingenieros de operaciones de IA y plataformas
  • Oficiales de cumplimiento y gestores de riesgos
  • Líderes de ingeniería responsables de la implementación de agentes
 21 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas