Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Fundamentos: Modelos de amenaza para IA agente
- Tipos de amenazas de agentes: mal uso, escalada, fuga de datos y riesgos en la cadena de suministro
- Perfiles de adversarios y capacidades de ataque específicas para agentes autónomos
- Mapeo de activos, límites de confianza y puntos de control críticos para agentes
Gobernanza, política y gestión de riesgos
- Marcos de gobernanza para sistemas agentes (roles, responsabilidades, puntos de aprobación)
- Diseño de políticas: uso aceptable, reglas de escalada, manejo de datos y auditabilidad
- Consideraciones de cumplimiento y recopilación de evidencia para auditorías
Identidad y autenticación no humana para agentes
- Diseño de identidades para agentes: cuentas de servicio, JWT y credenciales de corta duración
- Patrones de acceso de mínimo privilegio y acreditación bajo demanda
- Ciclo de vida de la identidad, rotación, delegación y estrategias de revocación
Controles de acceso, secretos y protección de datos
- Modelos de control de acceso detallado y patrones basados en capacidades para agentes
- Gestión de secretos, cifrado en tránsito y en reposo, y minimización de datos
- Protección de fuentes de conocimiento confidencial y datos personales frente al acceso no autorizado por agentes
Observabilidad, auditoría y respuesta a incidentes
- Diseño de telemetría para el comportamiento del agente: trazado de intenciones, registros de comandos y procedencia
- Integración con SIEM, umbrales de alerta y preparación forense
- Manuales de procedimiento y juegos de guerra para incidentes relacionados con agentes y contención
Pruebas de penetración de sistemas agentes
- Planificación de ejercicios de pruebas de penetración: alcance, reglas de compromiso y conmutación por error segura
- Técnicas adversarias: inyección de prompts, mal uso de herramientas, manipulación del pensamiento en cadena y abuso de API
- Ejecución de ataques controlados y medición de la exposición e impacto
Endurecimiento y mitigaciones
- Controles de ingeniería: limitación de respuestas, habilitación de capacidades y aislamiento (sandboxing)
- Controles de política y orquestación: flujos de aprobación, intervención humana y puntos de enlace de gobernanza
- Defensas a nivel de modelo y prompt: validación de entrada, canonización y filtros de salida
Operacionalización de implementaciones seguras de agentes
- Patrones de implementación: entorno de pruebas, implementación canario y despliegue progresivo para agentes
- Control de cambios, tuberías de prueba y verificaciones de seguridad previas al despliegue
- Gobernanza interfuncional: manuales de procedimiento de seguridad, legal, producto y operaciones
Proyecto final: Ejercicio de pruebas de penetración / defensa
- Ejecutar un ataque simulado de equipo rojo contra un entorno de agente aislado
- Defender, detectar y remediar como equipo azul utilizando controles y telemetría
- Presentar hallazgos, plan de remedación y actualizaciones de políticas
Resumen y próximos pasos
Requerimientos
- Sólida experiencia en ingeniería de seguridad, administración de sistemas u operaciones en la nube
- Familiaridad con conceptos de IA/ML y comportamiento de modelos de lenguaje grandes (LLM)
- Experiencia con gestión de identidad y acceso (IAM) y diseño de sistemas seguros
Audiencia
- Ingenieros de seguridad y expertos en pruebas de penetración
- Ingenieros de operaciones de IA y plataformas
- Oficiales de cumplimiento y gestores de riesgos
- Líderes de ingeniería responsables de la implementación de agentes
21 Horas