Temario del curso
Día 1
Anatomía de un Agente de IA Moderno
Más allá de los chatbots: agentes como sistemas autónomos de razonamiento y actuación
Paradigmas de agentes reactivos, proactivos, híbridos y orientados a objetivos
Componentes centrales: percepción, planificación, memoria, uso de herramientas y acción
Compensaciones (tradeoffs) en el diseño de sistemas de un solo agente versus múltiples agentes
Frameworks de Agentes y el Stack Moderno
LangChain, LlamaIndex, AutoGen, CrewAI y sus compensaciones
Comparación con frameworks clásicos como JADE y SPADE
Cómo elegir un framework según los requisitos de producción
Llamado de herramientas (tool calling), llamado de funciones y salidas estructuradas
Práctica: creación de la estructura base de un agente Python individual con llamadas a herramientas
Arquitecturas de Sistemas Multi-Agente
Diseños MAS centralizados, descentralizados, híbridos y en capas
FIPA ACL, paso de mensajes y sus equivalentes modernos
Patrones de coordinación: planificación, negociación y sincronización
Comportamiento emergente y autoorganización en poblaciones de agentes
Toma de Decisiones y Aprendizaje en Agentes
Teoría de juegos para interacciones cooperativas y competitivas entre agentes
Aprendizaje por refuerzo en entornos multi-agente
Aprendizaje por transferencia y intercambio de conocimientos entre agentes
Resolución de conflictos y confianza entre agentes que coordinan sus acciones
Día 2
Fundamentos Multimodales para Agentes
La IA multimodal como un flujo de trabajo unificado que abarca texto, imagen, voz y video
Modelos multimodales líderes: GPT-4 Vision, Gemini, Claude, Whisper
Técnicas de fusión para combinar modalidades dentro del bucle de razonamiento del agente
Compensaciones entre latencia, coste y precisión en los pipelines multimodales
Construcción de la Capa de Percepción
Procesamiento de imágenes para agentes: clasificación, generación de descripciones y detección de objetos
Reconocimiento de voz con Whisper ASR y transcripción en streaming
Síntesis de texto a voz e interacción con voz natural
Conexión de los resultados de la percepción con el razonamiento impulsado por LLM y la selección de herramientas
Práctica - Construcción de un Agente Multimodal en Python
Definición de la tarea del agente, la ventana de contexto y el inventario de herramientas
Conexión completa (end-to-end) de las API de GPT-4 Vision y Whisper
Implementación de gestión de memoria, estado y conversación
Añadido de llamadas a herramientas que produzcan efectos secundarios en el mundo real de forma segura
Práctica - Orquestación de un Sistema Multi-Agente
Composición de agentes especializados con AutoGen o CrewAI
Definición de roles, responsabilidades y protocolos de comunicación entre agentes
Distribución de recursos y coordinación en un entorno simulado
Registro del razonamiento del agente, llamadas a herramientas y decisiones para inspección y auditoría
Día 3
Superficie de Amenaza de los Agentes de IA en Producción
Qué hace que la IA agéntica sea única y vulnerable comparada con el software tradicional
Superficie de ataque: capas de datos, modelo, prompt, herramienta, salida e interfaz
Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas
Comparación de prácticas de ciberseguridad de IA con la ciberseguridad tradicional
Práctica: Ataques Adversarios
Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool
Escenarios de ataques en caja blanca versus caja negra
Ataques de inversión de modelos e inferencia de membresía
Envenenamiento de datos e inyección de puertas traseras durante el entrenamiento
Inyección de prompts, jailbreaking y uso indebido de herramientas en agentes basados en LLM
Técnicas Defensivas y Endurecimiento del Modelo
Estrategias de entrenamiento adversario y aumento de datos
Destilación defensiva y otras técnicas de robustez
Preprocesamiento de entrada, enmascaramiento de gradientes y regularización
Privacidad diferencial, inyección de ruido y presupuestos de privacidad
Aprendizaje federado y agregación segura para entrenamiento distribuido
Práctica con la Adversarial Robustness Toolbox
Simulación de ataques contra el agente multimodal construido en el Día 2
Medición de la robustez bajo perturbación y cuantificación del deterioro
Aplicación iterativa de defensas y reevaluación de las tasas de éxito del ataque
Prueba de estrés de las vías de llamada a herramientas y vectores de inyección de prompts
Día 4
Frameworks de Gestión de Riesgos para IA
NIST AI Risk Management Framework: gobernar, mapear, medir y gestionar
ISO/IEC 42001 y estándares emergentes específicos para IA
Mapeo del riesgo de IA a los frameworks GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes
Requisitos de responsabilidad, auditabilidad y documentación de la IA
Cumplimiento Regulatorio para Sistemas Agénticos
Ley de IA de la UE: niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo
Implicaciones del GDPR y CCPA para los pipelines de datos de los agentes
Orden Ejecutiva de EE. UU. sobre IA Segura, Confiable y Fidedigna
Orientaciones específicas por sector para finanzas, salud y servicios públicos
Riesgo de terceros y uso de herramientas de IA de proveedores
Ética, Sesgo y Explicabilidad
Detección y mitigación del sesgo a través de la percepción y el razonamiento del agente
Explicabilidad y transparencia como propiedades relevantes para la seguridad
Ecuidad, daño posterior y despliegue responsable
Diseño de comportamiento de agente inclusivo y auditado
Despliegue en Producción, Monitoreo y Respuesta ante Incidentes
Patrones de despliegue seguro para sistemas de un solo y múltiples agentes
Monitoreo continuo de desviaciones (drift), anomalías y abusos
Registro, registros de auditoría y preparación forense para las acciones del agente
Manuales de respuesta a incidentes de seguridad de IA y recuperación
Casos de estudio de brechas reales de IA y lecciones aprendidas
Proyecto Final y Síntesis
Revisión del sistema multi-agente multimodal construido a lo largo del curso
Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza y despliegue
Autoevaluación del sistema según las funciones del NIST AI RMF
Perspectivas futuras sobre tendencias emergentes en IA agéntica y seguridad de la IA
Resumen y Próximos Pasos
Requerimientos
Público Objetivo
Ingenieros y arquitectos de IA que construyen sistemas agénticos para uso en producción. Profesionales de ciberseguridad, riesgo y cumplimiento responsables de la garantía de calidad de la IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que integran capacidades multimodales y multi-agente en plataformas empresariales.
Reseñas (3)
El instructor es paciente y muy útil. Conoce bien el tema.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
Curso - Agentic AI for Business Automation: Use Cases & Integration
Traducción Automática
Buena mezcla de conocimiento y práctica
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Agentic AI for Enterprise Applications
Traducción Automática
La mezcla de teoría y práctica, así como de perspectivas de alto y bajo nivel
Ion Mironescu - Facultatea S.A.I.A.P.M.
Curso - Autonomous Decision-Making with Agentic AI
Traducción Automática