Contacta con nosotros

Temario del curso

Día 1
Anatomía de un Agente de IA Moderno

Más allá de los chatbots: agentes como sistemas autónomos de razonamiento y actuación

Paradigmas de agentes reactivos, proactivos, híbridos y orientados a objetivos

Componentes centrales: percepción, planificación, memoria, uso de herramientas y acción

Compensaciones (tradeoffs) en el diseño de sistemas de un solo agente versus múltiples agentes

Frameworks de Agentes y el Stack Moderno

LangChain, LlamaIndex, AutoGen, CrewAI y sus compensaciones

Comparación con frameworks clásicos como JADE y SPADE

Cómo elegir un framework según los requisitos de producción

Llamado de herramientas (tool calling), llamado de funciones y salidas estructuradas

Práctica: creación de la estructura base de un agente Python individual con llamadas a herramientas

Arquitecturas de Sistemas Multi-Agente

Diseños MAS centralizados, descentralizados, híbridos y en capas

FIPA ACL, paso de mensajes y sus equivalentes modernos

Patrones de coordinación: planificación, negociación y sincronización

Comportamiento emergente y autoorganización en poblaciones de agentes

Toma de Decisiones y Aprendizaje en Agentes

Teoría de juegos para interacciones cooperativas y competitivas entre agentes

Aprendizaje por refuerzo en entornos multi-agente

Aprendizaje por transferencia y intercambio de conocimientos entre agentes

Resolución de conflictos y confianza entre agentes que coordinan sus acciones

Día 2
Fundamentos Multimodales para Agentes

La IA multimodal como un flujo de trabajo unificado que abarca texto, imagen, voz y video

Modelos multimodales líderes: GPT-4 Vision, Gemini, Claude, Whisper

Técnicas de fusión para combinar modalidades dentro del bucle de razonamiento del agente

Compensaciones entre latencia, coste y precisión en los pipelines multimodales

Construcción de la Capa de Percepción

Procesamiento de imágenes para agentes: clasificación, generación de descripciones y detección de objetos

Reconocimiento de voz con Whisper ASR y transcripción en streaming

Síntesis de texto a voz e interacción con voz natural

Conexión de los resultados de la percepción con el razonamiento impulsado por LLM y la selección de herramientas

Práctica - Construcción de un Agente Multimodal en Python

Definición de la tarea del agente, la ventana de contexto y el inventario de herramientas

Conexión completa (end-to-end) de las API de GPT-4 Vision y Whisper

Implementación de gestión de memoria, estado y conversación

Añadido de llamadas a herramientas que produzcan efectos secundarios en el mundo real de forma segura

Práctica - Orquestación de un Sistema Multi-Agente

Composición de agentes especializados con AutoGen o CrewAI

Definición de roles, responsabilidades y protocolos de comunicación entre agentes

Distribución de recursos y coordinación en un entorno simulado

Registro del razonamiento del agente, llamadas a herramientas y decisiones para inspección y auditoría

Día 3
Superficie de Amenaza de los Agentes de IA en Producción

Qué hace que la IA agéntica sea única y vulnerable comparada con el software tradicional

Superficie de ataque: capas de datos, modelo, prompt, herramienta, salida e interfaz

Modelado de amenazas para sistemas basados en agentes con uso autónomo de herramientas

Comparación de prácticas de ciberseguridad de IA con la ciberseguridad tradicional

Práctica: Ataques Adversarios

Ejemplos adversarios y métodos de perturbación: FGSM, PGD, DeepFool

Escenarios de ataques en caja blanca versus caja negra

Ataques de inversión de modelos e inferencia de membresía

Envenenamiento de datos e inyección de puertas traseras durante el entrenamiento

Inyección de prompts, jailbreaking y uso indebido de herramientas en agentes basados en LLM

Técnicas Defensivas y Endurecimiento del Modelo

Estrategias de entrenamiento adversario y aumento de datos

Destilación defensiva y otras técnicas de robustez

Preprocesamiento de entrada, enmascaramiento de gradientes y regularización

Privacidad diferencial, inyección de ruido y presupuestos de privacidad

Aprendizaje federado y agregación segura para entrenamiento distribuido

Práctica con la Adversarial Robustness Toolbox

Simulación de ataques contra el agente multimodal construido en el Día 2

Medición de la robustez bajo perturbación y cuantificación del deterioro

Aplicación iterativa de defensas y reevaluación de las tasas de éxito del ataque

Prueba de estrés de las vías de llamada a herramientas y vectores de inyección de prompts

Día 4
Frameworks de Gestión de Riesgos para IA

NIST AI Risk Management Framework: gobernar, mapear, medir y gestionar

ISO/IEC 42001 y estándares emergentes específicos para IA

Mapeo del riesgo de IA a los frameworks GRC (Gobernanza, Riesgo y Cumplimiento) empresariales existentes

Requisitos de responsabilidad, auditabilidad y documentación de la IA

Cumplimiento Regulatorio para Sistemas Agénticos

Ley de IA de la UE: niveles de riesgo, usos prohibidos y obligaciones para sistemas de alto riesgo

Implicaciones del GDPR y CCPA para los pipelines de datos de los agentes

Orden Ejecutiva de EE. UU. sobre IA Segura, Confiable y Fidedigna

Orientaciones específicas por sector para finanzas, salud y servicios públicos

Riesgo de terceros y uso de herramientas de IA de proveedores

Ética, Sesgo y Explicabilidad

Detección y mitigación del sesgo a través de la percepción y el razonamiento del agente

Explicabilidad y transparencia como propiedades relevantes para la seguridad

Ecuidad, daño posterior y despliegue responsable

Diseño de comportamiento de agente inclusivo y auditado

Despliegue en Producción, Monitoreo y Respuesta ante Incidentes

Patrones de despliegue seguro para sistemas de un solo y múltiples agentes

Monitoreo continuo de desviaciones (drift), anomalías y abusos

Registro, registros de auditoría y preparación forense para las acciones del agente

Manuales de respuesta a incidentes de seguridad de IA y recuperación

Casos de estudio de brechas reales de IA y lecciones aprendidas

Proyecto Final y Síntesis

Revisión del sistema multi-agente multimodal construido a lo largo del curso

Revisión integral del pipeline: diseño, construcción, seguridad, gobernanza y despliegue

Autoevaluación del sistema según las funciones del NIST AI RMF

Perspectivas futuras sobre tendencias emergentes en IA agéntica y seguridad de la IA

Resumen y Próximos Pasos

Requerimientos

Público Objetivo

Ingenieros y arquitectos de IA que construyen sistemas agénticos para uso en producción. Profesionales de ciberseguridad, riesgo y cumplimiento responsables de la garantía de calidad de la IA en industrias reguladas como finanzas, salud y consultoría. Desarrolladores senior y líderes de soluciones que integran capacidades multimodales y multi-agente en plataformas empresariales.

 28 Horas

Número de participantes


Precio por participante

Reseñas (3)

Próximos cursos

Categorías Relacionadas