Contacta con nosotros

Temario del curso

Visión general de la arquitectura LLM y superficie de ataque

  • Cómo se construyen, despliegan y acceden a los LLM a través de APIs
  • Componentes clave en las pilas de aplicaciones LLM (por ejemplo, prompts, agentes, memoria, APIs)
  • Dónde y cómo surgen los problemas de seguridad en el uso del mundo real

Inyección de comandos y ataques de evasión de restricciones

  • Qué es la inyección de comandos y por qué es peligrosa
  • Escenarios de inyección de comandos directa e indirecta
  • Técnicas de evasión de restricciones para superar los filtros de seguridad
  • Estrategias de detección y mitigación

Fuga de datos y riesgos de privacidad

  • Exposición accidental de datos a través de las respuestas
  • Fugas de información personalmente identificable (PII) y mal uso de la memoria del modelo
  • Diseño de prompts conscientes de la privacidad y generación aumentada con recuperación (RAG)

Filtrado y protección de la salida LLM

  • Uso de Guardrails AI para filtrado y validación de contenido
  • Definición de esquemas y restricciones de salida
  • Monitoreo y registro de salidas no seguras

Enfoques de supervisión humana en el proceso y flujos de trabajo

  • Dónde y cuándo introducir la supervisión humana
  • Colas de aprobación, umbrales de puntuación y manejo de respaldo (fallback)
  • Calibración de confianza y el papel de la explicabilidad

Patrones de diseño seguro para aplicaciones LLM

  • Principio de mínimo privilegio y aislamiento (sandboxing) para llamadas de API y agentes
  • Limitación de velocidad, throttling y detección de abusos
  • Cadenas robustas con LangChain y aislamiento de prompts

Cumplimiento, registro y gobernanza

  • Asegurar la audibilidad de las salidas LLM
  • Mantener la trazabilidad y el control de versiones de los prompts
  • Alineación con las políticas de seguridad interna y necesidades regulatorias

Resumen y próximos pasos

Requerimientos

  • Comprensión de los modelos de lenguaje grande (LLM) e interfaces basadas en comandos (prompts).
  • Experiencia construyendo aplicaciones LLM utilizando Python
  • Conocimiento de integraciones de API y despliegues basados en la nube

Audiencia

  • Desarrolladores de IA
  • Arquitectos de aplicaciones y soluciones
  • Gerentes de producto técnicos que trabajan con herramientas LLM
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas