Contacta con nosotros

Temario del curso

Visión general de la arquitectura de LLM y superficie de ataque

  • Construcción, implementación y acceso a LLM mediante APIs.
  • Componentes clave en las pilas de aplicaciones LLM (por ejemplo, instrucciones, agentes, memoria, APIs).
  • Dónde y cómo surgen los problemas de seguridad en el uso real.

Inyección de instrucciones y ataques de evasión de seguridad

  • Qué es la inyección de instrucciones y por qué es peligrosa.
  • Escenarios de inyección de instrucciones directa e indirecta.
  • Técnicas de evasión de seguridad para burlar los filtros de protección.
  • Estrategias de detección y mitigación.

Fuga de datos y riesgos de privacidad

  • Exposición accidental de datos a través de las respuestas.
  • Fuga de información personal identificable (PII) y mal uso de la memoria del modelo.
  • Diseño de instrucciones respetuosas con la privacidad y generación aumentada por recuperación (RAG).

Filtrado y protección de la salida de LLM

  • Uso de Guardrails AI para filtrado y validación de contenido.
  • Definición de esquemas y restricciones de salida.
  • Monitoreo y registro de salidas no seguras.

Enfoques de supervisión humana en el bucle y flujos de trabajo

  • Dónde y cuándo introducir supervisión humana.
  • Colas de aprobación, umbrales de puntuación y manejo de alternativas.
  • Calibración de confianza y papel de la explicabilidad.

Patrones de diseño seguro para aplicaciones LLM

  • Principio de menor privilegio y aislamiento en sandbox para llamadas de API y agentes.
  • Límites de velocidad, limitación y detección de abuso.
  • Cadenas robustas con LangChain y aislamiento de instrucciones.

Conformidad, registro y gobernanza

  • Aseguramiento de la auditable de las salidas de LLM.
  • Mantenimiento de la trazabilidad y control de versiones de instrucciones.
  • Conformidad con las políticas de seguridad internas y necesidades regulatorias.

Resumen y próximos pasos

Requerimientos

  • Conocimiento de modelos de lenguaje grandes e interfaces basadas en instrucciones.
  • Experiencia en el desarrollo de aplicaciones LLM utilizando Python.
  • Conocimiento de integraciones de API y despliegues en la nube.

Público objetivo

  • Desarrolladores de IA.
  • Arquitectos de aplicaciones y soluciones.
  • Gerentes de producto técnicos que trabajen con herramientas LLM.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas