Construcción de Aplicaciones con Modelos de Lenguaje Grande (LLM) Seguras y Responsables

Visión general de la arquitectura LLM y superficie de ataque

• Cómo se construyen, despliegan y acceden a los LLM a través de APIs
• Componentes clave en las pilas de aplicaciones LLM (por ejemplo, prompts, agentes, memoria, APIs)
• Dónde y cómo surgen los problemas de seguridad en el uso del mundo real

Inyección de comandos y ataques de evasión de restricciones

• Qué es la inyección de comandos y por qué es peligrosa
• Escenarios de inyección de comandos directa e indirecta
• Técnicas de evasión de restricciones para superar los filtros de seguridad
• Estrategias de detección y mitigación

Fuga de datos y riesgos de privacidad

• Exposición accidental de datos a través de las respuestas
• Fugas de información personalmente identificable (PII) y mal uso de la memoria del modelo
• Diseño de prompts conscientes de la privacidad y generación aumentada con recuperación (RAG)

Filtrado y protección de la salida LLM

• Uso de Guardrails AI para filtrado y validación de contenido
• Definición de esquemas y restricciones de salida
• Monitoreo y registro de salidas no seguras

Enfoques de supervisión humana en el proceso y flujos de trabajo

• Dónde y cuándo introducir la supervisión humana
• Colas de aprobación, umbrales de puntuación y manejo de respaldo (fallback)
• Calibración de confianza y el papel de la explicabilidad

Patrones de diseño seguro para aplicaciones LLM

• Principio de mínimo privilegio y aislamiento (sandboxing) para llamadas de API y agentes
• Limitación de velocidad, throttling y detección de abusos
• Cadenas robustas con LangChain y aislamiento de prompts

Cumplimiento, registro y gobernanza

• Asegurar la audibilidad de las salidas LLM
• Mantener la trazabilidad y el control de versiones de los prompts
• Alineación con las políticas de seguridad interna y necesidades regulatorias

Resumen y próximos pasos