Temario del curso
Preparación de modelos de aprendizaje automático para la implementación
- Empaquetado de modelos con Docker
- Exportación de modelos desde TensorFlow y PyTorch
- Consideraciones de versionado y almacenamiento
Servicio de modelos en Kubernetes
- Descripción general de servidores de inferencia
- Implementación de TensorFlow Serving y TorchServe
- Configuración de puntos de enlace (endpoints) para modelos
Técnicas de optimización de inferencia
- Estrategias de procesamiento por lotes
- Gestión de solicitudes concurrentes
- Ajuste de latencia y rendimiento
Escalar automáticamente cargas de trabajo de ML
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Provisionamiento de GPU y gestión de recursos
- Configuración de nodos GPU
- Descripción general del plugin de dispositivo NVIDIA
- Solicitudes y límites de recursos para cargas de trabajo de ML
Estrategias de lanzamiento y liberación de modelos
- Despliegues blue/green
- Patrones de lanzamiento canario
- Pruebas A/B para evaluación de modelos
Monitoreo y observabilidad de ML en producción
- Métricas para cargas de trabajo de inferencia
- Prácticas de registro y trazabilidad
- Paneles de control y alertas
Consideraciones de seguridad y confiabilidad
- Seguridad de los puntos de enlace de modelos
- Políticas de red y control de acceso
- Garantía de alta disponibilidad
Resumen y próximos pasos
Requerimientos
- Conocimiento de los flujos de trabajo de aplicaciones contenerizadas
- Experiencia con modelos de aprendizaje automático basados en Python
- Familiaridad con los fundamentos de Kubernetes
Público objetivo
- Ingenieros de ML
- Ingenieros de DevOps
- Equipos de ingeniería de plataformas
Testimonios (4)
About the microservices and how to maintenance kubernetes
Yufri Isnaini Rochmat Maulana - Bank Indonesia
Curso - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
El buen manejo de los temas por parte del instructor.
Juan Gabriel Garcia Velasco - Banco de Mexico
Curso - Docker (introducing Kubernetes)
El conocimiento y la paciencia del formador para responder a nuestras preguntas.
Calin Avram - REGNOLOGY ROMANIA S.R.L.
Curso - Deploying Kubernetes Applications with Helm
Traducción Automática
