Temario del curso
Introducción a la inferencia de IA con Docker
- Comprensión de las cargas de trabajo de la inferencia de IA.
- Ventajas de la inferencia mediante contenedores.
- Escenarios y limitaciones de implementación.
Construcción de contenedores para inferencia de IA
- Selección de imágenes base y frameworks.
- Empaquetado de modelos preentrenados.
- Estructuración del código de inferencia para su ejecución en contenedores.
Aseguramiento de servicios de IA mediante contenedores
- Minimización de la superficie de ataque del contenedor.
- Gestión de secretos y archivos sensibles.
- Estrategias seguras para el manejo de redes y exposición de APIs.
Técnicas de implementación portátil
- Optimización de imágenes para la portabilidad.
- Aseguramiento de entornos de ejecución predecibles.
- Gestión de dependencias entre plataformas.
Implementación local y pruebas
- Ejecución de servicios localmente con Docker.
- Depuración de contenedores de inferencia.
- Pruebas de rendimiento y fiabilidad.
Despliegue en servidores y máquinas virtuales (VMs) en la nube
- Adaptación de contenedores para entornos remotos.
- Configuración del acceso seguro a los servidores.
- Implementación de APIs de inferencia en VMs en la nube.
Uso de Docker Compose para sistemas de IA de múltiples servicios
- Orquestación de la inferencia junto con componentes de soporte.
- Gestión de variables de entorno y configuraciones.
- Escalar microservicios mediante Compose.
Monitoreo y mantenimiento de servicios de inferencia de IA
- Enfoques de registro de eventos (logging) y observabilidad.
- Detección de fallos en las tuberías de inferencia.
- Actualización y versionado de modelos en producción.
Resumen y próximos pasos
Requerimientos
- Comprensión de los conceptos básicos del aprendizaje automático.
- Experiencia con Python o desarrollo backend.
- Familiaridad con los conceptos fundamentales de los contenedores.
Público objetivo
- Desarrolladores.
- Ingenieros backend.
- Equipos que despliegan servicios de IA.
Reseñas (3)
Cómo los formadores transmiten el conocimiento de manera efectiva
Vu Thoai Le - Reply Polska sp. z o. o.
Curso - Certified Kubernetes Administrator (CKA) - exam preparation
Traducción Automática
el formador tenía mucho conocimiento y paciencia para compartir con nosotros
Bogdan Olaru
Curso - Introduction to Docker
Traducción Automática
El conocimiento y los intercambios con Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Curso - Docker and Kubernetes
Traducción Automática