Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Introducción al Desarrollo de Operadores Personalizados
- ¿Por qué construir operadores personalizados? Casos de uso y restricciones.
- Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
- Visión general de TBE, TIK y TVM en el ecosistema de IA de Huawei.
Uso de TIK para la Programación de Operadores de Bajo Nivel
- Comprensión del modelo de programación TIK y las API admitidas.
- Gestión de memoria y estrategia de descomposición (tiling) en TIK.
- Creación, compilación y registro de un operador personalizado con CANN.
Pruebas y Validación de Operadores Personalizados
- Pruebas unitarias e integración de operadores en el grafo.
- Depuración de problemas de rendimiento a nivel de núcleo.
- Visualización de la ejecución del operador y el comportamiento de los búferes.
Programación y Optimización Basada en TVM
- Visión general de TVM como un compilador para operaciones de tensores.
- Escritura de una programación (schedule) para un operador personalizado en TVM.
- Sintonización, medición de rendimiento y generación de código de TVM para Ascend.
Integración con Marcos de Trabajo y Modelos
- Registro de operadores personalizados para MindSpore y ONNX.
- Verificación de la integridad del modelo y el comportamiento de fallback.
- Soporte para grafos de múltiples operadores con precisión mixta.
Estudios de Caso y Optimizaciones Especializadas
- Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas.
- Estudio de caso: optimización de operadores de atención conscientes de la memoria.
- Mejores prácticas en el despliegue de operadores personalizados en dispositivos.
Resumen y Próximos Pasos
Requerimientos
- Conocimiento sólido de los componentes internos de los modelos de IA y el cómputo a nivel de operador.
- Experiencia con entornos de desarrollo en Python y Linux.
- Familiaridad con compiladores de redes neuronales u optimizadores a nivel de grafos.
Público Objetivo
- Ingenieros de compiladores que trabajan en herramientas de IA.
- Desarrolladores de sistemas enfocados en la optimización de bajo nivel de IA.
- Desarrolladores que crean operaciones personalizadas o que apuntan a cargas de trabajo de IA novedosas.
14 Horas