Contacta con nosotros

Temario del curso

Introducción al Desarrollo de Operadores Personalizados

  • ¿Por qué construir operadores personalizados? Casos de uso y restricciones.
  • Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
  • Visión general de TBE, TIK y TVM en el ecosistema de IA de Huawei.

Uso de TIK para la Programación de Operadores de Bajo Nivel

  • Comprensión del modelo de programación TIK y las API admitidas.
  • Gestión de memoria y estrategia de descomposición (tiling) en TIK.
  • Creación, compilación y registro de un operador personalizado con CANN.

Pruebas y Validación de Operadores Personalizados

  • Pruebas unitarias e integración de operadores en el grafo.
  • Depuración de problemas de rendimiento a nivel de núcleo.
  • Visualización de la ejecución del operador y el comportamiento de los búferes.

Programación y Optimización Basada en TVM

  • Visión general de TVM como un compilador para operaciones de tensores.
  • Escritura de una programación (schedule) para un operador personalizado en TVM.
  • Sintonización, medición de rendimiento y generación de código de TVM para Ascend.

Integración con Marcos de Trabajo y Modelos

  • Registro de operadores personalizados para MindSpore y ONNX.
  • Verificación de la integridad del modelo y el comportamiento de fallback.
  • Soporte para grafos de múltiples operadores con precisión mixta.

Estudios de Caso y Optimizaciones Especializadas

  • Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas.
  • Estudio de caso: optimización de operadores de atención conscientes de la memoria.
  • Mejores prácticas en el despliegue de operadores personalizados en dispositivos.

Resumen y Próximos Pasos

Requerimientos

  • Conocimiento sólido de los componentes internos de los modelos de IA y el cómputo a nivel de operador.
  • Experiencia con entornos de desarrollo en Python y Linux.
  • Familiaridad con compiladores de redes neuronales u optimizadores a nivel de grafos.

Público Objetivo

  • Ingenieros de compiladores que trabajan en herramientas de IA.
  • Desarrolladores de sistemas enfocados en la optimización de bajo nivel de IA.
  • Desarrolladores que crean operaciones personalizadas o que apuntan a cargas de trabajo de IA novedosas.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas