Creación de operadores de IA personalizados con CANN TIK y TVM

Introducción al desarrollo de operadores personalizados

• ¿Por qué construir operadores personalizados? Casos de uso y restricciones.
• Estructura del tiempo de ejecución de CANN y puntos de integración de operadores.
• Descripción general de TBE, TIK y TVM en el ecosistema de IA de Huawei.

Uso de TIK para la programación de operadores a bajo nivel

• Comprensión del modelo de programación de TIK y las API admitidas.
• Gestión de memoria y estrategia de teselado (tiling) en TIK.
• Creación, compilación y registro de una operación personalizada con CANN.

Pruebas y validación de operaciones personalizadas

• Pruebas unitarias e integración de operaciones en el grafo.
• Depuración de problemas de rendimiento a nivel de kernel.
• Visualización de la ejecución de operaciones y el comportamiento de los búferes.

Programación y optimización basada en TVM

• Descripción general de TVM como compilador para operaciones de tensor.
• Escritura de una programación (schedule) para una operación personalizada en TVM.
• Ajuste (tuning), pruebas de referencia (benchmarking) y generación de código de TVM para Ascend.

Integración con marcos de trabajo (frameworks) y modelos

• Registro de operaciones personalizadas para MindSpore y ONNX.
• Verificación de la integridad del modelo y el comportamiento de alternativa (fallback).
• Soporte para grafos de múltiples operadores con precisión mixta.

Estudios de caso y optimizaciones especializadas

• Estudio de caso: convolución de alta eficiencia para formas de entrada pequeñas.
• Estudio de caso: optimización del operador de atención consciente de la memoria.
• Mejores prácticas en el despliegue de operaciones personalizadas entre dispositivos.

Resumen y próximos pasos