Contacta con nosotros

Temario del curso

Introducción a QLoRA y la cuantificación

  • Visión general de la cuantificación y su papel en la optimización de modelos.
  • Introducción al framework QLoRA y sus beneficios.
  • Diferencias clave entre QLoRA y los métodos tradicionales de ajuste fino.

Fundamentos de los Modelos de Lenguaje Grandes (LLM)

  • Introducción a los LLM y su arquitectura.
  • Desafíos del ajuste fino de modelos grandes a escala.
  • Cómo la cuantificación ayuda a superar las restricciones computacionales en el ajuste fino de LLM.

Implementación de QLoRA para el ajuste fino de LLM

  • Configuración del framework QLoRA y el entorno.
  • Preparación de conjuntos de datos para el ajuste fino con QLoRA.
  • Guía paso a paso para implementar QLoRA en LLM utilizando Python y PyTorch/TensorFlow.

Optimización del rendimiento del ajuste fino con QLoRA

  • Cómo equilibrar la precisión y el rendimiento del modelo con la cuantificación.
  • Técnicas para reducir los costos de cómputo y el uso de memoria durante el ajuste fino.
  • Estrategias para realizar el ajuste fino con requisitos mínimos de hardware.

Evaluación de modelos ajustados finamente

  • Cómo evaluar la efectividad de los modelos ajustados finamente.
  • Métricas de evaluación comunes para modelos de lenguaje.
  • Optimización del rendimiento del modelo después del ajuste y solución de problemas.

Despliegue y escalado de modelos ajustados finamente

  • Mejores prácticas para desplegar LLM cuantizados en entornos de producción.
  • Escalado del despliegue para manejar solicitudes en tiempo real.
  • Herramientas y frameworks para el despliegue y monitoreo de modelos.

Casos de uso reales y estudios de caso

  • Estudio de caso: Ajuste fino de LLM para soporte al cliente y tareas de PLN.
  • Ejemplos de ajuste fino de LLM en varias industrias como salud, finanzas y comercio electrónico.
  • Lecciones aprendidas de despliegues reales de modelos basados en QLoRA.

Resumen y próximos pasos

Requerimientos

  • Comprensión de los fundamentos del aprendizaje automático y las redes neuronales.
  • Experiencia con el ajuste fino de modelos y el aprendizaje por transferencia.
  • Familiaridad con modelos de lenguaje grandes (LLM) y frameworks de aprendizaje profundo (por ejemplo, PyTorch, TensorFlow).

Audiencia

  • Ingenieros de aprendizaje automático.
  • Desarrolladores de IA.
  • Científicos de datos.
 14 Horas

Número de participantes


Precio por participante

Próximos cursos

Categorías Relacionadas