Técnicas de afinación eficiente por parámetros (PEFT) para LLM

Introducción a la afinación eficiente por parámetros (PEFT)

• Motivación y limitaciones de la afinación completa
• Resumen de PEFT: objetivos y beneficios
• Aplicaciones y casos de uso en la industria

LoRA (adaptación de bajo rango)

• Concepto e intuición detrás de LoRA
• Implementación de LoRA utilizando Hugging Face y PyTorch
• Práctica: Afinación de un modelo con LoRA

Adapter Tuning

• Cómo funcionan los módulos de adaptador
• Integración con modelos basados en transformadores
• Práctica: Aplicación de Adapter Tuning a un modelo de transformador

Prefix Tuning

• Uso de indicaciones suaves (soft prompts) para la afinación
• Fortalezas y limitaciones en comparación con LoRA y adaptadores
• Práctica: Prefix Tuning en una tarea de LLM

Evaluación y comparación de métodos PEFT

• Métricas para evaluar el rendimiento y la eficiencia
• Equilibrios entre velocidad de entrenamiento, uso de memoria y precisión
• Experimentos de referencia (benchmarking) e interpretación de resultados

Despliegue de modelos afinados

• Guardado y carga de modelos afinados
• Consideraciones para el despliegue de modelos basados en PEFT
• Integración en aplicaciones y pipelines

Mejores prácticas y extensiones

• Combinación de PEFT con cuantización y destilación
• Uso en entornos con recursos limitados y multilingües
• Direcciones futuras y áreas de investigación activa