Ajuste Fino de Modelos y Modelos de Lenguaje Grande (LLMs)

Introducción al Ajuste Fino

• ¿Qué es el ajuste fino?
• Casos de uso y beneficios del ajuste fino.
• Descripción general de los modelos preentrenados y el aprendizaje por transferencia.

Preparación para el Ajuste Fino

• Recopilación y limpieza de conjuntos de datos.
• Comprensión de los requisitos de datos específicos de la tarea.
• Análisis exploratorio de datos y preprocesamiento.

Técnicas de Ajuste Fino

• Aprendizaje por transferencia y extracción de características.
• Ajuste fino de transformadores con Hugging Face.
• Ajuste fino para tareas supervisadas frente a no supervisadas.

Ajuste Fino de Modelos de Lenguaje Grande (LLMs)

• Adaptación de LLMs para tareas de PLN (p. ej., clasificación de texto, resumen).
• Entrenamiento de LLMs con conjuntos de datos personalizados.
• Control del comportamiento de LLMs mediante ingeniería de instrucciones (prompt engineering).

Optimización y Evaluación

• Ajuste de hiperparámetros.
• Evaluación del rendimiento del modelo.
• Abordar el sobreajuste y el subajuste.

Escalado de los Esfuerzos de Ajuste Fino

• Ajuste fino en sistemas distribuidos.
• Aprovechamiento de soluciones basadas en la nube para la escalabilidad.
• Estudios de caso: Proyectos de ajuste fino a gran escala.

Mejores Prácticas y Desafíos

• Mejores prácticas para el éxito del ajuste fino.
• Desafíos comunes y resolución de problemas.
• Consideraciones éticas en el ajuste fino de modelos de IA.

Tópicos Avanzados (Opcional)

• Ajuste fino de modelos multimodales.
• Aprendizaje con cero ejemplos (zero-shot) y con pocos ejemplos (few-shot).
• Exploración de técnicas LoRA (Adaptación de Baja Rango).

Resumen y Próximos Pasos