Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude
Ollama es una herramienta de código abierto para ejecutar modelos de lenguaje grande localmente en hardware de consumo y empresarial. Abstrae la cuantización de modelos, la asignación de GPU y el servicio de API en una única interfaz de línea de comandos, lo que permite a las organizaciones autoalojar LLMs como Llama, Mistral y Qwen sin enviar indicaciones ni datos a OpenAI, Anthropic o Google.
Esta formación en vivo impartida por un instructor (en línea o presencial) está dirigida a ingenieros de IA y operadores de plataforma intermedios que desean utilizar Ollama para reemplazar las APIs de LLM en la nube con inferencia de modelos de lenguaje autoalojados y soberanos.
Al final de esta formación, los participantes serán capaces de:
- Instalar Ollama en Linux, macOS y Windows con soporte para GPU.
- Extraer, cuantizar y servir modelos desde el registro de Ollama y HuggingFace.
- Crear Modelfiles personalizados con indicaciones del sistema y ajuste de parámetros.
- Integrar LLMs locales con aplicaciones mediante la API compatible con OpenAI.
- Optimizar el rendimiento de inferencia para configuraciones solo de CPU y multi-GPU.
Formato del Curso
- Conferencia interactiva y discusión.
- Muchas ejercicios y práctica.
- Implementación práctica en un entorno de laboratorio en vivo.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarlo.
Temario del curso
Soberanía de IA y Despliegue Local de LLM
- Riesgos de los LLMs en la nube: retención de datos, entrenamiento con entradas, jurisdicción extranjera.
- Arquitectura de Ollama: servidor de modelos, registro y API compatible con OpenAI.
- Comparación con vLLM, llama.cpp y Text Generation Inference.
- Licenciamiento de modelos: términos de Llama, Mistral, Qwen y Gemma.
Instalación y Configuración de Hardware
- Instalación de Ollama en Linux con soporte CUDA y ROCm.
- Plan B solo con CPU y optimización AVX/AVX2.
- Despliegue con Docker y mapeo de volúmenes persistentes.
- Configuración multi-GPU y estrategias de asignación de VRAM.
Gestión de Modelos
- Extracción de modelos desde el registro de Ollama: ollama pull llama3.
- Importación de modelos GGUF desde HuggingFace y TheBloke.
- Niveles de cuantización: compensaciones entre Q4_K_M, Q5_K_M, Q8_0.
- Cambio de modelos y límites de carga concurrente de modelos.
Modelfiles Personalizados
- Escribir sintaxis de Modelfile: FROM, PARAMETER, SYSTEM, TEMPLATE.
- Ajuste de temperatura, top_p y repeat_penalty.
- Ingeniería de indicaciones del sistema para comportamiento específico del rol.
- Creación y publicación de modelos personalizados en el registro local.
Integración de API
- Endpoint /v1/chat/completions compatible con OpenAI.
- Respuestas en streaming y modo JSON.
- Integración con LangChain, LlamaIndex y aplicaciones personalizadas.
- Autenticación y límite de tasa mediante proxy inverso.
Optimización del Rendimiento
- Tamaño de la ventana de contexto y gestión de KV cache.
- Inferencia por lotes y manejo de solicitudes en paralelo.
- Asignación de hilos de CPU y conciencia de NUMA.
- Monitoreo de utilización de GPU y presión de memoria.
Seguridad y Cumplimiento
- Aislamiento de red para endpoints de servicio de modelos.
- Pipelines de filtrado de entradas y moderación de salidas.
- Registro de auditoría de indicaciones y completados.
- Procedencia del modelo y verificación de hash.
Requerimientos
- Administración intermedia de Linux y contenedores.
- Comprensión a alto nivel de aprendizaje automático y modelos transformadores.
- Conocimiento de APIs REST y JSON.
Público Objetivo
- Ingenieros de IA y desarrolladores que reemplazan APIs de LLM en la nube.
- Organizaciones con sensibilidad de datos que impide el uso de modelos en la nube.
- Equipos gubernamentales y de defensa que requieren modelos de lenguaje aislados de la red (air-gapped).
Los cursos públicos requieren más de 5 participantes.
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Reserva
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Consulta
Ollama: Modelos de Lenguaje Grande autoalojados que reemplazan las APIs de OpenAI y Claude - Solicitud de consultoría
Próximos cursos
Cursos Relacionados
Depuración y Evaluación Avanzada de Modelos Ollama
35 HorasLa Depuración y Evaluación Avanzada de Modelos Ollama es un curso en profundidad centrado en diagnosticar, probar y medir el comportamiento de los modelos al implementar Ollama de forma local o privada.
Esta formación impartida por un instructor (en línea o en las instalaciones) está dirigida a ingenieros de IA de nivel avanzado, profesionales de ML Ops y especialistas en QA que deseen garantizar la fiabilidad, la fidelidad y la capacidad operativa de los modelos basados en Ollama en entornos de producción.
Al finalizar esta formación, los participantes serán capaces de:
- Realizar una depuración sistemática de los modelos alojados en Ollama y reproducir los modos de fallo de manera fiable.
- Diseñar y ejecutar pipelines de evaluación robustos con métricas cuantitativas y cualitativas.
- Implementar observabilidad (registros, rastros, métricas) para monitorear la salud del modelo y la deriva.
- Automatizar las pruebas, la validación y las comprobaciones de regresión integradas en los pipelines de CI/CD.
Formato del curso
- Conferencia interactiva y discusión.
- Laboratorios prácticos y ejercicios de depuración con implementaciones de Ollama.
- Estudios de caso, sesiones grupales de resolución de problemas y talleres de automatización.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinarlo.
Construcción de flujos de trabajo de IA privada con Ollama
14 HorasEsta formación en vivo con instructivo en Costa Rica (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean implementar flujos de trabajo impulsados por IA, seguros y eficientes, utilizando Ollama.
Al final de esta formación, los participantes serán capaces de:
- Implementar y configurar Ollama para el procesamiento de IA privada.
- Integrar modelos de IA en flujos de trabajo empresariales seguros.
- Optimizar el rendimiento de la IA mientras se mantiene la privacidad de los datos.
- Automatizar procesos empresariales con capacidades de IA local (on-premise).
- Garantizar el cumplimiento de las políticas de seguridad y gobernanza empresarial.
Despliegue y optimización de LLM con Ollama
14 HorasEsta formación en vivo y guiada por un instructor en Costa Rica (en línea o presencial) está dirigida a profesionales de nivel intermedio que deseen implementar, optimizar e integrar LLM utilizando Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar e implementar LLM utilizando Ollama.
- Optimizar los modelos de IA para el rendimiento y la eficiencia.
- Aprovechar la aceleración por GPU para mejorar las velocidades de inferencia.
- Integrar Ollama en flujos de trabajo y aplicaciones.
- Monitorear y mantener el rendimiento de los modelos de IA a lo largo del tiempo.
EXO: Implementación de un clúster de IA local de extremo a extremo
21 HorasEsta formación presencial impartida por un instructor en Costa Rica (en línea o presencial) está dirigida a administradores de sistemas e ingenieros DevOps que deseen implementar, configurar y gestionar clústeres EXO para la inferencia privada de LLM a través de múltiples nodos con chip Apple Silicon o Linux.
EXO para DevOps: Construcción de Infraestructura de IA Privada
21 HorasEsta formación en vivo, impartida por un instructor, en Costa Rica (en línea o presencial), está dirigida a ingenieros de DevOps y arquitectos de infraestructura que desean automatizar el aprovisionamiento, la supervisión y la gestión del ciclo de vida de clústeres de IA privados construidos sobre EXO.
Seguridad y Gobernanza de EXO: Gestión de Modelos sin Conexión
14 HorasEsta formación en vivo impartida por un instructor en Costa Rica (en línea o presencial) está dirigida a ingenieros de seguridad y oficiales de cumplimiento que deseen reforzar las implementaciones de EXO, controlar el acceso a los modelos y gobernar las cargas de trabajo de inteligencia artificial que se ejecutan exclusivamente en instalaciones propias.
Ajuste Fino y Personalización de Modelos de IA en Ollama
14 HorasEsta formación en vivo con instructor en Costa Rica (en línea o presencial) está dirigida a profesionales de nivel avanzado que desean ajustar finamente y personalizar modelos de IA en Ollama para mejorar el rendimiento y aplicaciones específicas del dominio.
Al finalizar esta formación, los participantes podrán:
- Configurar un entorno eficiente para ajustar finamente modelos de IA en Ollama.
- Preparar conjuntos de datos para el ajuste fino supervisado y el aprendizaje por refuerzo.
- Optimizar modelos de IA para rendimiento, precisión y eficiencia.
- Desplegar modelos personalizados en entornos de producción.
- Evaluar las mejoras de los modelos y garantizar su robustez.
IA Agrícola Local Segura: Desarrollo de Ollama en las Instalaciones para Industrias Reguladas
21 HorasEsta formación en vivo dirigida por instructores en Costa Rica (en línea o presencial) está dirigida a desarrolladores y equipos técnicos que desean utilizar Ollama y modelos abiertos para construir e implementar soluciones de IA agrícola privadas en infraestructura interna.
Al final de esta formación, los participantes podrán: instalar y configurar Ollama, evaluar e implementar modelos abiertos localmente, crear flujos de trabajo agrícolas simples y basados en recuperación, y aplicar controles de seguridad y gobernanza para entornos regulados.
Aplicaciones multimodales con Ollama
21 HorasOllama es una plataforma que permite ejecutar y ajustar modelos de lenguaje grandes y multimodales de forma local.
Esta formación en vivo impartida por instructores (en línea o presencial) está dirigida a ingenieros de ML de nivel avanzado, investigadores de IA y desarrolladores de productos que deseen construir e implementar aplicaciones multimodales con Ollama.
Al finalizar esta formación, los participantes serán capaces de:
- Configurar y ejecutar modelos multimodales con Ollama.
- Integrar entradas de texto, imagen y audio para aplicaciones del mundo real.
- Construir sistemas de comprensión de documentos y de preguntas y respuestas visuales.
- Desarrollar agentes multimodales capaces de razonar a través de múltiples modalidades.
Formato del curso
- Clase interactiva y debate.
- Práctica con conjuntos de datos multimodales reales.
- Implementación en laboratorio en vivo de pipelines multimodales utilizando Ollama.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, póngase en contacto con nosotros para organizarla.
Introducción a Ollama: Ejecución de Modelos de IA Locales
7 HorasEsta capacitación en vivo y dirigida por un instructor en Costa Rica (en línea o presencial) está dirigida a profesionales de nivel principiante que desean instalar, configurar y utilizar Ollama para ejecutar modelos de IA en sus máquinas locales.
Al finalizar esta capacitación, los participantes podrán:
- Comprender los fundamentos de Ollama y sus capacidades.
- Configurar Ollama para ejecutar modelos de IA locales.
- Implementar e interactuar con LLM mediante Ollama.
- Optimizar el rendimiento y el uso de recursos para cargas de trabajo de IA.
- Explorar casos de uso para la implementación de IA local en diversas industrias.
Ollama y Privacidad de los Datos: Patrones de Despliegue Seguro
14 HorasOllama es una plataforma que permite ejecutar modelos de lenguaje grande y multimodales de forma local, al mismo tiempo que soporta estrategias de despliegue seguro.
Esta formación en vivo, con instrucción directa (en línea o presencial), está dirigida a profesionales de nivel intermedio que deseen desplegar Ollama con medidas sólidas de privacidad de datos y cumplimiento normativo.
Al finalizar esta formación, los participantes serán capaces de:
- Desplegar Ollama de manera segura en entornos contenerizados y en sus propias instalaciones.
- Aplicar técnicas de privacidad diferencial para proteger datos sensibles.
- Implementar prácticas seguras de registro, monitoreo y auditoría.
- Aplicar controles de acceso a los datos alineados con los requisitos de cumplimiento.
Formato del Curso
- Conferencias interactivas y debates.
- Ejercicios prácticos sobre patrones de despliegue seguro.
- Estudios de casos y ejercicios prácticos centrados en el cumplimiento normativo.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar.
Aplicaciones de Ollama en Finanzas
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes localmente.
Esta formación en vivo con instructor (en línea o presencial) está dirigida a profesionales de finanzas y personal de TI de nivel intermedio que deseen implementar, personalizar y operar soluciones de IA basadas en Ollama en entornos financieros.
Al completar esta formación, los participantes adquirirán las habilidades necesarias para:
- Implementar y configurar Ollama para un uso seguro en operaciones financieras.
- Integrar modelos de lenguaje grandes locales en flujos de trabajo de análisis y generación de informes.
- Adaptar los modelos a la terminología y tareas específicas del sector financiero.
- Aplicar las mejores prácticas de seguridad, privacidad y cumplimiento normativo.
Formato del Curso
- Clase interactiva y discusión.
- Ejercicios prácticos con datos financieros.
- Implementación en laboratorio en vivo de escenarios enfocados en finanzas.
Opciones de Personalización del Curso
- Para solicitar una formación personalizada para este curso, contáctenos para coordinar los detalles.
Aplicaciones de Ollama en el sector salud
14 HorasOllama es una plataforma ligera para ejecutar modelos de lenguaje grandes de forma local.
Esta formación en vivo y con instrucción directa (en línea o presencial) está dirigida a profesionales de la salud y equipos de TI de nivel intermedio que deseen implementar, personalizar y operativizar soluciones de IA basadas en Ollama dentro de entornos clínicos y administrativos.
Al completar esta formación, los participantes podrán:
- Instalar y configurar Ollama para un uso seguro en entornos de salud.
- Integrar modelos de lenguaje grandes locales en flujos de trabajo clínicos y procesos administrativos.
- Personalizar modelos para terminología y tareas específicas del sector salud.
- Aplicar las mejores prácticas en privacidad, seguridad y cumplimiento normativo.
Formato del curso
- Conferencia interactiva y discusión.
- Demostraciones prácticas y ejercicios guiados.
- Implementación práctica en un entorno de simulación de salud en ambiente controlado.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinarla.
Ollama para una IA responsable y gobernanza
14 HorasOllama es una plataforma para ejecutar modelos de lenguaje grande (LLM) y multimodales localmente, apoyando prácticas de gobernanza y de IA responsable.
Esta formación en vivo con instrucción presencial (en línea o in situ) está dirigida a profesionales de nivel intermedio a avanzado que desean implementar equidad, transparencia y responsabilidad en aplicaciones impulsadas por Ollama.
Al finalizar esta formación, los participantes podrán:
- Aplicar principios de IA responsable en los despliegues de Ollama.
- Implementar estrategias de filtrado de contenido y mitigación del sesgo.
- Diseñar flujos de trabajo de gobernanza para la alineación y la capacidad de auditoría de la IA.
- Establecer marcos de monitoreo y reporte para el cumplimiento normativo.
Formato del curso
- Clase magistral interactiva y discusión.
- Laboratorios prácticos de diseño de flujos de trabajo de gobernanza.
- Estudios de casos y ejercicios centrados en el cumplimiento.
Opciones de personalización del curso
- Para solicitar una formación personalizada para este curso, por favor contáctenos para coordinar.
IA soberana para organizaciones reguladas: control de datos, modelos y entornos de inferencia
7 HorasEsta capacitación en vivo con instructores en Costa Rica (en línea o presencial) está dirigida a líderes de TI de nivel intermedio, profesionales del cumplimiento normativo, equipos de seguridad y arquitectos empresariales que desean aplicar principios de IA soberana y prácticas de gobernanza para diseñar entornos de IA que protejan los datos confidenciales, respalden los requisitos de localización y reduzcan la dependencia exclusiva de proveedores.
Al finalizar esta capacitación, los participantes podrán explicar conceptos de IA soberana, evaluar opciones de alojamiento y gobernanza, definir controles para las entradas (prompts) y los registros, y crear una hoja de ruta práctica para su adopción.
