Gracias por enviar su consulta! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Gracias por enviar su reserva! Uno de los miembros de nuestro equipo se pondrá en contacto con usted en breve.
Temario del curso
Implementación de EXO sin conexión
- Uso de EXO_OFFLINE para evitar el acceso a Internet en tiempo de ejecución.
- Carga previa de modelos en EXO_MODELS_READ_ONLY_DIRS desde espejos internos confiables.
- Verificación de la integridad de los pesos del modelo mediante comprobaciones SHA-256 y tarjetas de modelo firmadas.
- Ejecución de EXO en redes air-gapped (aisladas) sin dependencias de HuggingFace.
Control de acceso al panel de control y a la API
- Instalación y configuración de proxies inversos (nginx, Caddy) con terminación TLS.
- Implementación de control de acceso basado en roles para el panel de control de EXO y la API REST.
- Uso de la llavero de macOS o de Linux pass para almacenar secretos para la autenticación de API.
- Restricción de los puntos de conexión administrativos a rangos específicos de IP de origen.
Aislamiento de clústeres y seguridad de red
- Segmentación de clústeres de EXO con EXO_LIBP2P_NAMESPACE y VLAN.
- Configuración de firewalls de host (firewall de aplicaciones de macOS, iptables, nftables) para los puertos de EXO.
- Prevención del descubrimiento de dispositivos no autorizados y la inyección de nodos maliciosos.
- Cifrado del tráfico de libp2p entre nodos cuando RDMA no esté disponible.
Gobernanza y procedencia de modelos
- Creación de un registro interno de modelos con listas aprobadas de modelos y metadatos.
- Etiquetado y control de versiones de pesos cuantizados (4-bit, 8-bit) junto con los puntos de referencia de origen.
- Imposición de la carga solo de repositorios específicos de HuggingFace o de artefactos internos.
- Documentación de la línea de tiempo del modelo, términos de licencia y políticas de uso aceptable.
Registro de auditoría y cumplimiento
- Configuración del envío de registros de EXO a pistas de auditoría inmutables (SIEM, almacenamiento WORM).
- Correlación de registros de llamadas a la API con la identidad del usuario y la marca de tiempo.
- Captura de eventos de creación, eliminación y solicitud de inferencia de instancias de modelo.
- Generación de informes periódicos de cumplimiento para auditores internos y externos.
Modelado de amenazas y respuesta a incidentes
- Identificación de amenazas: exfiltración de datos a través de las salidas del modelo, inyección de instrucciones (prompt injection) y fugas por canales laterales.
- Implementación de tuberías de monitoreo de instrucciones y filtrado de contenido.
- Creación de manuales de respuesta a incidentes para escenarios de compromiso del clúster.
- Aislamiento de los nodos afectados, preservación de registros forenses y reconstrucción de entornos limpios.
Seguridad física y límites de hardware
- Seguridad de los puertos Thunderbolt contra conexiones de cables RDMA no autorizadas.
- Uso de enclaves seguros y atestación de hardware de Apple Silicon donde sea aplicable.
- Control del acceso físico a los Macs en clúster y al almacenamiento compartido.
- Documentación del ciclo de vida del hardware y de los procedimientos de baja.
Consideraciones normativas
- Mapeo de las implementaciones de EXO a los requisitos de GDPR, HIPAA y SOC 2.
- Mantenimiento de la residencia de datos manteniendo la inferencia en instalaciones propias.
- Documentación de los riesgos de la cadena de suministro del proveedor (MLX, EXO, pesos de modelo).
- Preparación para marcos de gobernanza de IA como el Artículo 53 de la Ley de IA de la UE.
Requerimientos
- Experiencia con EXO o con otro entorno de ejecución de modelos de lenguaje grandes (LLM) locales.
- Comprensión de los permisos del sistema de archivos Unix y de las ACL de red.
- Conocimiento sobre la gestión de certificados TLS/SSL y conceptos básicos de cifrado.
Público objetivo
- Ingenieros de seguridad.
- Oficiales de cumplimiento.
- Administradores de infraestructura de IA que manejan datos sensibles.
14 Horas
Testimonios (1)
El instructor tenía un excelente conocimiento de FortiGate y entregó el contenido muy bien. Muchas gracias a Soroush.
Colin Donohue - Technological University of the Shannon: Midlands Midwest
Curso - FortiGate 7.4 Administration
Traducción Automática
