Redes Neuronales Artificiales, Aprendizaje Automático y Pensamiento Profundo

DÍA 1 - REDES NEURONALES ARTIFICIALES

Introducción y estructura de las RNN.

• Neuronas biológicas y neuronas artificiales.
• Modelo de una RNN.
• Funciones de activación utilizadas en RNNs.
• Clases típicas de arquitecturas de redes.

Fundamentos matemáticos y mecanismos de aprendizaje.

• Repaso del álgebra de vectores y matrices.
• Conceptos de espacio de estados.
• Conceptos de optimización.
• Aprendizaje de corrección de errores.
• Aprendizaje basado en memoria.
• Aprendizaje Hebbiano.
• Aprendizaje competitivo.

Perceptrones de una sola capa.

• Estructura y aprendizaje de perceptrones.
• Clasificador de patrones - introducción y clasificadores de Bayes.
• Perceptrón como clasificador de patrones.
• Convergencia del perceptrón.
• Limitaciones de los perceptrones.

RNN de propagación hacia adelante (Feedforward).

• Estructuras de redes multicapa de propagación hacia adelante.
• Algoritmo de propagación hacia atrás (Backpropagation).
• Propagación hacia atrás - entrenamiento y convergencia.
• Aproximación funcional con propagación hacia atrás.
• Aspectos prácticos y de diseño del aprendizaje por propagación hacia atrás.

Redes de funciones de base radial (RBF).

• Separabilidad de patrones e interpolación.
• Teoría de regularización.
• Regularización y redes RBF.
• Diseño y entrenamiento de redes RBF.
• Propiedades de aproximación de las RBF.

Aprendizaje competitivo y RNN autoorganizativas.

• Procedimientos generales de agrupamiento (clustering).
• Cuantización de vectores de aprendizaje (LVQ).
• Algoritmos y arquitecturas de aprendizaje competitivo.
• Mapas de características autoorganizativas.
• Propiedades de los mapas de características.

Redes Neuronales Difusas (Fuzzy).

• Sistemas neuro-difusos.
• Fundamentos de conjuntos difusos y lógica difusa.
• Diseño de sistemas difusos.
• Diseño de RNN difusas.

Aplicaciones

• Se discutirán algunos ejemplos de aplicaciones de Redes Neuronales, así como sus ventajas y problemas.

DÍA 2 - APRENDIZAJE AUTOMÁTICO (MACHINE LEARNING)

• Marco de Aprendizaje PAC
  • Garantías para conjuntos de hipótesis finitos – caso consistente
  • Garantías para conjuntos de hipótesis finitos – caso inconsistente
  • Generalidades
    • Escenarios determinísticos vs. estocásticos
    • Ruido de error de Bayes
    • Errores de estimación y aproximación
    • Selección de modelos
• Complejidad Rademacher y Dimensión VC
• Compensación sesgo-varianza (Bias-Variance tradeoff)
• Regularización
• Sobreajuste (Overfitting)
• Validación
• Máquinas de Vectores de Soporte (SVM)
• Kriging (regresión de procesos gaussianos)
• ACP (PCA) y ACP de núcleos (Kernel PCA)
• Mapas de Autoorganización (SOM)
• El espacio vectorial inducido por núcleos
  • Núcleos de Mercer y métricas de similitud inducidas por núcleos
• Aprendizaje por Refuerzo (Reinforcement Learning)

DÍA 3 - APRENDIZAJE PROFUNDO (DEEP LEARNING)

Se enseñará en relación con los temas cubiertos en el Día 1 y el Día 2

• Regresión logística y Softmax
• Autoencodedores dispersos (Sparse Autoencoders)
• Vectorización, ACP y Blanqueamiento (Whitening)
• Aprendizaje autoenseñado (Self-Taught Learning)
• Redes profundas
• Decodificadores lineales
• Convolución y Agrupación (Pooling)
• Codificación dispersa (Sparse Coding)
• Análisis de Componentes Independientes (ICA)
• Análisis de Correlación Canónica (CCA)
• Demuestra y Aplicaciones