Redes neuronales dinámicas

(1)

Redes neuronales din ´amicas

Diego Milone y Leonardo Rufiner Inteligencia Computacional Departamento de Inform ´atica

(2)

Introducci ´on Clasificaci ´on Redes de Hopfield BPTT Otras

Organizaci ´on

• Introducci ´on: 3 din ´amicas simples

• Clasificaci ´on

• Redes de Hopfield

• Arquitectura

• Entrenamiento

• Prueba

• Retropropagaci ´on a trav ´es del tiempo

(3)

Introducci ´on

¿Por qu ´e din ´amicas?

Aproximaci ón 1: entradas desplazadas Aproximaci ón 2: realimentaci ón de las salidas Aproximaci ón 3: realimentaci ón de estados internos Caso general:

(4)

Introducci ´on

Aproximaci ´on 1: entradas desplazadas

Aproximaci ón 2: realimentaci ón de las salidas Aproximaci ón 3: realimentaci ón de estados internos Caso general:

(5)

Introducci ´on

Aproximaci ón 1: entradas desplazadas Aproximaci ón 2: realimentaci ón de las salidas

Aproximaci ´on 3: realimentaci ´on de estados internos Caso general:

(6)

Introducci ´on

Aproximaci ón 1: entradas desplazadas Aproximaci ón 2: realimentaci ón de las salidas Aproximaci ón 3: realimentaci ón de estados internos

Caso general:

(7)

Introducci ´on

Aproximaci ón 1: entradas desplazadas Aproximaci ón 2: realimentaci ón de las salidas Aproximaci ón 3: realimentaci ón de estados internos Caso general:

(8)

Clasificaci ´on

Redes neuronales din ´amicas (DNN)

• Redes con retardos en el tiempo (TDNN)

• Redes recurrentes (RNN)

• Redes totalmente recurrentes

• Redes de Hopfield (memorias asociativas)

• Redes de Boltzman (supervisadas)

• Teor´ıa de la resonancia adaptativa (ART)

• Redes parcialmente recurrentes (PRNN)

• Retropropagaci ´on a trav ´es del tiempo (BPTT)

• Redes de Elman

(9)

Clasificaci ´on

• Redes de Elman

(10)

Clasificaci ´on

• Redes de Elman

(11)

Clasificaci ´on

• Redes de Elman

(12)

Redes de Hopfield

Arquitectura

Modelo matem ´atico:

yj(n) = sgn(x) = sgn N X i=1 wjiyi(n − 1) − θj ! · · ·    x> 0 +1 x= 0 yj(n − 1) x< 0 −1 wji= wij ∀ i 6= j wii= 0 ∀i

(13)

Redes de Hopfield

Arquitectura

Modelo matem ´atico:

yj(n) = sgn(x) = sgn N X i=1 wjiyi(n − 1) − θj ! · · ·    x> 0 +1 x= 0 yj(n − 1) x< 0 −1 wji= wij ∀ i 6= j wii= 0 ∀i

(14)

Redes de Hopfield: generalidades

• Cada neurona tiene un disparo probabil´ıstico

• Conexiones sim ´etricas

• El entrenamiento es no-supervisado

• Puede utilizarse como memoria asociativa

• Cada patr ´on es un “valle” de energ´ıa

• Se busca el valle iterativamente a partir de ciertas condiciones iniciales (patrones sucios o incompletos)

(15)

Redes de Hopfield: generalidades

(16)

Redes de Hopfield: generalidades

(17)

Redes de Hopfield: generalidades

(18)

Entrenamiento (almacenamiento)

Dado un conjunto de patrones (memorias fundamentales o datos limpios): X∗ =x∗_k ∈ RN Aprendizaje Hebbiano: wji= 1 N P X k=1 x∗_kjx∗_ki

(19)

Entrenamiento (almacenamiento)

Dado un conjunto de patrones (memorias fundamentales o datos limpios): X∗ =x∗_k ∈ RN Aprendizaje Hebbiano: wji= 1 N P X k=1 x_kj∗x∗_ki

(20)

Entrenamiento: observaciones

• El proceso de entrenamiento NO es iterativo

• wjies mayor cuando las neuronas i y j se tienen que activar juntas (regla de Hebb)

• La capacidad de almacenamiento est ´a limitada a: Pmax =

N 2 ln(N) con un 1 % de error.

(21)

Entrenamiento: observaciones

(22)

Entrenamiento: observaciones

(23)

Prueba (recuperaci ´on)

Dado un patr ´on x (incompleto, ruidoso...) se fuerza: y(0) = x Iteraci ´on: 1. j∗= rnd(N) 2. yj∗(n) = sgn _N P i=1 wjiyi(n − 1)

(24)

Prueba (recuperaci ´on)

Dado un patr ´on x (incompleto, ruidoso...) se fuerza: y(0) = x Iteraci ´on: 1. j∗= rnd(N) 2. yj∗(n) = sgn _N P i=1 wjiyi(n − 1)

(25)

Prueba: observaciones

• El proceso de recuperaci ´on ES iterativo (din ´amico)

• En general no se utilizan los θj

• La salida final es y(M) cuando no hay cambios al “recorrer” todas las salidas

(26)

Prueba: observaciones

(27)

Prueba: observaciones

(28)

Prueba: observaciones

(29)

Campos energ ´eticos de Hopfield

• Almacenamiento

(30)

Retropropagaci ´on a trav ´es del tiempo (BPTT)

• Arquitectura con recurrencia total

• Expansi ´on en red de propagaci ´on hacia adelante pura

(31)

Retropropagaci ´on a trav ´es del tiempo (BPTT)

(32)

Retropropagaci ´on a trav ´es del tiempo (BPTT)

(33)

Otras redes que modelan din ´amicas temporales

• Redes neuronales con retardos en el tiempo (TDNN) Arquitectura y entrenamiento

• Arquitecturas neuronales de Elman y Jordan

• Otras m ás: redes pulsadas con sin ápsis din ámicas, m áquinas de estado l´ıquido... etc.

(34)

Otras redes que modelan din ´amicas temporales

Elman

(35)

Otras redes que modelan din ´amicas temporales

Jordan

(36)