MODELO HOPFIELD

MODELO HOPFIELD
Uno de los principales responsables del desarrollo que ha experimentado la computación neuronal ha sido J. Hopfield, quien construyó un modelo de red con el número suficiente de simplificaciones como para poder extraer información sobre las características relevantes del sistema.
Arquitectura
Este modelo consiste en una red monocapa con N neuronas cuyos valores de salida sonbinarios: 0/1 ó -1/+1. Las funciones de activación eran del tipo escalón. Se trata, por tanto, de una red discreta con entradas y salidas binarias; posteriormente Hopfield desarrolló una versión continua con entradas y salidas analógicas utilizando neuronas con funciones de activación de tipo sigmoidal.
Existen conexiones laterales (cada neurona se encuentra conectada a todas las demás) pero noautorrecurrentes (no consigo misma). Los pesos asociados a las conexiones entre pares de neuronas son simétricos (wij = wji)

La versión discreta de esta red fue ideada para trabajar con valores binarios -1 y +1. Por tanto, la función de activación de cada neurona de la red es de tipo escalón:

f(x) = +1 si x > 0i
f(x) = -1 si x < 0i
f(x) = x si x = 0i
0i es el umbral de disparo de la neurona i, querepresenta el desplazamiento de la función de transferencia a lo largo del eje de ordenadas (x). En este modelo suele adoptarse un valor proporcional a la suma de los pesos de las conexiones de cada neurona con el resto:
0i = k SumNj=1 wji
donde :
 
 
Sum es la sumatoria desde j = 1 hasta N
 
k es la constante de proporcionalidad
Si se trabaja con los valores binarios -1 y +1, suele considerarse elvalor nulo para 0i. Si los valores son 0 y 1, se toma un valor de 1/2 para k.
Funcionamiento
La información que recibe la red debe haber sido previamente codificada y representada en forma de vector (como una configuración binaria o como un conjunto de valores reales dependiendo de si la red es discreta o continua) con tantas componentes como neuronas (N) tenga la red. Cada neurona recibe unelemento del vector.
Centrándonos en una sola neurona el funcionamiento sería el siguiente:
1. Recibe como entrada la salida de cada una de las otras neuronas (por las conexiones laterales). Estos valores de salida, inicialmente coinciden con las entradas del vector, multiplicadas por los pesos de las conexiones correspondientes. La suma de todos estos valores constituirá el valor de entrada neta dela neurona a la que hay que aplicarle la función de transferencia obteniéndose el valor de salida correspondiente. En el instante inicial (t=0) la información de entrada es (e1, e2, ...eN)
si(t=0) = ei
 
1 <= i <= N

si(t+1) = f (Sum wij sj(t) - 0i)
 
1 <= i <= N
2. Este proceso continúa hasta que las salidas de las neuronas se estabilizan, alcanzan la convergencia, durante algunas iteraciones.si(t+1) = si(t)
La red Hopfield continua, con funciones de activación de tipo sigmoidal, ofrece más posibilidades que la discreta ya que permite almacenar patrones formados por valores reales (por ejemplo, imágenes en color o en blanco y negro con diferentes tonalidades de grises).
Otro aspecto importante en el funcionamiento de la red es el instante en que se produce la generación o actualizaciónde las salidas. Si la actualización se realiza de forma simultánea en todas las neuronas el funcionamiento es paralelo o síncrono. Si, por el contrario, las neuronas trabajan de forma secuencial, actualizándose sólo la salida de una neurona en cada iteración, se trata de una red secuencial o asíncrona. En este caso la salida a la que converge la red puede ser diferente en función del orden de lasecuencia de activación.
Aprendizaje
El mecanismo de aprendizaje utilizado es de tipo OFF LINE, por lo que existe una etapa de aprendizaje y otra de funcionamiento de la red. También utiliza un aprendizaje no supervisado de tipo hebbiano, de tal forma que el peso de una conexión entre una neurona i y otra j se obtiene mediante el producto de los componentes i-ésimo y j-ésimo del vector que...