Hopfield (Memoria Autooasociativa)

RED de HOPFIELD

· Una de las mayores contribuciones al área de las redes neuronales fue realizada en los años 1980 por John Hopfield, quien estudió modelos aoutoasociativos que presentaban algunas similaridades con los perceptrones, pero incluía también grandes diferencias.

· El concepto de memoria asociativa es bastante intuitivo: se trata simplemente de asociar dos patrones. Dentro de este concepto definiremos diferentes tipos de memorias asociativas:

• Memoria heteroasociativa: Establece una correspondencia F entre dos vectores X,Y de tal manera que F(xi)=yi, y si un x arbitrario está más próximo a xi que a cualquier otro xj, entonces F(x)=yi. En esta definición, el estar más próximo quiere decir con respecto a la Distancia De Hamming.
• Memoria asociativa interpoladora: Establece una correspondencia F entre X e Y de tal manera que F(x)=yi, pero si el vector de entrada difiere de uno de los ejemplares en el vector d, de tal modo que x=xi+d, entonces la salida será yi+d.
• Memoria autoasociativa: Supóngase que Y=X, y apliquemos lo que se dijo en la primera definción.

· Se han realizado las anteriores definiciones para centranos ahora en el modelo de Hopfield. Primero diremos que la estructura de red neuronal que propone viene ha ser una memoria autoasociativa., de una sóla capa, totalmente conectada y recurrente.

CARACTERÍSTICAS:

• Es una estructura en donde la matriz de pesos es cuadrada y simétrica. Es decir los pesos de un PE a otro tiene el mismo valor en ambas direcciones. · Cada PE está conectado con todos los demás, incluso con si mismo pero el valor de dicha conexión es 0, significando que el PE no se realimenta a si mismo.
• La función de tranferencia de cada PE, que normalmente se suele utilizar, es una hardlimiter y los PE calculan la suma de los pesos por las entradas menos un cierto umbral, pasando a través de la función de transferencia, produciendo así su estado de salida.
• Las entradas son 2 estados: binarias (0,1) o bipolar (-1,1).

FUNCIONAMIENTO:

• Las entradas son aplicadas a la red, ésta a través de un ciclo produce una succesión de estados, hasta que converge a una solución estable, la cual ocurre cuando las salidas de los diferentes PES no cambian.
• Entonces la salida que produce la red es la combinación de todas las salidas de los PEs, cuando éstos se encuentran estables.
  • Una manera simple de visualizar el sistema es considerar que, ya que todos los PEs están conectados entre sí, el PE que se encuentra activado afecta a todos los demás. El estado inicial, representa un conjunto de valores diferentes, cada uno tratando de afectar a los demás.
  • Esto, comunmente es inestable, como la red se mueve a través de diferentes estados, al final se obtendrá el mejor compromiso, que la red puede encontrar. En este estado existen muchas entradas que tratan de activar un PE y existen otras que tratan de desactivarlo, eso al final significa un estado estable.

IDEA GENERAL:

• La operación de la red es totalmente diferente al sistema de perceptrón. En el modelo de Hopfield, la primera salida es tomada como entrada en el ciclo siguiente, produciendo una nueva salida.
• Por tanto el aprendizaje es también diferente; en este sistema no se trata de ajustar pesos ya que éstos se mantienen constantes desde el principio, se trata de encontrar dichos pesos, en función del problema.
• De tal manera que el conjunto total del sistema puede venir representado por una función denominada Función de Energía.

MÉTODO:El algorítmo para redes de Hopfield es el siguiente:

1. Inicializar las conexiones de los PEs.
   • i,j- representan a diferentes PE.
   • s- representa una clase de patrones, donde X es su representante.
   • M- representa el número de patrones.
2. Inicializar el primer estado con un patrón desconocido.: *i(0)=xi
3. Repetir hasta la convergencia de la red:Normalmente el Umbral es cero. Fh- es la función de transferencia: hardlimiter
4. Se debe repetir el paso 3 hasta que las salidas de todos los nodos no cambien.

• Los pesos entre los diferentes PEs son inicializados utilizando la ecuación expuesta anteriormente, utilizando un patrón muestra de cada clase.
• Esta fase es el Estado de Búsqueda y en ella se trata de asociar cada patrón consigo mismo.
• El Estado de Reconocimiento ocurre cuando la salida de la red es forzada a un patrón desconocido, en el instante inicial; a partir de ese momento, el sistema actúa libremente en pasos discretos, hasta que encuentra una situación estable; la red converge a la solución.

La Autoasociación de patrones, significaría que la presentación de un patrón de entrada con un cierto ruido, producirá el patrón correcto como salida.

M. González Penedo