Entrenamiento de la CNP

ENTRENAMIENTO DE LA CNP

Dado que en la estructura se utilizan dos aprendizajes diferentes, tendremos que considerar cada uno por separado: así se debe de entrenar en primer lugar la estructura competitiva y a continuación la estructura supervisada.

Estructura competitiva.

La estructura competitiva (Capa de Entrada y Oculta) se entrenan utilizando el algoritmo de aprendizaje de la Instar ( Si fuese el caso de que el PE ganador produce una salida 1 y todos los demás 0).

1. Se seleccionan los vectores de entrada y se inicializan los pesos
2. Se aplica un vector de entrada y se calcula la neurona ganadora en la capa oculta (pesos próximos a la entrada)
3. Se modifican los pesos de la neurona ganadora de la capa oculta con la capa de entrada, siguiendo la regla siguiente:
4. Se repiten los pasos 2 y 3 tantas veces como patrones haya.
5. Se repiten el paso 4 hasta que los pesos se hayan estabilizado

Estructura Supervisada.

Una vez que se ha entrenado la zona competitiva y tenemos asignada cada una de las neuronas ocultas a una clase diferente se procede a entrenar la capa de salida. Varias Formas:

• Supongamos que los patrones de entrenamiento están distribuidos en diferentes clases y para cada clase tenemos una salida deseada (sólo una). Esto supone que en la capa oculta cada clase activará un sólo PE y nos bastaría entonces hacer que los pesos asociados a dicho PE y los PE de la capa de salida fuesen igual al vector de salida deseado.
• Si por el contrario, si a diferentes vectores de entrada, pertenecientes a la misma clase (mismo PE en la capa competitiva), se le asociasen salidas deseadas diferentes, entonces se aplicaría un algoritmo de aprendizaje supervisado por corrección de errores.
  • Se aplica un vector de entrada y su correspondiente salida deseada.
  • Se determina la unidad ganadora en la capa competitiva.
  • Se actualizan los pesos de las conexiones que van de los PEs de la capa competitiva a las unidades de salida, utilizando la siguiente expresión (Outstart).
  • 
  • Se repiten los pasos del 1 al 3 hasta obtener las salidas deseadas para cada patrón.

Tenemos que hacer varias consideraciones:

• En la capa competitiva para cada patrón sólo se activa un PE con lo que las salidas de los demás PE en dicha capa serán 0.
• Los únicos pesos que se modificarán en la estructura supervisada serán los que se correspondan a las conexiones de los PEs de la capa de salida con el PE ganador en la capa competitiva.
• Anteriormente se ha dicho que la capa de salida es una Outstar y que en la bibliografía nos podíamos encontrar con que dicha capa fuese del tipo Perceptrón. Esta similitud viene dada por lo siguiente: La regla de modificación de pesos para el Perceptrón es la siguiente:
• Si consideramos:
  • Función de Transferencia de los PEs (capa de salida) es lineal
  • La salida de los PEs (capa oculta) es 0 o 1 dependiendo si es la ganadora o no. La expresión anterior se convierte en la siguiente:
  • Misma Ley que para el Outstart

M. González Penedo