• Demostración del teorema de convergenci...

Demostración del teorema de convergencia para redes separables linearmente

Vamos con una red single perceptron layer.

Iniciamos con un w(0)= 0, recuerden que para mejorar los w partimos de algo aleatorio.

Ahora supongamos que a la iteración k para nuestra función de activación, la red no nos da un outpu tdeseado, recuerda que para las funciones hardlims hardlim esta frontera debe ser 0 y para que no se activa <0.

Ahora de la regla de actualización, y asumiendo que el aprendizae alfa toma el siguiente valor de 1 y no cambia con la actualización:

Ahora asumamos que hemos conseguido los pesos que nos activan la funciónd e trasnferencia, que hemos encontrado una solución donde cada ouput será mayor a 0 y tomamos el valor mínimo de todas las posibles combinaciones.

Multiplicacioms w0t a cada miembro de la segunda ecuación y ejercemos desigualdades para la tercera.

Usamos la ecuación de Cauchy para vectores en el miembro izquierdo, el miembro derecho del resultado se deduce de la inecuación de arriba.

Ahora con el primer y tercer término.

Ahora de la relación de aprendizaje y reemplazando k por la letra l, para trabajar con los pesos que no activan la función de trasnferencia.

De la ecuación de arriba y sabiendo que wt*x es menor que cero ya que la función de trasneferencia está desactivada para todos los valores de l que van de 1 a k.

Ahora psando el término de la dercha a la izquierda, obteneos lo de abajo, nota que para eliminar el término w(l) al cuadrado se puede escribir todas las desigualdades para l. l-1,l-2,....,1 sumamos y se va el w(l) al cuadrado.

El libro comete el error de escribir delta como el mínimo debe ser el máximo.

Combinamos la ecuación de delta y theta.

El término de la izquierda es el número de iteraciones que se han hecho y es menor al valor más que está a la derecha, artificalmente le llamamos un kmáx.

Con esto hemos probado que con las condiciones dadas un red single layer perceptron convergerá sí o sí para separar dos regiones en el espacio.

Its a pleasure for me help you. Thanks a lot and see you in next opportunity.