Redes Neuronales III

Entrenamiento por Propagación hacia Atrás

(aprendizaje Supervisado)

El algoritmo de backpropagation se introdujo originalmente en la década de 1970, pero su importancia no se apreció completamente hasta un famoso artículo de 1986 de David Rumelhart, Geoffrey Hinton y Ronald Williams. Este documento describe varias redes neuronales en las que la retropropagación funciona mucho más rápido que los enfoques de aprendizaje anteriores, lo que hace posible utilizar redes neuronales para resolver problemas que anteriormente habían sido insolubles.

Pero, y cómo funciona... En redes neuronales se busca ajustar los pesos de cada neurona de tal manera que se minimice el error. El algoritmo de backpropagation nos indica cuanto de culpa tiene cada neurona del error global cometido.

La forma en que como se calcula la culpa que tiene cada neurona en el error es lo que da sentido al nombre de backpropagation, ya que primeramente calcula la culpa del error de cada neurona de la última capa y lo va propagando hacia atrás para ver cuanta culta tienen el resto.

Se podría decir que pondera el reparto del error para cada una de las neuronas de la red.

El algoritmo de backpropagation determina la culpa del error, calculando las derivadas parciales de la función de coste con respecto a cada una de las variables.

Observa esta imagen a continuación y ve como se van desarrollando los cálculos hacia delante y al llegar al final se regresa por el camino hasta llegar al inicio se modifican los pesos y se vuelve a dirigir hacia delante.

Recuerda este ejercicio 👇es el  ejemplo que vimos en clases y que volví a subir aquí 

en este ejercicio solo fuimos hacia delante. En el algoritmo de Propagación hacia Atrás regresamos y ajustamos pesos de acuerdo a los errores que se hayan encontrado, y volvemos adelante con los ajustes hechos, para encontrar el resultado esperado.

Tarea: las 4 ecuaciones de backpropagation