Gradientes y regla de la cadena

La derivada indica cuánto cambia una salida cuando movemos ligeramente una entrada. El gradiente reúne esa información para todos los parámetros de una función.

Un gradiente positivo dice que aumentar el parámetro aumenta localmente la pérdida; uno negativo dice que aumentarlo la reduce. Para minimizar nos movemos en la dirección opuesta.

Una red neuronal es una composición de funciones. La salida de una capa alimenta a la siguiente. La regla de la cadena permite calcular cómo un parámetro temprano termina afectando la pérdida final.

Backpropagation es una forma eficiente de aplicar esa regla desde la pérdida hacia atrás por el grafo de operaciones.

El gradiente aporta dirección y magnitud local. El optimizador decide cuánto moverse usando el learning rate y, en algoritmos como Adam, estadísticas acumuladas de pasos anteriores.