Cómo aprende un modelo

En una aplicación tradicional, una persona escribe las reglas que transforman una entrada en una salida. En machine learning escribimos un sistema capaz de ajustar sus propias reglas internas a partir de ejemplos.

El modelo no comprende como una persona. Encuentra regularidades numéricas que le permiten producir predicciones útiles. Por eso la calidad de los datos, el objetivo y la evaluación son tan importantes como la arquitectura.

El modelo recibe una entrada, produce una predicción y la compara con la respuesta esperada. Una función de pérdida convierte esa diferencia en un número. Los gradientes indican cómo cambiar los parámetros para reducirlo.

Aprender significa encontrar valores de parámetros que reducen el error en ejemplos de entrenamiento y, sobre todo, funcionan en ejemplos no vistos. Si solo recuerda el entrenamiento, memoriza: no generaliza.