MENTRIA_

Cómo un modelo mejora siquiera: un pequeño paso cuesta abajo.

SRC·08 Source
Un modelo no se escribe. Se empuja cuesta abajo, paso a paso.

Un modelo no se escribe. Se empuja cuesta abajo, paso a paso.

Nadie programa a mano los miles de millones de ajustes de un modelo. Él los encuentra: mide cuánto se equivoca y luego empuja cada perilla un pelo hacia menos error. Hazlo un millón de veces y una red en blanco se vuelve una mente. El método tiene un nombre sencillo: descenso de gradiente, caminar cuesta abajo sobre tus propios errores.
Un número dice cuán mal va. Y mil millones de perillas que girar.

Un número dice cuán mal va. Y mil millones de perillas que girar.

El entrenamiento aplasta cada error en un solo número: la pérdida. Cuanto más baja, mejor, y depende de todas las perillas a la vez. Como un muro de válvulas idénticas que se pierde de vista: girarlas una por una, probando combinaciones, duraría más que el universo. Esto no se puede buscar a ciegas. Necesitas una dirección: hacia dónde girar cada perilla, ahora mismo.
¿Hacia dónde es cuesta abajo? Pregúntale a la pendiente.

¿Hacia dónde es cuesta abajo? Pregúntale a la pendiente.

∇L(θ)=(∂L∂θ1, …, ∂L∂θn)\nabla L(\theta) = \left( \dfrac{\partial L}{\partial \theta_1},\ \dots,\ \dfrac{\partial L}{\partial \theta_n} \right)
Para una perilla, su pendiente te dice hacia dónde sube la pérdida, y con qué inclinación. Junta la pendiente de cada perilla en una sola flecha y tienes el gradiente: la subida más empinada. Como leer una ladera con las botas entre la niebla: ciego a la montaña entera, tus pies sienten con exactitud hacia dónde se inclina el suelo. En pocas palabras: el gradiente es la pendiente de todas las perillas a la vez, empacada en una flecha que apunta a la subida más rápida.
¿Quieres bajar? Da el paso en contra de la flecha.

¿Quieres bajar? Da el paso en contra de la flecha.

θt+1=θt−η ∇L(θt)\theta_{t+1} = \theta_t - \eta\, \nabla L(\theta_t)
El gradiente apunta cuesta arriba: el último lugar donde queremos estar. Así que invíertelo: toma las perillas que tienes y da un pasito en sentido contrario. Y otra vez. Y otra. Como afinar una guitarra: muy aguda, afloja un pelo; muy grave, tensa un pelo; nunca a tirones, siempre acercándote a la nota. En pocas palabras: perillas nuevas = perillas viejas menos un pequeño paso (la η) cuesta abajo. Esa sola línea, repetida un millón de veces, es aprender.
El tamaño del paso lo es todo. Muy grande o muy chico, ambos fallan.

El tamaño del paso lo es todo. Muy grande o muy chico, ambos fallan.

L(θ−η∇L)≈L(θ)−η ∥∇L∥2L(\theta - \eta \nabla L) \approx L(\theta) - \eta\, \lVert \nabla L \rVert^{2}
Ese tamaño de paso — η, la tasa de aprendizaje — es el dial más importante del entrenamiento. En pocas palabras: un pequeño paso cuesta abajo baja la pérdida en torno a (tamaño del paso) × (inclinación)², un avance honesto y predecible; pero solo mientras el paso sea lo bastante pequeño para que valga esa estimación en línea recta. Como un putt: pégale muy fuerte y pasas de largo el hoyo; tócalo muy suave y te quedas corto. El ritmo justo lo mete.
No puedes pesar cada ejemplo en cada paso. Toma un puñado.

No puedes pesar cada ejemplo en cada paso. Toma un puñado.

∇L(θ)≈1∣B∣∑i∈B∇Li(θ)\nabla L(\theta) \approx \dfrac{1}{|B|} \sum_{i \in B} \nabla L_i(\theta)
La pendiente verdadera exige recorrer cada ejemplo de entrenamiento, demasiado lento para hacerlo en cada paso. Así que toma un pequeño lote al azar y promedia solo sus pendientes. Como juzgar un saco de café por un puñado: no vacías el saco entero; un puñado honesto estima el resto. En pocas palabras: una estimación barata y temblorosa de la pendiente, y ese temblor hasta ayuda a sacarte de los baches poco profundos. Esto es el descenso de gradiente estocástico.
Ese es todo el motor. Terminas cuando el suelo se vuelve plano.

Ese es todo el motor. Terminas cuando el suelo se vuelve plano.

∇L(θ∗)=0\nabla L(\theta^{*}) = 0
Quítale los nombres y aprender son cuatro movimientos en bucle: mide cuánto te equivocas, lee la pendiente, da el paso en contra, repite. Miles de millones de perillas, una sola regla. En pocas palabras: has llegado cuando el gradiente toca cero: ya no hay pendiente, el suelo es plano, no hay hacia dónde bajar. Ese punto plano es el fondo hacia el que se inclinaba toda la caminata. Una red en blanco se volvió una mente, y esto —un descenso paciente, ciego e implacable— es lo único que la puso ahí.
🌱 ¿Pero qué fondo? Depende de dónde empezaste.

🌱 ¿Pero qué fondo? Depende de dónde empezaste.

🌱 Un paisaje tan vasto tiene muchos valles, no uno. Suelo plano solo significa un fondo, no el fondo: empieza en otro sitio, pisa un poco distinto, y acabas posándote en una cuenca del todo diferente. Así que el modelo que obtienes no es el único que encajaba; es aquel en el que tu camino terminó asentándose. ¿Hay siquiera una única respuesta verdadera esperando allá abajo, o solo el hueco en el que rodaste y el camino que te llevó hasta él?
toca →desliza ↑ para másdesliza ↓ para salir