Cómo aprende un modelo: minimizando su propia sorpresa. · Source

Entrenar es una sola orden insistente: sorpréndete menos la próxima vez.

Un modelo aprende de un torrente de texto, pero la lección nunca cambia: cuando llega la siguiente palabra, déjate sorprender menos que la vez anterior. Sin reglas de gramática, sin datos dictados — solo un recuento continuo de sorpresa, reducido palabra a palabra. Como un portero: todo el arte está en leer la jugada pronto, para que el disparo nunca sea un sobresalto.

Nunca dice una palabra. Apuesta por todas a la vez.

Pídele la siguiente palabra y el modelo no responde — reparte su confianza por todo el vocabulario, un número en cada opción. Acierto-o-fallo no sirve para calificar eso; se cubrió entre miles de conjeturas. Necesitas una nota que premie apostar fuerte por la verdad y castigue apostar fuerte por un fiasco. Como un puñado de dardos: los lanzas a toda la diana a la vez, pero solo el lugar donde cae el centro decide tu puntuación.

La sorpresa tiene una fórmula: lo raro que fue, en logaritmo.

\text{surprise}(x) = -\log p(x)

Dale a un suceso la probabilidad p; cuando ocurre, tu sorpresa es −log p. Da algo por casi seguro y llega — sorpresa casi nula. Apuesta en contra y aun así sucede — la sorpresa se dispara. Como un rayo en cielo despejado: cuanto más tranquilo estabas de que seguiría sereno, más fuerte el sobresalto cuando cae.

Tu pérdida es solo la sorpresa por la palabra que llegó.

\mathcal{L} = -\log q_{y}

Aquí está la jugada: de todas esas apuestas, solo una palabra llega de verdad. Tu castigo es la sorpresa por esa palabra — −log de la probabilidad que le diste. Aparca mucha confianza ahí: pérdida mínima. Déjala en ayunas: pérdida enorme. Las demás conjeturas se ignoran cuando llega la cuenta. Como un peaje: puedes soñar con todos los caminos, pero solo pagas en aquel por el que pasa la verdad.

Por qué 'entropía cruzada': la sorpresa medida contra la verdad.

H(p, q) = -\sum_{i} p_i \log q_i

Promedia esa sorpresa sobre todo lo que de verdad sucede, ponderando cada resultado por la frecuencia con que ocurre realmente, y obtienes la entropía cruzada. El castigo de una sola palabra es azar; la nota real es el promedio a largo plazo. Como una larga exposición: un único fotograma no dice nada, pero deja el obturador abierto y los carriles más transitados brillan más — el patrón verdadero se inscribe solo.

Bajar la sorpresa y subir la verosimilitud son el mismo movimiento.

\arg\min_{\theta}\; -\frac{1}{N}\sum_{n} \log q_{\theta}(y_n) \;=\; \arg\max_{\theta}\; \prod_{n} q_{\theta}(y_n)

Multiplica miles de probabilidades minúsculas y el resultado se desvanece a cero — inútil. Toma logaritmos y el producto se vuelve una suma de sorpresas que basta con sumar. Y el giro surge solo: hacer probables los datos es hacer pequeña la sorpresa total — una cumbre, dos nombres. Como la luz que se apaga con la profundidad: cada metro multiplica el oscurecimiento hacia el negro, pero contar los metros sube de forma constante — el logaritmo es la medida honesta.

Este único número es todo el objetivo — y cuenta opciones.

\text{perplexity} = e^{H} = \exp\!\left(-\frac{1}{N}\sum_{n} \log q_{\theta}(y_n)\right)

Cada gradiente, cada empujón a mil millones de pesos, persigue a la baja este único escalar: la sorpresa media frente a la verdad. Elévalo como exponente y obtienes la perplejidad — entre cuántas palabras duda en realidad el modelo. Una pérdida de ln 20 significa que está tan perdido como al elegir al azar entre 20. Menor pérdida, menos opciones vivas, mente más afilada. Como un río trenzado: cuantos menos canales pueda tomar el agua, más seguro su curso.

🌱 Una mente entrenada solo para prever — ¿puede de verdad sorprender?

🌱 Cada paso del entrenamiento premia una sola cosa: no sorprenderse por lo que ya fue escrito — así el modelo se vuelve el eco más suave del pasado. Pero las ideas que valen la pena son las que nadie vio venir. ¿Puede una mente hecha para minimizar la sorpresa crear alguna vez la clase que resulta acertada — o solo terminará siempre nuestras frases?