Por qué 'piensa paso a paso' compra precisión real. · Source

Mismo modelo, misma pregunta. Suelta: mal. Piensa antes: bien.

Hazle una pregunta difícil y un modelo a menudo suelta una respuesta — rápida, fluida, equivocada. Añade cuatro palabras — piensa paso a paso — y el mismo modelo, sin cambios, acierta. Sin nuevo entrenamiento, sin nuevos datos. Solo escribió su razonamiento antes de su respuesta. ¿Por qué hablar consigo mismo primero lo hace más listo?

Tiene un solo intento por palabra — fácil o difícil, igual esfuerzo.

C_{\text{token}} \approx 2N

Cada palabra sale de una sola pasada hacia adelante — un bloque fijo de cómputo, el mismo para '2+2' o para un acertijo de cinco pasos. En palabras simples, una palabra cuesta unas 2N operaciones para N parámetros, y eso nunca se ajusta a la pregunta. Como hacer malabares: unas pocas bolas se mantienen en el aire, pero añade una de más y todas se dispersan. Un problema difícil no entra en un solo lanzamiento.

Así que déjalo pensar en voz alta — y releer sus propias palabras.

C_{\text{chain}} \approx 2N \cdot T

La salida: no fuerces ya la respuesta. Deja que el modelo escriba su desarrollo, palabra a palabra — y cada palabra que escribe se vuelve entrada que puede leer en el paso siguiente. La página es su memoria de borrador. Gasta T palabras de razonamiento y habrás gastado T pasadas completas: en palabras simples, escribir más palabras es literalmente pensar más. Como un ábaco: no guardas la suma en la cabeza — la fijas en las cuentas y luego la relees.

Una cadena escrita es solo un camino entre incontables.

p(a \mid q) = \sum_{r} p(a \mid q, r)\, p(r \mid q)

Nunca hay un razonamiento — hay toda una nube de caminos que podrían llegar a la respuesta. La probabilidad honesta de acertar suma sobre todos ellos; cuando el modelo escribe una sola cadena en voz alta, está tomando solo uno. Como un rayo: el rayo podría ramificarse de mil formas hasta el suelo, pero solo un camino llega a descargar. El razonamiento que lees es el camino que dio la chispa.

Pero un mal paso envenena todos los pasos que siguen.

Pensar en voz alta vale lo que valen los pasos. Cada línea se apoya en la anterior, así que un solo movimiento equivocado no se queda local — sostiene todo lo que sigue, y la voz fluida nunca titubea. Como un castillo de naipes: cada carta se equilibra sobre la anterior, y una carta algo torcida derrumba toda la torre. Una cadena más larga no es automáticamente más verdadera.

Así que no confíes en una cadena — muestrea muchas y vota.

\hat{a} = \operatorname*{arg\,max}_{a} \sum_{i=1}^{k} \mathbf{1}[a_i = a]

La reparación es barata: haz la misma pregunta varias veces, cada una con su propio razonamiento fresco, y quédate con la respuesta que más aparece. Caminos independientes rara vez cometen el mismo error, pero tienden a coincidir en la verdad. Como tres caminos que convergen en un pueblo: cualquier ruta suelta puede desviarse, pero donde todas se encuentran está el lugar real. Lo llamamos autoconsistencia.

Las palabras no son solo la respuesta — son el espacio de trabajo.

Júntalo todo: un modelo que razona no recuerda con más fuerza — está trabajando sobre papel. Sus propias palabras se vuelven la sala en la que piensa, y cada línea que escribe compra otra pasada de cómputo que un solo vistazo jamás podría contener. Como estirar masa: apretada en la tabla se rompe, pero dale espacio y todo se une. Dale a un modelo lugar para trabajar y alcanza lo que un solo aliento nunca pudo.

Mostró su trabajo. Pero ¿llevó el trabajo a la respuesta?

Aquí la inquietud: la cadena que escribe parece su razonamiento — pero un rastro solo muestra por dónde anduvo algo, no por qué. La respuesta real podría formarse primero, y los pasos ordenados ponerse después para justificarla. Entonces, ¿cuál es el pensamiento — el camino en la página, o algo que nunca llegamos a ver? 🌱