Pourquoi « réfléchis étape par étape » achète une vraie précision. · Source

Même modèle, même question. Lâché : faux. Réfléchi : juste.

Posez une question difficile et un modèle lâche souvent une réponse — rapide, fluide, fausse. Ajoutez quatre mots — réfléchis étape par étape — et le même modèle, inchangé, trouve juste. Aucun nouvel entraînement, aucune nouvelle donnée. Il a juste écrit son raisonnement avant sa réponse. Pourquoi se parler d'abord le rend-il plus intelligent ?

Un seul essai par mot — facile ou difficile, le même effort.

C_{\text{token}} \approx 2N

Chaque mot sort d'une seule passe avant — un bloc de calcul fixe, le même pour « 2+2 » ou pour une énigme à cinq étapes. En clair, un mot coûte environ 2N opérations pour N paramètres, et cela ne s'adapte jamais à la question. Comme la jonglerie : quelques balles restent en l'air, mais ajoutez-en une de trop et tout s'éparpille. Un problème difficile ne tient pas en un seul lancer.

Alors laissez-le penser à voix haute — et relire ses propres mots.

C_{\text{chain}} \approx 2N \cdot T

L'échappatoire : ne forcez pas la réponse tout de suite. Laissez le modèle écrire son cheminement, mot à mot — et chaque mot écrit devient une entrée qu'il peut relire à l'étape suivante. La page est sa mémoire de brouillon. Dépensez T mots de raisonnement et vous avez dépensé T passes entières : en clair, écrire plus de mots, c'est littéralement penser davantage. Comme un boulier : on ne garde pas la somme en tête — on la pose sur les boules, puis on la relit.

Une chaîne écrite n'est qu'un chemin parmi d'innombrables.

p(a \mid q) = \sum_{r} p(a \mid q, r)\, p(r \mid q)

Il n'y a jamais un raisonnement — il y a tout un nuage de chemins qui pourraient atteindre la réponse. La probabilité honnête d'avoir juste somme sur tous ces chemins ; quand le modèle écrit une seule chaîne à voix haute, il n'en tire qu'un. Comme la foudre : l'éclair pourrait se ramifier de mille façons vers le sol, mais un seul chemin jaillit vraiment. Le raisonnement que vous lisez est celui qui a frappé.

Mais un mauvais pas empoisonne tous les pas suivants.

Penser à voix haute ne vaut que ce que valent les étapes. Chaque ligne s'appuie sur la précédente, donc un seul faux pas ne reste pas local — il soutient tout ce qui suit, et la voix fluide ne bronche jamais. Comme un château de cartes : chaque carte tient en équilibre sur la précédente, et une carte un peu de travers fait tomber toute la tour. Une chaîne plus longue n'est pas automatiquement plus vraie.

Alors ne vous fiez pas à une seule chaîne — échantillonnez-en plusieurs et votez.

\hat{a} = \operatorname*{arg\,max}_{a} \sum_{i=1}^{k} \mathbf{1}[a_i = a]

La réparation est bon marché : posez la même question plusieurs fois, chacune avec son propre raisonnement neuf, puis gardez la réponse qui revient le plus. Des chemins indépendants font rarement la même erreur, mais ils tendent à s'accorder sur la vérité. Comme trois routes convergeant vers un même village : chaque route isolée peut s'égarer, mais leur point de rencontre situe le vrai lieu. On appelle cela l'auto-cohérence.

Les mots ne sont pas que la réponse — ils sont l'espace de travail.

Rassemblez tout : un modèle qui raisonne ne se souvient pas plus fort — il travaille sur papier. Ses propres mots deviennent la pièce où il pense, et chaque ligne écrite achète une passe de calcul de plus qu'un seul coup d'œil ne pourrait contenir. Comme étaler une pâte : à l'étroit sur le plan elle se déchire, mais donnez-lui de la place et le tout prend forme. Donnez à un modèle de quoi travailler, et il atteint ce qu'un seul souffle n'a jamais pu.

Il a montré son travail. Mais le travail a-t-il mené à la réponse ?

Voici le malaise : la chaîne qu'il écrit ressemble à son raisonnement — mais une trace montre seulement par où quelque chose est passé, pas pourquoi. La vraie réponse se forme peut-être d'abord, les étapes bien rangées posées ensuite pour la justifier. Alors où est la pensée — le chemin sur la page, ou quelque chose qu'on ne verra jamais ? 🌱