Comment des scores bruts deviennent des parts d'un pot commun. · Source

Un pot de prix, et une étrange façon de le partager

Soir de concours au village : cinq cuisiniers, cinq marmites fumantes, un pot de fer plein de pièces à partager. Pas de jury cette année — les acclamations de la foule découperont le prix en parts. À minuit, le cuisinier à peine un peu meilleur détient presque tout, et pourtant même le ragoût brûlé gagne deux pièces. Quelle règle la rue suivait-elle en secret ?

Les scores bruts font de très mauvaises parts

Demandez aux goûteurs de noter chaque plat : vous obtenez des nombres sur n'importe quelle échelle — ce ragoût un trois, cet autre sous zéro. On ne peut pas donner à un cuisinier une part négative, et des parts qui s'ignorent ne totalisent pas un pot entier. Un partage juste exige des parts toutes positives, dont la somme fait un. Les acclamations, il se trouve, opèrent cette conversion toutes seules.

Les acclamations se nourrissent d'acclamations

Regardez la rue à l'œuvre. Chaque cuisinier part avec quelques fidèles, et les nouveaux venus dérivent vers l'étal déjà le plus bruyant — les acclamations se composent sur elles-mêmes toute la soirée. Un plat un cran meilleur ne récolte pas un cran de bruit en plus ; sa foule ne cesse de doubler. Montez un score d'un pas et la clameur n'additionne pas — elle multiplie. Et le pot suivra simplement la clameur.

Ta part : ta clameur sur celle de toute la rue

p_j = \frac{e^{z_j}}{\sum_k e^{z_k}}

Voici la règle entière du village en une ligne. Gonflez chaque score brut exponentiellement — c'est la foule qui se compose — puis divisez par la clameur totale de la rue. Lisez-la simplement : chaque part sort positive, et ensemble les parts font exactement un pot. Regardez maintenant ce que ce petit exponentiel fait d'un écart minuscule entre deux cuisiniers.

Un soupçon de talent, une avalanche de pièces

Comparez deux cuisiniers, n'importe lesquels : le partage ne regarde qu'une chose, l'écart entre leurs scores. À un cran d'écart, une part vaut près du triple de l'autre ; à trois crans, vingt contre un. Sous un exponentiel, être proche ne paie pas — le plat presque meilleur perd encore largement. Ce qui rend le sort du ragoût brûlé d'autant plus étrange.

Personne ne repart jamais avec zéro

Les acclamations du ragoût brûlé sont un murmure — mais un murmure n'est pas le silence, et un exponentiel ne touche jamais zéro. Chaque cuisinier repart avec quelque chose. Cette règle de partage, c'est softmax : des scores bruts — les logits — devenus parts positives d'un tout. Un modèle de langage conclut ainsi chaque pari, sa certitude répartie entre tous les mots suivants possibles, rien d'exclu. Il reste une question au village.

🌱 Qui devrait tenir le bouton des acclamations ?

Imaginez que le village puisse régler la férocité avec laquelle les acclamations se composent. Adoucissez-la, et les parts s'aplanissent vers l'égalité — chaque cuisinier mange, aucun n'est vraiment honoré. Aiguisez-la, et le vainqueur rafle presque tout — audacieux, et fragile. Chaque concours, chaque marché, chaque modèle choisissant son prochain mot vit quelque part sur ce bouton. Où le régleriez-vous ?