なぜ完全に確信させないように教えるのか。 · Source

あえて、ほんの少しの疑いを残すように訓練する。

モデルに100%正解、0%それ以外すべてと記された解答キーを見せると、何でも知っているふりをするようになる——どの答えにも、たとえ間違っていても自信満々だ。そこで奇妙なことをする。キーをぼかすのだ。正解はほぼ確実だが、決して完全には確実でない、と教える。この工夫がlabel smoothingで、ほんの少しの疑いがモデルをより謙虚に、そしてより強くする。

ふつうの解答キーは、容赦なくゼロか百かだ。

y_i = \begin{cases} 1 & i = c \\ 0 & i \neq c \end{cases} \qquad p_c \to 1 \ \text{only as}\ z_c - z_j \to \infty

学習の目標はone-hotだ。正解にただ一つの1、ほかのすべてには平らな0。中心の金しかない的のように:金だけが当たりで、ほんの髪一筋外れた輪は、大外しと同じ点数になる。softmaxに本物の1を出させるには、勝者のスコアを永遠に上げ続けねばならない——モデルが決して守り終えられない命令だ。

完全な確信を追い求めても、終わりはない。

\frac{\partial \mathcal{L}}{\partial z_c} = p_c - 1 < 0 \quad \text{for all } p_c < 1

その完璧な1を求めて押し続けると、数式は決して手を離さない。正解のスコアにかかる傾きは1に届くまで負のまま——だからスコアは上がり続け、ライバルとの差は天井なく広がっていく。最上段のない梯子を登るように:もうすべてを見渡せる高さにいるのに、「確信せよ」がなお宙へと登らせる、何の得もなく。

解決策:答えのひとかけらを、みんなに分ける。

y^{\text{LS}}_i = (1-\alpha)\, y_i + \frac{\alpha}{K}

そこでキーを和らげる。重みの大半は正解に残しつつ、薄く等しい取り分——それぞれα/K——をK個すべての答えに行き渡らせる。ケーキを切り分けるように:主賓は大きな一切れをもらうが、テーブルの全員にも薄切りが回り、どの答えも平らなゼロには座らない。ダイヤルαが、どれだけ譲るかを決める。

いまや損失は、二つの方向へ同時に引く。

\mathcal{L}_{\text{LS}} = (1-\alpha)\,(-\log p_c) \;+\; \alpha\left(-\frac{1}{K}\sum_{i} \log p_i\right)

和らげた目標は、損失を二つの引き合いに分ける。一方はなお、モデルを正解へと引っ張る。もう一方はそっと、均等——何も知らない平らな当て推量——へと引く。糸につながれた凧のように:風は上へ外へと持ち上げ、手は一定の張りで引き戻す。両方そろってはじめて、凧はちぎれずに飛び続ける。

確信に、ようやく落ち着く場所ができる。

\Delta^{\star} = \ln\!\frac{(1-\alpha)K + \alpha}{\alpha} \quad (\text{finite, not } \infty)

いまやモデルにできる最善は無限ではなく、決まった差だ。和らげた目標がいちばん満足するのは、正解への確信が有限の高さ——1より十分に下——に落ち着いたとき。ボウルの底へ転がって止まる玉のように:古い目標は底なしの果てしない下り坂だった。こちらはようやく、落ち着くための低い点を与える。答えがK=1000、α=0.1なら、その最大の差はおよそ9.1——それより大きくはならない。

だが、疑いという贈り物は、いくらかの機微を犠牲にする。

ここに落とし穴がある。あの等しい薄切りは、どの誤答も同じに扱う——catをdogと取り違えても、catをtruckと取り違えるのと、近さの点で変わらない。でこぼこの地面を覆う新雪のように:とげとげしく硬い確信を、均一でやわらかなものへと鎮める。だが、ある誤答を別の誤答から見分けていた小さな尾根やわだちも、同時に埋めてしまう。較正は得られるが、その細やかな構造を少し手放すことになる。

🌱 確信を禁じた。それは知恵か、それとも礼儀か。

どれを疑うべきか、私たちは決して示さなかった。ただ解答キーを書き換えて、何ひとつとして完全には確信できないようにしただけだ——いつも手で少しだけ残された疑い、決して満ちることを許されない月のように。だからモデルが言葉を濁すとき、それは本物の謙虚さの夜明けなのか——自らの知の縁に触れる心なのか——それとも、外から縫いつけたただの礼儀にすぎないのか。