なぜモデルは長く考えるほど賢くなるのか。 · Source

SRC·40 Source

その賢さは訓練で固定されない。長く考えさせればいい。

重みは同じ、モデルも同じ。それでも答える瞬間により多くの労力を割けば、より正しくなる。考えることは大きさとは別の、それ自体のつまみだ。長時間露光のように：夜空をさっと撮れば星はわずか。レンズを長く開けておけば、同じ闇から何千もの星が浮かび上がる。変わったのは、与えた時間だけ。

既定では、どんな問いにも同じ一瞬しか使わない。

何を尋ねても——なぞなぞでも足し算でも——一回の処理で答える。簡単な問いにも難物にも、同じ固定の労力だ。どの問いも考え直してはもらえない。カウンターの呼び鈴のように：一度叩けば答えが跳ね出す。注文が水一杯でも五皿のコースでも、即座に。速いが、必要なときにより深くはならない。

だから一度で訊くな。百度訊け。

P(\text{success}) = 1 - (1-p)^{N}

最も単純なてこ：同じ問いを何度も試させ、独立した各試行を少しずつ違う形で落とす。一発は外れても、多数の射撃がすべて外れることはまれだ。湿ったマッチを擦るように：一度では点かなくても、擦り続ければどれも燃え立たない確率は急速に縮む。一回が確率 p で当たるなら、N 回すべて外す確率はわずか (1−p)ᴺ。

だが試行を増やしても、勝者を見抜けなければ無駄だ。

百の答えも、どれが正しいかを見分ける何かがなければ無価値だ。その審判こそ難所——各試行を採点する検証器。砂の上の金属探知機のように：千の穴を掘れても、どこかを教える何かがなければ指輪は当たらない。探知機がなければ、挙手の多数決に頼るしかない——そして群衆のお気に入りの答えは、自信たっぷりに、満場一致で間違っていることがある。

追加の試行は、どれも前のものより得が少ない。

\Delta P_N = p\,(1-p)^{N-1}

得はいつまでもタダでは続かない。最初の数回がほぼ全部の仕事をこなし、その後は新しい試行ごとに、前回よりほんのわずかしか確率を動かさない。レモンを搾るように：最初のひと搾りはほとばしり、次は細い筋、やがて一滴のために力いっぱい握ることになる。N 回目の試行が足すのはわずか p(1−p)ᴺ⁻¹——確かにあるが、幾何級数的に縮む。長く考えれば必ず費用がかかる。だが必ず報われるわけではない。

じっくり考える小さな頭は、即答する大きな頭に並べる。

C_{\text{test}} \approx 2\,N_{\text{params}}\,T_{\text{tokens}}

これは賢くなる第二の道を買う。答えに費やす計算量は、モデルの大きさ×生成量にすぎない——だからモデルに K× 長く考えさせるのは、K× 大きく造るのと同じ費用だ。梁を挽く手鋸のように：小さな刃でも、辛抱強い一挽き一挽きを重ねれば、大きな製材鋸が一度に断つものを切り抜く。大きさを時間と引き換えにする。ほどほどに——やりすぎれば得は頭打ちになる。

いまや二つのつまみ。どれだけ大きく造るか、どれだけ長く考えるか。

知能は、訓練で焼き込む一つの数値であることをやめた。いまや二つのつまみがある——モデルをどれだけ大きく育てるか、そして答えるときにどれだけ考える時間を与えるか——どちらも、なめらかで登れる曲線に沿って精度を買う。手押し車のように：ささやかな一台でも、行き来を重ねれば、大きな荷馬車が一度に運ぶものを運びきる。力か、辛抱か——仕事はどのみち届く。

重みは一つも変わらない。なのに時間を得て、より多くを知った。

モデルの中では何も動かなかった。新しい事実も学ばれていない。それでも——考える時間をもっと与えられると、前には届かなかった答えに届く。その知は、思われぬまま、どこに生きていたのか。長く考えることは答えを創るのではなく、ただ十分に遠くまで歩いて、ずっと手の届くところにあった答えを見つけるだけなのかもしれない。🌱

タップ →

↑スワイプで詳しく

↓スワイプで終了

クリックまたは → で次へ

↑ で詳しく

esc で終了