絵を作るために、純粋なノイズから始める。 あらゆる画像生成器は同じ壁にぶつかる——百万のピクセルが一斉に噛み合わなければならない。拡散モデルは奇妙な一手でそれをかわす。純粋でランダムなノイズの画面から始め、それを少しずつ取り除き、誰も見たことのない絵が立ち現れるまで続ける。彼らが最初に学んだのは、創ることではなかった。壊すことだった。
まず簡単な方向——絵を壊す方法。 q(xt∣xt−1)=N (xt; 1−βt xt−1, βtI)q(x_t \mid x_{t-1}) = \mathcal{N}\!\left(x_t;\ \sqrt{1-\beta_t}\,x_{t-1},\ \beta_t \mathbf{I}\right) 混沌を巻き戻すのは難しいが、起こすのは造作もない——だからそこから始める。本物の写真に、ランダムなノイズを少しずつ、一歩また一歩と混ぜ込み、灰色の砂嵐しか残らなくなるまで続ける。静かな水に落ちた一滴のインクのように:それは刻一刻と少しずつ広がり、決して戻らず、やがてグラス全体が一様な灰色になる。平たく言えば:各ステップは絵をほんの少しだけ残し、純粋なノイズをほんの少しだけ混ぜる——小さく、厳密で、学びやすい。
どれだけ崩すかを、一足飛びに決められる。 xt=αˉt x0+1−αˉt ε,ε∼N(0,I)x_t = \sqrt{\bar{\alpha}_t}\,x_0 + \sqrt{1-\bar{\alpha}_t}\,\varepsilon, \quad \varepsilon \sim \mathcal{N}(0, \mathbf{I}) ノイズを一歩ずつ加えるのは退屈だ。幸い、その小さな歩みはすべて一つの式にまとまる。ノイズの乗ったどんな版も、元の絵を下げ、純粋なノイズを上げ、たった一つのつまみで混ぜたものにすぎない。舞台に引かれた半透明の紗幕のように:引けば引くほど情景は薄れ、白が勝っていく——そしてどこまで引いたかが、必要な唯一の数だ。だから劣化のどの瞬間にも一足飛びに行ける。
本当の妙技——ノイズを見抜くようネットに教える。 Lsimple=Ex0, ε, t[ ∥ε−εθ(xt, t)∥2 ]\mathcal{L}_{\text{simple}} = \mathbb{E}_{x_0,\,\varepsilon,\,t}\left[\,\left\lVert \varepsilon - \varepsilon_\theta(x_t,\,t) \right\rVert^2\,\right] ここに魔法のすべてがある。混ざったインクは手では分けられない——だがネットワークは、何が混ぜられたかを推定できる。ノイズの乗った画像を見せ、たった一つ問う。このうちどれが、私が加えたノイズか? その推測がどれだけ近いかで、何百万もの例にわたって採点する。古い絵から汚れを取り除く修復師のように:場面を描き直すのではない——汚れだけを見抜くことを学び、残ったものが下にある絵そのものになる。
なぜ大跳躍ではなく、何百もの小さな一歩なのか? xt−1=1αt(xt−1−αt1−αˉt εθ(xt, t))+σtz,z∼N(0,I)x_{t-1} = \frac{1}{\sqrt{\alpha_t}}\left(x_t - \frac{1-\alpha_t}{\sqrt{1-\bar{\alpha}_t}}\,\varepsilon_\theta(x_t,\,t)\right) + \sigma_t z, \quad z \sim \mathcal{N}(0, \mathbf{I}) ノイズを見抜けるなら、なぜ一気に剥がさないのか? たった一度の巨大な推測は、灰色から絵の全体を想像せよと迫る——荷が重すぎる。だから薄い一層を取り除き、もう一度見て、それを何百回も繰り返す。平たく言えば:予測したノイズを少し引き、新たな乱数をひと息分だけ混ぜ、また繰り返す。花崗岩を割る石工のように:荒々しい一撃ではなく、小さく確かな打ち込みの連なり——どれもたやすく、石がまっすぐ割れるのは、どの一打もすべてを担わずに済んだからだ。
では、なぜ猫を描き、ただの……何かにならないのか? ε~θ(xt,c)=εθ(xt,∅)+w(εθ(xt,c)−εθ(xt,∅))\tilde{\varepsilon}_\theta(x_t, c) = \varepsilon_\theta(x_t, \varnothing) + w\left(\varepsilon_\theta(x_t, c) - \varepsilon_\theta(x_t, \varnothing)\right) 放っておくと、ノイズ除去はどれかもっともらしい画像へと漂う——あなたのではない。だから各ステップで、あなたの言葉も手渡し、その推測を言葉の方へ傾ける。最も澄んだやり方は、プロンプトを添えた除去と、目隠しの除去とを比べ、その差を誇張すること。砂鉄を敷いた紙の下の磁石のように:プロンプトは磁場だ。その強さを上げれば、散らばった粒は、あなたが名指した形へといっそう鋭く吸い寄せられる。
ノイズが入り、絵が出る——破壊を逆回しに。 一歩下がって、機構の全体を見よう。みずから絵を壊すことを教え、その壊れを名指すことを学び、いまやその知を逆回しに走らせる——新しいノイズの野から、あなたの言葉に導かれ、穏やかな一歩また一歩と。現像トレイの中で浮かび上がる印画のように:白紙は、はじめから白紙ではなかった。正しい液に浸せば、おのずと時を経て、像はただ立ち現れる。何も描かれてはいない。ノイズが彫られたのだ。
🌱 それは絵を創ったのか——それともただ掘り出しただけか? 初めのノイズを変えれば、違う絵が出る。同じノイズはいつも同じ絵を返す。だから、それが作りうるどの絵も、ある意味ですでに含み込まれている——どこかのノイズの一粒に折りたたまれ、待っている。大理石の中にすでに在ると彫刻家が言い張る顔のように:それでないものを取り除けば、そこに立ち現れる。では、モデルはこれらの絵を創っているのか——それとも、それらでないものをすべて削り取っているだけなのか?