拡散モデルの創造性、偶然ではなくscore smoothingの数学へ

画像生成AIの「創造性」を、魔法か盗用かという二択で語るだけでは足りない。Google Researchが2026年7月15日に公開した記事は、diffusion modelが新しいサンプルを作る理由を、denoisingで使うscore functionがneural networkによって滑らかに学習されるためだと説明する。対象はICLR 2026の論文 On the Interpolation Effect of Score Smoothing in Diffusion Models で、数値実験のコードも公開されている。

出発点は一般的なdiffusion modelの学習だ。モデルは訓練データにnoiseを足して壊し、それを段階的に戻すdenoisingを学ぶ。もし訓練サンプルから完璧なscore functionを学べたなら、生成点は既存の訓練例へ正確に引き戻される。つまり生成器というより検索器に近づき、memorizationが起きる。

実際にはそうならない。Google Researchは、その差をscore smoothingとして整理する。weight decayのようなregularizationや、gradientベース学習のimplicit regularizationにより、学習されたscore functionは理想形より滑らかになる。2つの訓練点だけを持つ1次元の例では、完璧なscore functionが空間を鋭く分け、各粒子を既知の点へ落とし込む。滑らかなscore functionでは中央付近の流れが遅くなり、粒子はinterpolation zoneに残れる。

多次元の画像空間では、この主張がさらに重要になる。実際の画像は巨大なpixel空間の中のdata manifold上にある。score smoothingは全方向の動きを鈍らせるわけではなく、manifoldへ向かう方向では品質を保ち、manifoldに沿った方向では訓練点への崩壊を弱めるという。これにより、現実的でありながら訓練画像のコピーではない出力が生まれる、という説明になる。

この研究の意味は、生成品質だけにとどまらない。memorizationは著作権、製品安全、データ漏えいの論点になっている。noveltyがscore smoothingに左右されるなら、モデル開発者は品質、多様性、訓練データ再現リスクのバランスをより精密に調整できるかもしれない。Google Researchは、複雑なdata distributionやarchitectureでの一般化は今後の課題だとしている。それでも、拡散モデルがなぜただのコピー機にならないのかを、検証できる力学として扱う入口ができた。