拡散モデル（DDPM）――ノイズ除去を繰り返して高品質な画像を生成する、画像生成AIの基礎
Denoising Diffusion Probabilistic Models
30秒でわかる要点
非平衡熱力学に着想を得た「拡散確率モデル」で高品質な画像生成を実現。CIFAR10でFID 3.17の最高スコアを出し、LSUN 256×256ではProgressiveGANと同等の品質を得た。
要約― この論文の概要は？
非平衡熱力学の考察に着想を得た潜在変数モデルの一種である拡散確率モデルを使い、高品質な画像合成の結果を示す。最良の結果は、拡散確率モデルと、ランジュバン動力学を用いたノイズ除去スコアマッチングとの新しい関係に基づいて設計した、重み付き変分下界で学習することで得られた。また、このモデルは自己回帰的なデコードを一般化したものと解釈できる、段階的な非可逆の展開（復号）の仕組みを自然に備えている。条件なしのCIFAR10データセットでは、Inceptionスコア9.46と、最高水準のFIDスコア3.17を達成した。256×256のLSUNでは、ProgressiveGANと同等のサンプル品質を得た。実装はGitHubで公開している。
課題― 何を解決しようとしているのか？
拡散確率モデルという生成モデルの枠組みで、高品質な画像を合成できるかが課題だった。
手法― どのような方法で取り組んだのか？
拡散確率モデルと、ランジュバン動力学を用いたノイズ除去スコアマッチングとの新しい関係を見出し、それに基づく重み付き変分下界で学習した。モデルは段階的にノイズを取り除きながら画像を復元する仕組みを持つ。
結果― 何が分かったのか？
条件なしCIFAR10でInceptionスコア9.46、最高水準のFIDスコア3.17を達成。256×256のLSUNではProgressiveGANと同等のサンプル品質を得た。
限界― 注意すべき点は？
本要約（アブストラクト）の範囲では、生成速度や計算コスト、テキストなどの条件付き生成については示されていない。
ビジネスで使えるか― 実務にどう活かせるか？
Stable Diffusionなど現在の画像生成AIの基礎となった手法。広告クリエイティブや商品画像の生成を検討する際、「ノイズから段階的に画像を作る」という仕組みを理解しておくと、生成にかかる時間や品質の調整の議論がしやすくなる。
キーワード
本ページの事実記述は、原論文のアブストラクト（概要）の範囲に基づきます。数字や評価の詳細は原文でご確認ください。
関連論文
画像生成 定番 原論文 2021年 約2分で読める
潜在拡散モデル（Stable Diffusionの基礎）――圧縮した潜在空間で拡散させ、高品質な画像生成を低コストに
High-Resolution Image Synthesis with Latent Diffusion Models
要点拡散モデルを画素空間ではなく、事前学習済みオートエンコーダの潜在空間で動かす「潜在拡散モデル（LDM）」を提案。計算コストを大きく下げつつ画質を保ち、クロスアテンションでテキストなど多様な条件による生成も可能にした。
大規模言語モデル 定番 原論文 2017年 約2分で読める
Transformerの原点「Attention Is All You Need」――再帰も畳み込みも使わず、注意機構だけで翻訳の最高精度に
Attention Is All You Need
要点再帰（RNN）や畳み込み（CNN）を使わず、注意機構（アテンション）だけで構成する新しいモデル「Transformer」を提案。機械翻訳で当時の最高精度を出しつつ、並列化しやすく学習時間も大幅に短い。
推論 定番 原論文 2022年 約2分で読める
思考の連鎖（Chain-of-Thought）プロンプト――途中の推論ステップを例示するだけで、LLMの複雑な推論力が大きく向上
Chain-of-Thought Prompting Elicits Reasoning in Large Language Models
要点プロンプトに「途中の推論ステップ」を含む例をいくつか示すだけで、大規模言語モデルの算数・常識・記号推論の性能が大きく上がることを示した。5400億パラメータのモデルに8例を示すだけで、数学文章題GSM8Kで最高精度を達成した。