GAN: Generative Adversarial Networks
2026年10月の再サーベイ： 研究史・重要文献・最近の進展を整理した新版を追加しました（2026年10月3日基準）。以下は従来のメモです。定義・適用条件の訂正は新版を参照してください。
GAN の立ち位置
- 生成モデルの一種(データを生成する確率モデルの一種 / データの生成過程を数理的にモデル化したもの、数理モデルは確率分布で表される)
- 学習: 分布を近くする
-
生成モデリングとは、機械学習における教師なしの学習タスクで、入力データの規則性やパターンを自動的に発見・学習し、そのモデルを使って、元のデータセットから尤もらしく引き出されたであろう新しい例を生成・出力することを意味します ref
- ref
なぜ GAN を研究するのか？
- 元々は画像生成を行う構造として提案された
- 現在は、生成・データの分布を近づけるという性質から、多くの場面に応用されてる
GAN の学習の全体像
研究の流れ
SubTopics
評価手法
Inception Score
Fréchet Inception Distance (FID)
Multi-scale structural similarity (MS-SSIM)
Sliced Wasserstein Distance
モデルの種類と学習安定化テクニック
Spectral Normalization
リプシッツ制約を Discriminator に与える
収束性に関して
- The Numerics of GANs: GANがナッシュ均衡に収束しない条件は 1. gradient vector fieldのヤコビアンの固有値の実数部分が0である 2. gradient vector fieldのヤコビアン固有値の虚数部分が大きすぎる こと
性能向上
- Large Scale GAN Training for High Fidelity Natural Image Synthesis: Large BatchだとGANの性能が向上する
Optimizer
- GAN — Ways to improve GAN performance : Adam optimizer usually works better than other methods.
- Understanding and optimizing GANs (Going back to first principles): The adam optimizer yields the best looking results so far. (SGD, RMSprop, Adam での比較)
Mode Collapse
Reference
体型的な学習講座リソース
日本語資料
- 統計数理研究所 福水先生のスライド
- GANの理論動向
- 産総研の片岡先生がやってるComputer Vision Paper ChallengeのGANまとめ
- GAN ─敵対的生成ネットワーク─の発展
- 情報工学_機械学習_生成モデル: めちゃくちゃまとまっててすごい
- GAN (Generative Adversarial Networks)：敵対的生成ネットワーク