Hiroki Naganuma

GAN の立ち位置

• 生成モデルの一種(データを生成する確率モデルの一種 / データの生成過程を数理的にモデル化したもの、数理モデルは確率分布で表される)
• 学習: 分布を近くする

• 生成モデリングとは、機械学習における教師なしの学習タスクで、入力データの規則性やパターンを自動的に発見・学習し、そのモデルを使って、元のデータセットから尤もらしく引き出されたであろう新しい例を生成・出力することを意味します ref

• ref

なぜ GAN を研究するのか？

• 元々は画像生成を行う構造として提案された
• 現在は、生成・データの分布を近づけるという性質から、多くの場面に応用されてる
  • 超解像・異常検知・データ拡張など
  • Style 変換、言語モデル
  • 文章からの画像起こし（StackGAN）ref
  • 2次元画像から教師無し3次元表現学習を実現する新しい生成モデルRGBD-GANを提案 ref
  • 言語モデル生成 ref
  • 複数のエージェントの将来軌道を予測することは、自律走行車や社会的ロボットの制御からセキュリティや監視 ref

GAN の学習の全体像

ref

ref

研究の流れ

reference

SubTopics

評価手法

• Inception score
• GANsの性能評価尺度
• GANの包括的なサーベイ論文の紹介

Inception Score

Fréchet Inception Distance (FID)

Multi-scale structural similarity (MS-SSIM)

Sliced Wasserstein Distance

モデルの種類と学習安定化テクニック

Spectral Normalization

リプシッツ制約を Discriminator に与える

• Open Review
• Spectral Normの考え方
• 解説スライド

• Large scale gan training for high fidelity natural

収束性に関して

• The Numerics of GANs: GANがナッシュ均衡に収束しない条件は　1. gradient vector fieldのヤコビアンの固有値の実数部分が0である　2. gradient vector fieldのヤコビアン固有値の虚数部分が大きすぎる こと

性能向上

• Large Scale GAN Training for High Fidelity Natural Image Synthesis: Large BatchだとGANの性能が向上する

Optimizer

• GAN — Ways to improve GAN performance : Adam optimizer usually works better than other methods.
• Understanding and optimizing GANs (Going back to first principles): The adam optimizer yields the best looking results so far.　(SGD, RMSprop, Adam での比較)

Mode Collapse

• Tutorial of GANs in Gifu Univ

Reference

体型的な学習講座リソース

• 松尾研の講座
• Mila の資料 / IFT 6135 - Representation Learning
• Mila の資料 / Game Theory and ML
• NYU の資料

日本語資料

• 統計数理研究所 福水先生のスライド
• GANの理論動向
• 産総研の片岡先生がやってるComputer Vision Paper ChallengeのGANまとめ
• GAN ─敵対的生成ネットワーク─の発展
• 情報工学_機械学習_生成モデル: めちゃくちゃまとまっててすごい
• GAN (Generative Adversarial Networks)：敵対的生成ネットワーク

英語資料

• GANなどのMin Max Optimizationに関して のRelevant Referencesがよくまとまっている
• GANを作ったMila+UdeMのIan GoodfellowのNeurIPSでのチュートリアル論文
• Tips for Training Stable Generative Adversarial Networks