分野別の検索・一次文献照合記録

各担当の記録をまとめた。初期採録と追加照合の件数は調査段階を示すため、最終統合件数とは区別する。検索エンジンの全結果を固定保存したログや全候補のPRISMA台帳ではない。各担当の「実行クエリ」と「検索軸の要約」の表記を区別して読む。

最適化・計算基盤と統合の調査記録

調査日・打切日：2026-10-03。
起点：optimizationの12ページ、parallel-training、TorchTitan、関連プロジェクトと研究索引。
全履歴の再現用exportではなく、調査軸・一次照合先・重点確認箇所・除外判断の記録である。採用文献のURLは統合台帳に保持した。
既存contentの37トピックを列挙し、3名の分野担当と統合担当の計4エージェントで調査した。既存ファイルの本文を改変せず、新版を別ファイルとして作成した（導線を除く）。

検索した論点

題名・著者・arXiv IDによる原典の直接照合に加え、以下の語群の組合せで基礎と2025–2026年の文献を探索した。以下は検索軸を再利用しやすく要約したもので、完全なクエリ文字列ログではない。

分野	検索語・絞り込み
SGD・適応法	Adam、AdaGrad、AMSGrad、AdamW、Adafactor、Lion、optimizer comparison、AlgoPerf、Sophia、Prodigy、ADOPT、PSGD
自然勾配	natural gradient、K-FAC、KFC、modern neural networks、Gauss–Newton unlearning、2026
CG・damping	Hestenes Stiefel、Levenberg 1944、Marquardt 1963、Hessian-free Martens、trust region
行列前処理	Shampoo、Scalable Second Order、Distributed Shampoo、SOAP、Kullback-Leibler Shampoo、2025、2026
Muon	Muon scalable、practical efficiency、critical batch size、Polar Express、Dion、NorMuon、Muon squared、Dion3、convergence、2026 September
Large batch	Goyal、gradient noise scale、noisy quadratic model、LARS、LAMB、Nado large batch、critical batch size
学習率	schedule-free、nonconvex、warmup stable decay、river valley、Fixed-Shaped Learning Rate、WSqD、2026、hypergradient、bilevel、PBT
SAM	sharp minima generalize、SAM low rank、feature learning、normalization、logits space、DPO、2026
bilevel	implicit differentiation、hypergradient complexity、BOME、F2SA、KKT、IVSP、PANDA、Markovian、2026
分散最適化	local SGD、post-local、SlowMo、FedAvg、SCAFFOLD、FedOpt、asynchronous、DiLoCo、Decoupled DiLoCo、LoRDO、IsoLoCo、2026
計算基盤	GPipe、PipeDream、Megatron、ZeRO、FSDP、TorchTitan、mixed precision、activation checkpointing、Ring Attention、model soups、task arithmetic、TIES

検索で見つかった一般向け解説・索引サービスだけを根拠にせず、arXiv abs、PMLR/JMLR、会議原稿、出版社または著者公式資料を開いて照合した。古典の一部はアクセス制約があり、書誌のみと明記した。

本文の該当部分を重点確認した資料

ID	確認箇所	反映した限定
OP015 K-FAC	v4 §2.2–3、§6の動機・適応	model FisherとGGNの条件、Kronecker因子化の近似、自然勾配の方向と有限更新の区別
OP045 SAM	v3 §2、Appendix C.4	近傍最大化の一次近似、二階項の省略、限定的なablation。全PAC-Bayes証明の監査なし
OP008 SOAP	本文§3、§4.1、§5（§3・§5は基盤モデル担当との照合を含む）	Shampooとの等価性の特殊条件、Anil 2020 Appendix Bの先行記載、単一H100のthroughput条件
OP011 Muon/CBS	v5の仮定・定理・batch依存性	理論上のoracle条件と実装の測定を分け、任意モデルの普遍定数とはしない
OP013 Muon収束	導入と§2	soft-sign smoothingを含む解析対象であり、実装の有限Newton–Schulz反復へ無条件に移さない
OP014 SOAP, Muon, and Beyond	§5の比較設定	dense/MoE、大きいbatch、Nesterov/EMA等の実験条件
OP084 Hessian-free	原典PDFの方法・線形解法・damping	行列を保存しないことと、曲率を使わないことの違い

上記以外にも本文の一部に検索が到達した例はあるが、台帳の確認水準は保守的に要旨のままとした。全文の証明検算・実験追試・全実装の比較は行っていない。

書誌・日付の注意

OP011はarXiv初出2025、確認したv5は2026年6月。初出年を2026に変更しない。
OP019 Polar Expressは改訂版と初版を区別し、題名・最新版の年だけで初出を判断しない。
OP044 Dionは版により題名が変わっており、参照したabsの現在の題名を使った。
OP066 KL-Shampoo/SOAPは初出2025、ICLR 2026、2026年6月拡張版と区別した。
OP014は一次ページのSubmitted表示とID月内の見かけの順序に差があったため、提出日をIDから推測せず年単位の記載を中心とした。
OP075のIVSPは2026年9月30日の一次公開を確認。10月4日以降の文献を含めていない。
OP082 Levenberg原典はアクセス制約があり書誌確認、OP083 Marquardtは1963刊行と後年の電子掲載日を区別した。
最初に候補として開いた2006.03175、2102.04300、2303.01172は目的とした論文とは異なったため不採用。文献識別子を記憶だけで採用しなかった。
CASPRの探索で現れた2404.15565は目的のoptimizer研究ではなく、採用しなかった。
Robbins–MonroとPolyakの古典原典も探索したが本文取得に至らず、今回の追加台帳では既に確認した標準総説を使った。古典のすべてを回収したという意味ではない。

統合時の確認

既存の学術URLを全contentから機械抽出し、研究トピック内の未照合候補を3担当へ再配分した。別版の同一論文はURL aliasとして保持し、元のリンクに付いた題名と実際の題名の不一致は個別に記録した。URLの抽出対象、除外規則、未再検証一覧はsource-inventoryに残す。

SOAP/Muon、Fisher/Hessian/GGN、NTK/double descent、SAMについて他担当の確認を受けた。double descentの過少パラメータ側まで補間解と呼んでいた表現を修正し、SOAPの先行記載とGPU評価条件を補足した。

ルートの研究索引と元37トピックへ新章へのリンクを追加した。非公開日記、既存の公開permalink、元ページの研究本文は維持した。サイト全体のリンク・公開範囲の検査結果は最終作業報告を参照する。

基盤モデル章の検索・照合ログ

担当章: content/research/surveys/2026-10/foundation-models.md
調査基準日・実行日: 2026-10-03。
文献期間: 前史を含め、基準日までに公開を確認できた文献。2026-10-04以降は対象外。
対象: content/research/topics/foundation-models/ の attention、transformer、scaling-laws、multi-modal、rlhf、reasoning、gan、llm-implementation の8ページ。
収集結果: 112文献・一次資料。要旨確認100件、本文該当節確認8件、書誌確認1件、一次講義・公式概要資料3件（追加照合後）。
JSONの full-text は「本文該当節確認」であり、全文読了・証明全体の監査・追試を意味しない。会議・雑誌版未再照合のものはarXiv版と明示した。
検索語で候補を得た後、一次のarXiv abs・論文本文・会議資料・著者資料で題名、著者、主張、公開時期を照合。検索snippetの日付だけで初出年や採択を決めていない。
文献数を「2026年の全論文」「全関連研究の完全リスト」と解釈しない。既存8ページの主要な系譜と周辺領域を広く追跡した説明的レビューであり、PRISMA型の網羅的データベースレビューではない。

実行した検索クエリ

以下はこの担当で実行したクエリ文字列。別途、末尾の一次URLを直接openして全採用文献を照合した。候補探索は複数クエリを一括実行する場合もある。

site.arxiv.org 2026 attention transformer FlashAttention
site.arxiv.org 2026 scaling laws language models
site.arxiv.org 2026 reinforcement learning reasoning language models
site.arxiv.org 2026 multimodal GAN generative adversarial networks
site.arxiv.org/abs/ "2026" "generative adversarial" GAN image synthesis
site.arxiv.org/abs/ "2026" "multimodal" "survey"
site.arxiv.org/abs/ "2025" "GigaGAN" "GAN"
site.arxiv.org/abs/ "2026" "Direct Preference Optimization"
"The GAN is dead; long live the GAN!" arxiv
"GAN" "2026" "site:arxiv.org/abs" "distillation"
"2026" "site:arxiv.org/abs" "Qwen3" "Technical Report"
"2026" "site:arxiv.org/abs" "scaling laws" "September"
"ATLAS: Adaptive Transfer Scaling Laws" arxiv
"Qwen2.5-VL Technical Report" arxiv
"Qwen3-Omni Technical Report" arxiv
"On the Benefits of Early Fusion in Multimodal Representation Learning"
"Multimodal deep learning for biomedical data fusion: a review"
"Multimodal Deep Learning" "Ngiam" 2011
"Revisit Multimodal Meta-Learning through the Lens of Multi-Task Learning"
"Towards multimodal foundation models in molecular cell biology"
"s1: Simple test-time scaling" arxiv
"Stop Overthinking" "arxiv"
"2026" reasoning "site:arxiv.org/abs" "test-time" "September"
"2026" "GAN" "site:openaccess.thecvf.com/content/CVPR2026/"
"On Aliased Resizing and Surprising Subtleties in GAN Evaluation"
"2025" "adversarial post-training" diffusion arxiv
"2026" GAN "site:openaccess.thecvf.com/content/CVPR2026/"
"2026" "large language model" inference serving "site:arxiv.org/abs"

重点的に本文を確認した範囲

ID	確認した一次版	確認範囲	この確認で扱わないもの
FM002	Transformer v7	§3、scaled dot-product、多頭化、残差・正規化、decoder mask	全benchmarkの再分析
FM013	FlashAttention-4 v1	§3.1.2–3.1.4、Blackwellでの資源非対称、指数演算近似、条件付きrescaling	全dtype・shapeでの誤差評価、コード検証
FM019	Chinchilla v1	計算配分式、付録BのLR schedule、付録Eの外挿と曲率	全モデルの追試、推論を含む総費用最適化
FM043	InstructGPT v1	方法、PPO/PPO-ptxの方策目的、KL項	人間評価全体の監査
FM046	DPO v3	§4、式5/7、方策比による報酬の表現と選好モデル	全証明、offline/online全方式の同値性
FM061	DeepSeek-R1 v1	§2.2–2.3、R1-ZeroとR1のSFT/RL工程	公開重みの再評価、最新版との全差分
FM075	GAN convergence v4	導入、表1、局所収束の仮定、有限discriminator更新の反例	証明全体の独立検算、現代GAN全体への保証
FM096	Biomedical fusion review	融合の分類・early/intermediate/late、異種データの問題	臨床効果の総合評価、個別疾患の診療上の結論

NgiamらのICML PDFは書誌確認に留めた。FM039のmultimodal meta-learningについては一次要旨と公開本文の導入を参照したが、確認水準は保守的に要旨確認のままとした。

2025〜2026年の追補と日付

次表は「最新年を検索した」ことを追跡するための採用例。旧論文の2026年改訂を2026年初出に数えない。

ID	初出年・一次表示	位置付け
FM025	2025 / arXiv 2501.18107	推論遅延とモデル形状を含むスケーリング
FM026	2025 / Submitted 24 Oct 2025	ATLAS、多言語転移。ICLR 2026は公刊先
FM034–035	2025	Qwen2.5-VL、Qwen3-Omni technical reports
FM061–066	2025	R1、s1、latent recurrence、DAPO、RLの能力範囲、パズルでの複雑度評価
FM105	2025 / Submitted 14 Jan 2025	拡散事前学習と敵対的後学習による動画生成
FM085	2026 / Submitted 4 Jan 2026	Spintronic DCGAN。特殊ハードウェア実装例として採用
FM052	2026 / Submitted 31 Jan 2026	DPOのrating情報。ID2602から提出日を推測しない
FM053	2026 / Submitted 10 Feb 2026、改訂28 Jun 2026	RL推論の報酬モデル総説
FM013	2026 / Submitted 5 Mar 2026	Blackwell向けFlashAttention-4
FM106	2026 / 一次ページ表示Submitted 3 Jul 2026	ID2608.13573の月・検索索引と不整合。日を断定せず本文は年のみ
FM038	2026 / Submitted 16 Sep 2026	効率的マルチモーダル学習の総説
FM067	2026 / Submitted 22 Sep 2026	小さい探索方策による大きいモデルの案内
FM068	2026 / Submitted 29 Sep 2026	自然言語論理の形式検証付きRL
FM027	2026 / Submitted 1 Oct 2026	視覚tokenとbackbone規模を分けたVLM誤差則

直近論文は要旨・書誌確認を中心とし、外部再現済み・汎用的優位と扱わない。特にFM027は対象モデル族・benchmarkが限られ、全VLMの限界の確定ではない。FM037は2024年初出、2026年2月改訂、FM048は2024年初出の2026年改訂、FM091は2023年初出の2026年改訂であり、初出年を維持した。FM061のabs最新版は2026年改訂で、工程の比較には2025年技術報告v1を用いた。

書誌照合で訂正・除外した候補

FM082 R3GAN: arXiv公開は2025-01-09だが会議版はNeurIPS 2024。参考文献年2024とし、arXiv掲載年を別記した。会議PDFの副題 A Modern Baseline GAN とarXivの A Modern GAN Baseline の語順差を確認し、リンク先arXivの表題を採用した。
FM106: 一次ページのSubmitted 3 Jul 2026、ID2608.13573、検索索引の8月表示が一致しない。最新版表示7 Sep 2026は基準日前だが、初回日の不整合は解消できていない。日付を統合・推定せず date_note に残した。企業名も情報源間で差があるため本文に採らなかった。
FM063とFM062: 2502.05171を開くとs1ではなくlatent recurrent depthの論文であった。実際の題名・著者でFM063として採用し、s1は2501.19393で別に確認した。
FM099 Clean-FID: 候補として開いた2106.12510は別分野の流体研究であり除外。題名検索から2104.11222を確認し採用した。
2303.17760: 一次ページを確認するとCAMELの論文で、今回の実装項目の主要根拠ではないため採用しなかった。
IGAN等の2026 GAN候補: 探索結果から広い優位性は確認できず、標準画像生成の最良手法という主張には使わなかった。採用しないことは存在や価値の否定ではない。
Early Fusion FM036: 採択が未確認のままICLR acceptedとは書かず、arXiv preprintとして記録した。
FM095: ICML 2011版の存在を確認。前身のNIPS 2010 workshop資料まで含む絶対的初出の断定を避けた。
既存の生体分野資料: 初回調査で未回収だった2論文を追加照合しFM108–109として要旨確認で採用。効果量の再解析や臨床的有効性の総合判断はしていない。元出版社URLとPMC版の対応はfoundation-url-aliases.jsonに記録。
Qiita、Zenn、note、YouTube等の教材は一次研究と同じ根拠水準に数えていない。リンク先が失われた資料の内容は推測で補っていない。

主な訂正点・残る範囲

Kaplan論文を全分野のScaling Lawsの最初とは扱わず、Hestness等の前史を追加。
RLHFの言語モデル凍結は一般定義でない。方策・参照方策・報酬モデルを分け、PPO損失をcriticだけに還元しない。
multimodal meta-learningのタスク分布の多峰性と、複数センサ・入力modalityの融合を区別。
GANの固有値による安定性説明は、連続・離散時間、学習率、regularity、局所性の条件を付ける。
LLMの必要GPU台数・時間は固有設定の事例であり、モデル規模だけから普遍化しない。
未完了の深掘り: RLVRの能力拡張・The Illusion of Thinkingへの全反論、RAG、diffusion/flow全般、音声生成、ロボティクス、3D生成、医療・omicsの各応用、alignmentの全変種、2026年全会議録。検索ヒットの欠如を「関連論文なし」と解釈しない。
112文献・一次資料の多くは要旨確認であり、章の比較・未解決問題には担当者による横断的整理が含まれる。論文ごとの定理・実装を全面的に監査したものではない。

採用した一次資料一覧

URLと確認水準の機械可読版は同ディレクトリの foundation-models-references.json。主張に関係するリンクは公開章の本文にも配置した。

ID	題名	年	確認水準	一次資料
FM001	Neural Machine Translation by Jointly Learning to Align and Translate	2014	abstract	一次ページ
FM002	Attention Is All You Need	2017	full-text	一次ページ
FM003	BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding	2018	abstract	一次ページ
FM004	Language Models are Few-Shot Learners	2020	abstract	一次ページ
FM005	An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale	2020	abstract	一次ページ
FM006	RoFormer: Enhanced Transformer with Rotary Position Embedding	2021	abstract	一次ページ
FM007	Fast Transformer Decoding: One Write-Head is All You Need	2019	abstract	一次ページ
FM008	GQA: Training Generalized Multi-Query Transformer Models from Multi-Head Checkpoints	2023	abstract	一次ページ
FM009	Rethinking Attention with Performers	2020	abstract	一次ページ
FM010	FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness	2022	abstract	一次ページ
FM011	FlashAttention-2: Faster Attention with Better Parallelism and Work Partitioning	2023	abstract	一次ページ
FM012	FlashAttention-3: Fast and Accurate Attention with Asynchrony and Low-precision	2024	abstract	一次ページ
FM013	FlashAttention-4: Algorithm and Kernel Pipelining Co-Design for Asymmetric Hardware Scaling	2026	full-text	一次ページ
FM014	Mamba: Linear-Time Sequence Modeling with Selective State Spaces	2023	abstract	一次ページ
FM015	Transformers are SSMs: Generalized Models and Efficient Algorithms Through Structured State Space Duality	2024	abstract	一次ページ
FM016	DeepSeek-V3 Technical Report	2024	abstract	一次ページ
FM017	Deep Learning Scaling is Predictable, Empirically	2017	abstract	一次ページ
FM018	Scaling Laws for Neural Language Models	2020	abstract	一次ページ
FM019	Training Compute-Optimal Large Language Models	2022	full-text	一次ページ
FM020	Scaling Vision Transformers	2021	abstract	一次ページ
FM021	Explaining Neural Scaling Laws	2021	abstract	一次ページ
FM022	Scaling Data-Constrained Language Models	2023	abstract	一次ページ
FM023	Will we run out of data? Limits of LLM scaling based on human-generated data	2022	abstract	一次ページ
FM024	Are Emergent Abilities of Large Language Models a Mirage?	2023	abstract	一次ページ
FM025	Scaling Inference-Efficient Language Models	2025	abstract	一次ページ
FM026	ATLAS: Adaptive Transfer Scaling Laws for Multilingual Pretraining, Finetuning, and Decoding the Curse of Multilinguality	2025	abstract	一次ページ
FM027	Not All Error Yields to Scale: Where Scaling Stops in Vision-Language Inference	2026	abstract	一次ページ
FM028	Multimodal Machine Learning: A Survey and Taxonomy	2017	abstract	一次ページ
FM029	Learning Transferable Visual Models From Natural Language Supervision	2021	abstract	一次ページ
FM030	Flamingo: a Visual Language Model for Few-Shot Learning	2022	abstract	一次ページ
FM031	BLIP-2: Bootstrapping Language-Image Pre-training with Frozen Image Encoders and Large Language Models	2023	abstract	一次ページ
FM032	Visual Instruction Tuning	2023	abstract	一次ページ
FM033	ImageBind: One Embedding Space To Bind Them All	2023	abstract	一次ページ
FM034	Qwen2.5-VL Technical Report	2025	abstract	一次ページ
FM035	Qwen3-Omni Technical Report	2025	abstract	一次ページ
FM036	On the Benefits of Early Fusion in Multimodal Representation Learning	2020	abstract	一次ページ
FM037	Deep Multimodal Learning with Missing Modality: A Survey	2024	abstract	一次ページ
FM038	From Models to Systems: A Comprehensive Survey of Efficient Multimodal Learning	2026	abstract	一次ページ
FM039	Revisit Multimodal Meta-Learning through the Lens of Multi-Task Learning	2021	abstract	一次ページ
FM040	Deep reinforcement learning from human preferences	2017	abstract	一次ページ
FM041	Fine-Tuning Language Models from Human Preferences	2019	abstract	一次ページ
FM042	Learning to summarize from human feedback	2020	abstract	一次ページ
FM043	Training language models to follow instructions with human feedback	2022	full-text	一次ページ
FM044	Proximal Policy Optimization Algorithms	2017	abstract	一次ページ
FM045	Constitutional AI: Harmlessness from AI Feedback	2022	abstract	一次ページ
FM046	Direct Preference Optimization: Your Language Model is Secretly a Reward Model	2023	full-text	一次ページ
FM047	A General Theoretical Paradigm to Understand Learning from Human Preferences	2023	abstract	一次ページ
FM048	KTO: Model Alignment as Prospect Theoretic Optimization	2024	abstract	一次ページ
FM049	SimPO: Simple Preference Optimization with a Reference-Free Reward	2024	abstract	一次ページ
FM050	Scaling Laws for Reward Model Overoptimization	2022	abstract	一次ページ
FM051	Open Problems and Fundamental Limitations of Reinforcement Learning from Human Feedback	2023	abstract	一次ページ
FM052	Direct Preference Optimization with Rating Information: Practical Algorithms and Provable Gains	2026	abstract	一次ページ
FM053	Reward Modeling for Reinforcement Learning-Based LLM Reasoning: Design, Challenges, and Evaluation	2026	abstract	一次ページ
FM054	Chain-of-Thought Prompting Elicits Reasoning in Large Language Models	2022	abstract	一次ページ
FM055	Self-Consistency Improves Chain of Thought Reasoning in Language Models	2022	abstract	一次ページ
FM056	Tree of Thoughts: Deliberate Problem Solving with Large Language Models	2023	abstract	一次ページ
FM057	ReAct: Synergizing Reasoning and Acting in Language Models	2022	abstract	一次ページ
FM058	Let’s Verify Step by Step	2023	abstract	一次ページ
FM059	Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters	2024	abstract	一次ページ
FM060	DeepSeekMath: Pushing the Limits of Mathematical Reasoning in Open Language Models	2024	abstract	一次ページ
FM061	DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning	2025	full-text	一次ページ
FM062	s1: Simple test-time scaling	2025	abstract	一次ページ
FM063	Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach	2025	abstract	一次ページ
FM064	DAPO: An Open-Source LLM Reinforcement Learning System at Scale	2025	abstract	一次ページ
FM065	Does Reinforcement Learning Really Incentivize Reasoning Capacity in LLMs Beyond the Base Model?	2025	abstract	一次ページ
FM066	The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity	2025	abstract	一次ページ
FM067	Beyond Repeated Sampling: Learning Search Policies for LLM Reasoning	2026	abstract	一次ページ
FM068	Learning to Prove, Not Just to Answer: Reinforcement Learning from Formal Verification for Natural-Language Logical Reasoning	2026	abstract	一次ページ
FM069	Generative Adversarial Networks	2014	abstract	一次ページ
FM070	Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks	2015	abstract	一次ページ
FM071	Wasserstein GAN	2017	abstract	一次ページ
FM072	Improved Training of Wasserstein GANs	2017	abstract	一次ページ
FM073	Spectral Normalization for Generative Adversarial Networks	2018	abstract	一次ページ
FM074	The Numerics of GANs	2017	abstract	一次ページ
FM075	Which Training Methods for GANs do actually Converge?	2018	full-text	一次ページ
FM076	GANs Trained by a Two Time-Scale Update Rule Converge to a Local Nash Equilibrium	2017	abstract	一次ページ
FM077	Large Scale GAN Training for High Fidelity Natural Image Synthesis	2018	abstract	一次ページ
FM078	A Style-Based Generator Architecture for Generative Adversarial Networks	2018	abstract	一次ページ
FM079	Analyzing and Improving the Image Quality of StyleGAN	2019	abstract	一次ページ
FM080	Alias-Free Generative Adversarial Networks	2021	abstract	一次ページ
FM081	Scaling up GANs for Text-to-Image Synthesis	2023	abstract	一次ページ
FM082	The GAN is dead; long live the GAN! A Modern GAN Baseline	2024	abstract	一次ページ
FM083	Denoising Diffusion Probabilistic Models	2020	abstract	一次ページ
FM084	Improved Distribution Matching Distillation for Fast Image Synthesis	2024	abstract	一次ページ
FM085	Image Synthesis Using Spintronic Deep Convolutional Generative Adversarial Network	2026	abstract	一次ページ
FM086	Megatron-LM: Training Multi-Billion Parameter Language Models Using Model Parallelism	2019	abstract	一次ページ
FM087	ZeRO: Memory Optimizations Toward Training Trillion Parameter Models	2019	abstract	一次ページ
FM088	LoRA: Low-Rank Adaptation of Large Language Models	2021	abstract	一次ページ
FM089	QLoRA: Efficient Finetuning of Quantized LLMs	2023	abstract	一次ページ
FM090	GPTQ: Accurate Post-Training Quantization for Generative Pre-trained Transformers	2022	abstract	一次ページ
FM091	AWQ: Activation-aware Weight Quantization for LLM Compression and Acceleration	2023	abstract	一次ページ
FM092	Efficient Memory Management for Large Language Model Serving with PagedAttention	2023	abstract	一次ページ
FM093	Fast Inference from Transformers via Speculative Decoding	2022	abstract	一次ページ
FM094	SGLang: Efficient Execution of Structured Language Model Programs	2023	abstract	一次ページ
FM095	Multimodal Deep Learning	2011	metadata	一次ページ
FM096	Multimodal deep learning for biomedical data fusion: a review	2022	full-text	一次ページ
FM097	Recent Advances and Trends in Multimodal Deep Learning: A Review	2021	abstract	一次ページ
FM098	Improved Precision and Recall Metric for Assessing Generative Models	2019	abstract	一次ページ
FM099	On Aliased Resizing and Surprising Subtleties in GAN Evaluation	2021	abstract	一次ページ
FM100	Extracting Training Data from Large Language Models	2020	abstract	一次ページ
FM101	StackGAN: Text to Photo-realistic Image Synthesis with Stacked Generative Adversarial Networks	2016	abstract	一次ページ
FM102	RGBD-GAN: Unsupervised 3D Representation Learning From Natural Image Datasets via RGBD Image Synthesis	2019	abstract	一次ページ
FM103	Training language GANs from Scratch	2019	abstract	一次ページ
FM104	Social-BiGAT: Multimodal Trajectory Forecasting using Bicycle-GAN and Graph Attention Networks	2019	abstract	一次ページ
FM105	Diffusion Adversarial Post-Training for One-Step Video Generation	2025	abstract	一次ページ
FM106	A Year in LLM Serving: Workload Evolution, Caching and Load-Balancing	2026	abstract	一次ページ

既存URL台帳を使った追加照合

元8ページを含む未照合12候補を2026-10-03に再確認した。既存と同じ論文4件、追加6資料、PDF取得制限により未確認2件。追加6資料はGAN原著者tutorial1、生体融合論文2、講義/公式概要スライド3である。上表と合わせて112件となる。

FM107	NIPS 2016 Tutorial: Generative Adversarial Networks	2016	abstract	一次ページ
FM108	Information content and analysis methods for Multi-Modal High-Throughput Biomedical Data	2014	abstract	一次ページ
FM109	Multimodal deep learning models for early detection of Alzheimer’s disease stage	2021	abstract	一次ページ
FM110	深層生成モデルによる統計的推論	2019	primary-resource	一次ページ
FM111	DeepSpeed: 深層学習の訓練と推論を劇的に高速化するフレームワーク	2023	primary-resource	一次ページ
FM112	LLM Reasoning: Key Ideas and Limitations	2024	primary-resource	一次ページ

URL対応と確認の限界

OpenReview B1QRgziT- はFM073 Spectral Normalization。元ページの文脈と一次論文の引用先表示で対応を再確認した。OpenReview本体はverificationに阻まれた。
OUP 23/2/bbab569/6516346 はFM096。題名・DOIがPMC版と一致。
OpenReview cfqJY583gim は既存ラベルがFM036 Early Fusionに一致。直接本文は429/verification。検索で得た同題・同著者のOpenReview PDFがarXiv2011.07191を明記しており、同研究への対応として記録。元IDの直接メタデータ確認・採択確認とは別。
NeurIPS2021 7b3403f79b478699224bb449509694cf はFM039。会議要旨・著者で確認。
Nature s41598-020-74399-w はFM109。出版社ページの取得失敗をPMC原文で補い、DOI一致と2021-02-05公開を確認。DOI文字列の2020を発表年としない。
FM107は1701識別子だがSubmitted 31 Dec 2016。初出年2016を維持。
FM110は表紙に福水健次、深層生成モデルによる統計的推論、2019-06-05。検索エンジンのPDF表示題名「データ科学への機械学習的アプローチ」より表紙を優先。
FM111は表紙にMicrosoft DeepSpeed Team、2023-06-07。
FM112は著者PDFの表紙にDenny Zhou、2024のCalTech/UC Berkeley/UPenn講演と2023の講演を併記。Berkeley版の表記年2024を採用し、元の講義が2024年に初めて着想されたとは主張しない。

対応辞書は foundation-url-aliases.json に保存した。

取得できなかった資料

元URL	確認結果	扱い
2018 ML概論PDF	web toolのContent length is too large: 11782220。講義ディレクトリも取得不能	内容・正確な表紙題名を未確認。確定参考文献には追加しない
ACL2017 multimodal tutorial PDF	web toolのContent length is too large: 15472888。httpでも同じ結果	原文未確認。FM028総説と同一資料だとは扱わない

追加検索クエリ："B1QRgziT-" GAN、"cfqJY583gim"、"Multimodal deep learning models for early detection of Alzheimer"、"B1QRgziT-" "Spectral Normalization" site:openreview.net、"cfqJY583gim" "Early Fusion"、"LLM Reasoning" "Denny Zhou" "Berkeley" 2024、"MMML-Tutorial-ACL2017.pdf"、"On the Benefits of Early Fusion in Multimodal Representation Learning" site:openreview.net、"MMML-Tutorial-ACL2017" site:cs.cmu.edu。直接openした12候補と追加の一次PDF/PMC URLも本節に記録した。

汎化サーベイ検索・確認ログ

調査日・cutoff: 2026-10-03（America/Los_Angeles）
担当成果物: content/research/surveys/2026-10/generalization.md
参考文献データ: generalization-references.json
文献数: 86
範囲: generalization配下7ページと関連6プロジェクトの公開研究関心。_postsおよび内部原稿は読まず、元ページを変更していない。
手段: web検索と一次ページopen/find。一次情報としてarXiv、PMLR、JMLR、CVF、ACL Anthology、Nature、著者書籍公式サイト、出版社、NDL書誌を使用。二次まとめ・Reddit・一般ブログは参考文献根拠として採用していない。

実行した検索クエリ

以下は主要な検索文字列。複数queryを同じ呼出しに入れた場合も個別に列挙する。完全な検索母集合のenumeration、PRISMA flow、全引用網の閉包取得は行っていない。

範囲探索・2025/2026追補

2025 2026 survey out of distribution generalization detection test time adaptation calibration foundation models
2025 2026 calibration error smooth calibration LLM conformal prediction
2025 2026 compositional generalization benchmark systematic generalization large language models
site.arxiv.org 2026 “out-of-distribution detection”
site.arxiv.org 2026 “test-time adaptation”
site.arxiv.org 2025 “calibration” “language models”
site.arxiv.org 2026 “domain generalization”
“calibration” “2026” confidence uncertainty（arxiv.org/openreview.net）
“out-of-distribution detection” “2026”（arxiv.org/CVF）
“compositional generalization” “2026”（arxiv.org/ACL Anthology）
“multicalibration” “2025” “2026”
“multicalibration” “2025”（PMLR）
“multicalibration” “2026”（PMLR/arXiv）

原典・系統別の確認

Fishr Invariant Gradient Variances
Out-of-Distribution Generalization via Risk Extrapolation
Model soups Robust fine-tuning of zero-shot models
Calibrating Large Language Models with Sample Consistency
A Unifying Theory of Distance from Calibration
Detecting and Correcting for Label Shift with Black Box Predictors
Covariate Shift Adaptation by Importance Weighted Cross Validation
Domain-Adversarial Training of Neural Networks
A theory of learning from different domains
Tent: Fully Test-Time Adaptation / Continual Test-Time Adaptation
Efficient Test-Time Model Adaptation without Forgetting
Towards Stable Test-Time Adaptation in Dynamic Wild World
A Baseline for Detecting Misclassified and Out-of-Distribution Examples
Enhancing The Reliability of Out-of-distribution Image Detection / ODIN
Deep Anomaly Detection with Outlier Exposure
Energy-based Out-of-distribution Detection
OpenOOD v1.5 / Logit Normalization
Adaptive Conformal Inference Under Distribution Shift
Conformal Risk Control
A Gentle Introduction to Conformal Prediction
The limits of distribution-free conditional predictive inference
COGS: A Compositional Generalization Challenge
Human-like systematic generalization through a meta-learning neural network
ReCOGS: How Incidental Details of a Logical Form Overshadow
“Compositional Generalization Benchmarks” “2025”
Inherent Trade-Offs in the Fair Determination of Risk Scores
On Fairness and Calibration
Multicalibration: Calibration for the (Computationally-Identifiable) Masses
A Reductions Approach to Fair Classification
A new look at the statistical model identification / Akaike 1974
“Takeuchi” “1976” “information”
Asymptotic Equivalence of Bayes Cross Validation and Widely Applicable Information Criterion
Practical Bayesian model evaluation using leave-one-out cross-validation and WAIC
Strictly Proper Scoring Rules, Prediction, and Estimation
Trainable Calibration Measures for Neural Networks from Kernel Mean Embeddings
Verified Uncertainty Calibration
Revisiting the Calibration of Modern Neural Networks
Benchmarking Neural Network Robustness to Common Corruptions and Perturbations
“A new look at the statistical model identification” “716”
“Takeuchi” “Distribution of informational statistics” 1976
“A theory of the generalization gap” “Takeuchi”
“Statistical Network Complexity” “Takeuchi”
竹内啓 1976 情報統計量分布モデル当てはまり規準数理科学 153
“Calibrating Large Language Models with Sample Consistency” “2025” “aclanthology.org/”
“A new look at the statistical model identification” “pdf” Akaike
Equality of Opportunity in Supervised Learning
“Fairness and Machine Learning” “2023” Barocas
One Model, Many Behaviors: Training-Induced Effects on Out-of-Distribution Detection
Back to Source: Open-Set Continual Test-Time Adaptation via Domain Compensation
“Calibrating Large Language Models with Sample Consistency” “NAACL”

検索結果に出る所属会議・年代をそのまま採用せず、可能な限り一次absまたは正式会議録をopen。例えばSample Consistencyには二次検索結果でNAACL 2025とする情報があったが、arXiv v2のCommentsはAAAI 2024であったため、本文献にはその一次表示と2026改訂日を記載した。

本文該当節を確認した文献

GE02: https://proceedings.mlr.press/v80/lipton18a/lipton18a.pdf §3–4。A.1 label shift、A.2 support、A.3 confusion invertibilityとmoment equation。
GE11: https://proceedings.mlr.press/v162/rame22a/rame22a.pdf §3.2、とくに3.2.3。gradient variance/Fisher/Hessianの関係と近似条件。
GE28: https://proceedings.mlr.press/v70/guo17a/guo17a.pdf §2。top-label校正、binning ECE、NLL。
GE33: https://arxiv.org/html/2211.16886v2 calibration measuresの比較、ECEの非連続性と推定困難性。
GE61: https://www.nature.com/articles/s41586-023-06668-3 Behavioural resultsとMLCのmeta-training説明部分。
GE64: https://arxiv.org/html/2602.24264v1 §3–4、Proposition 1。linear heads、GD+CE、binary grid、training support、三つのdesiderata。後のv2が2026-07-06でICML2026表示なのもabsで確認。
GE70: https://arxiv.org/html/1906.07774v2 §4.1。TICとHessian/gradient外積。全文読了を意味しない。

他の採用文献は原則としてabstract・書誌確認。GE66はIEEEのJavaScript/bot確認で本文を取得できず、原典DOIと著者自身の1981年回顧の書誌を突合。GE67はNDL書誌のみで原文は未取得。GE54は著者公式サイトとMIT Press出版情報。

2026年の直接確認

ID	確認先	日付/状態
GE56	PMLR v336/hu26b	COLT 2026正式会議録
GE63	ACL Anthology 2026.acl-long.409	ACL 2026, July、著者3名を確認
GE64	arXiv 2602.24264	2026-02-27初出、2026-07-06 v2、ICML2026表示
GE65	arXiv 2606.27721	2026-06-26初出、preprint
GE75	PMLR v306/jawad26a	ICML 2026正式会議録
GE76	arXiv 2607.01657	2026-07-02初出、ECCV2026採択表示
GE77	arXiv 2606.25665	2026-06-24初出、preprint
GE78	arXiv 2601.11022	2026-01-16初出、preprint
GE79	arXiv 2601.10836	2026-01-15初出、WACV2026表示・IEEE DOIも確認
GE80	arXiv 2604.21772	2026-04-23初出、CVPR2026採択・CVF書誌も確認

GE79のCVF検索抽出には54 models、arXiv/IEEE abstractには56 modelsという差があった。本文ではこの数を使わず、training recipeとdetectorの相互作用という一致する結論だけを採用した。CVFの一部HTMLはopen失敗したため、arXiv absと公式検索抽出を突合し、abstract確認以上の主張にしなかった。

確認したが主文献に採用しなかった候補・誤対応の排除

https://arxiv.org/abs/2609.39512 — Can Domain Generalization be Guaranteed in Small-Sample Learning? 2026-09-30初出、Hong Zheng。一次absは取得。abstractの「first」「mild assumptions」だけでは新規性と仮定の範囲を評価できず、本文の独立検証に至らなかったため、確立したDG理論として採用しなかった。
https://arxiv.org/abs/2608.26465 — 構成的汎化のcategory-theoretic/data-side診断。検索段階の候補に留めた。
https://arxiv.org/abs/2605.11710 — continual few-shot構成性。分野拡張候補に留めた。
https://arxiv.org/abs/2512.23675 — End-to-End Test-Time Training for Long Context。TTAとlong-context学習機構の違いを十分に評価できず、DG/TTA基礎文献の代替にしなかった。
探索中のarXiv IDの推測誤り2305.14766、2201.02147、2106.09740は別分野/別題であることを一次absで確認し、除外。2005.03692もCOGSではなくsyntactic generalization論文だったためCOGSの根拠にせず、正しいACL Anthology原典へ置換。
GE85は旧メモの旧題ではなく、arXiv最新版の正式題名に更新。

残る不足と再開時の優先順位

本文の保証を引用する2026年preprintを全文精読し、前提・反例・formal venueを再確認する。
2026年8月〜10月3日の各subfieldの新着を会議録・arXivカテゴリ別に列挙し、採用候補の重要性を評価する。本調査は新着全件を取得したものではない。
各benchmarkの公式protocol・source code revision・pretraining情報まで追跡し、claimsを独立再現する。
Mahalanobis/kNN/ViM/ReAct等のpost-hoc detection各系統、open-vocabulary/graph/time-series/medical OOD、causal transport、selective classificationの個別網羅を拡張する。
既存メモにある多数の応用論文・技術ブログ・失効リンクをすべて本章の参考文献に置き換えたわけではない。基礎・分岐点・評価上の反証・元プロジェクトに直接接続する文献を優先した。
数学的fairness条件を社会的適切性の保証とみなさない。法令レビューは本調査の対象外。
各項の根拠水準を保持する。JSON full-textは本文該当節確認であって、全文読了ではない。

追加監査：既存generalization引用70 URL（2026-10-03）

source-inventory.jsonのreviewed_idsが空で、occurrencesにcontent/research/topics/generalization/を含む70候補を固定して再確認した。固定候補はgeneralization-pending.json、照合結果はgeneralization-source-audit.json、確定したURL別名はgeneralization-url-aliases.json。元トピックは変更していない。

結果は 59 URLを照合、3 URLは講義/会議スライドとして確認し論文追加対象外、8 URLは元URL未確認。59には書誌確認や既存GEの別URLも含む。OpenReview元投稿と正式版の対応が確認できないものは、正式論文を別途収録しても元URLにaliasを付けなかった。新規61文献・資料（GE087–GE147）を追加し、台帳は147件。件数の差は別URL統合、書誌のみの記録、誤リンク先と本来の題名に対応する両論文、関連正式版の別収録による。

arXiv PDFリンクは同一arXiv IDのabsへ正規化して著者・題名・初出日・要旨を読んだ。CVF/OpenReviewは直接openも試したが、403/認証画面/429があった。arXiv・PMLR・正式NeurIPS・著者所属機関書誌・著者公式ページを代替確認先にした。一次PDFの検索索引による書誌照合は本文取得と数えない。要旨確認は論文自身の報告の確認であり、結果の再現・保証の証明の精読ではない。

追加で実行した検索クエリ

各文字列はweb searchに実行したもの。必要に応じarxiv.org、proceedings.mlr.press、openreview.net、openaccess.thecvf.com、cv-foundation.org、research.google、google.github.io、icml.ccで制限した。検索は原典への到達と同一性確認に使い、検索で現れた無関係な候補を自動採用していない。

"A Fine-Grained Analysis on Distribution Shift"
"Calibrated ensembles" "ID-OOD"
"A Critical Analysis of Distribution Shift"
"Tilted Empirical Risk Minimization"
"Loss Function Learning for Domain Generalization by Implicit Gradient"
"Head2Toe" "Intermediate"
"Domain-invariant Feature Exploration for Domain Generalization"
"A Note on" "Assessing Generalization of SGD via Disagreement"
"WvOGCEAQhxl"
"Generalization as Dynamical Robustness"
"Predicting Out-of-Domain Generalization with Neighborhood Invariance"
"How does a neural network" "noisy labels"
"An Empirical Investigation of Domain Generalization with Empirical Risk Minimizers"
"When is invariance useful"
"Calibrated ensembles can mitigate"
"Generalization as Dynamical Robustness" arxiv
"s41467-020-17478-w"
"Generalization as Dynamical Robustness" "Kozachkov"
Domain Generalization Guided by Gradient Signal to Noise Ratio of Parameters
The Auto Arborist Dataset
Unbiased Metric Learning On the Utilization of Multiple Datasets
Deep Hashing Network for Unsupervised Domain Adaptation
Adaptiope A Modern Benchmark for Unsupervised Domain Adaptation
Benchmarking Adversarial Robustness on Image Classification
"Adaptiope" arxiv
"Auto Arborist" arxiv
"Causality matters in medical imaging" arxiv
Kozachkov Wensing Slotine generalization contraction arxiv
"Adaptiope" "Ringwald" "2021"
"Auto Arborist" "Beery" "pdf"
"A Critical Analysis of Distribution Shift" "Hendrycks"
"One-Step Generalization Ratio Guided Optimization"
"The Auto Arborist Dataset"
"WIJVRV7jnTX"
"URNZQmbxpwh"
"Dl4LetuLdyK" "Wiles"
"URNZQmbxpwh" "Fishr"
"WIJVRV7jnTX" "Calibrated"
"Bc4fwa76mRp" "Head2Toe"
"Fishr" "URNZQmbxpwh"
"Loss Function Learning" "OxgLa0VEyg"
"Head2Toe" "Bc4fwa76mRp"

全候補の照合表

No.	元URL	結果	確認先・台帳ID	注記
1	元URL	照合済み	GE087	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
2	元URL	照合済み	GE122	OpenReview PDFの一次索引と著者公式コードの引用欄で題名・IDを照合。arXiv要旨取得。
3	元URL	照合済み	GE088	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
4	元URL	照合済み	GE089	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
5	元URL	照合済み	GE090	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
6	元URL	照合済み	GE28	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
7	元URL	照合済み	GE091	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
8	元URL	照合済み	GE092	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
9	元URL	照合済み	GE093	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
10	元URL	照合済み	GE34	Dirichlet calibrationの著者公式ポスター。既存GE34へ統合し別論文として数えない。
11	元URL	元URL未確認	関連資料・直接対応未確定	OpenReview元投稿の直接取得不可。UAI2022の関連正式論文を取得したが、元投稿IDと最終版の同一性は未確認。
12	元URL	照合済み	GE138	出版社の書誌・紹介のみ。hardcover発売2008年、一般的引用年2009年、paperback2022年を区別。
13	元URL	照合済み	GE131	Nature PDF取得失敗。arXiv absの正式DOIと著者・題名・journal referenceで照合。
14	元URL	照合済み	GE131	Nature HTMLは認証リダイレクト。arXiv absの正式DOIで照合。
15	元URL	照合済み	GE139	技術報告表紙・executive summary・2021年copyrightを確認。
16	元URL	資料として確認・論文追加対象外	—	講義スライドを取得。一次論文の追加対象から除外。
17	元URL	元URL未確認	—	自己作成PDFはcache missで取得できず。一次論文として追加しない。
18	元URL	元URL未確認	—	教材配下のdataset-shift-terminology.pdfは取得できず。書籍GE138との厳密な章・版対応は未確認。
19	元URL	資料として確認・論文追加対象外	—	ICML2020講演スライド（Maximum Likelihood with Bias-Corrected Calibration is Hard-To-Beat at Label Shift Adaptation）を取得。スライド自体は別論文に数えない。
20	元URL	元URL未確認	関連資料・直接対応未確定	匿名の旧投稿について一次検索索引を確認したが原典を取得できず、著者・最終版との同一性は未確認。Many Facesは関連文献として別に収録。
21	元URL	照合済み	GE48	NeurIPS正式abstractで既存GE48の別URLを確認。
22	元URL	照合済み	GE140	NIST原資料の表紙・executive summary・bias分類を確認。
23	元URL	照合済み	GE123	元OpenReview PDFの一次索引で題名・著者を照合し、arXiv要旨を取得。
24	元URL	照合済み	GE141	NeurIPS正式abstract取得。
25	元URL	照合済み	GE094	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
26	元URL	照合済み	GE095	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
27	元URL	照合済み	GE096	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
28	元URL	照合済み	GE097	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
29	元URL	元URL未確認	関連資料・直接対応未確定	OpenReviewが認証画面。原投稿IDの同一性未確認。Fishr正式版は既存GE11で収録済み。
30	元URL	元URL未確認	関連資料・直接対応未確定	OpenReviewが認証画面。元投稿IDの同一性未確認。題名に対応するPMLR正式論文は別途要旨確認。
31	元URL	元URL未確認	関連資料・直接対応未確定	OpenReviewが認証画面。元投稿IDと改題されたICML版の同一性は未確認。現行arXiv版を関連文献として収録。
32	元URL	照合済み	GE098	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
33	元URL	照合済み	GE099	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
34	元URL	照合済み	GE132	CVFは403。arXiv要旨・ICCV採択表示とCVF書誌で同一性照合。
35	元URL	照合済み	GE124	元TMLR PDFの一次索引で著者・題名を照合。arXiv要旨取得。
36	元URL	照合済み	GE125	arXiv PDF表紙のReviewed on OpenReview欄で元IDまで確認。
37	元URL	照合済み	GE82	GE125のPDF参考文献に元IDを確認し、GE82自身のPDF表紙でICLR2022を確認。
38	元URL	照合済み	GE130	TMLRの題名・著者・要旨を元PDFの一次索引で確認。同著者の旧題arXiv版の要旨取得。TMLR本文未取得。
39	元URL	照合済み	GE127	arXiv PDF表紙のReviewed on OpenReview欄で元IDまで確認。
40	元URL	照合済み	GE144	NeurIPS正式abstract取得。
41	元URL	照合済み	GE100	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
42	元URL	照合済み	GE101	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
43	元URL	照合済み	GE146	CVF原典PDFは403。正式書誌と論文へリンクする著者の公式データセットページを確認。配布停止も確認。
44	元URL	照合済み	GE102	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
45	元URL	照合済み	GE103	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
46	元URL	照合済み	GE104	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
47	元URL	照合済み	GE105	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
48	元URL	元URL未確認	関連資料・直接対応未確定	OpenReviewが認証画面。元IDの同一性未確認。題名に対応するarXiv/NeurIPS論文は別途確認。
49	元URL	照合済み	GE106	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
50	元URL	照合済み	GE143	NeurIPS正式abstractからReviewsリンクを開き、元OpenReview IDへの遷移を確認。
51	元URL	照合済み	GE107	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
52	元URL	照合済み	GE108	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
53	元URL	照合済み	GE109	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
54	元URL	資料として確認・論文追加対象外	—	AISTATS2021のIRM関連スライドを取得。スライド自体は別論文に数えない。
55	元URL	照合済み	GE110	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
56	元URL	照合済み	GE145	CV Foundation原典PDF冒頭の要旨・著者を取得。
57	元URL	照合済み	GE111	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
58	元URL	照合済み	GE133	CVFは403。arXiv要旨・CVPR表示とCVF書誌を照合。
59	元URL	照合済み	GE112	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
60	元URL	照合済み	GE113	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
61	元URL	照合済み	GE147	CVF PDFは403。著者所属機関KIT書誌・DOIのみ確認。本文/要旨未確認。
62	元URL	照合済み	GE114	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
63	元URL	照合済み	GE115	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
64	元URL	照合済み	GE116	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
65	元URL	照合済み	GE117	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
66	元URL	照合済み	GE118	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
67	元URL	照合済み	GE119	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
68	元URL	照合済み	GE120	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。
69	元URL	照合済み	GE134	CVFは403。arXiv旧題版の要旨とCVF正式書誌を照合。
70	元URL	照合済み	GE121	一次arXivの要旨・著者・初出年を確認。PDF URLは同じarXiv IDのabsを利用。

訂正・現在性・残る不足

arXiv:2004.06100は元ラベルのinvariance論文ではなくPretrained Transformers Improve Out-of-Distribution Robustness（GE106）。表示題名に対応するKoyama/Yamaguchi論文はarXiv:2008.01883（GE129）。
arXiv:2106.08365は旧題Predicting Unreliable Predictions by Shattering a Neural Networkから現行Test Sample Accuracy Scales with Training Sample Density in Neural Networks（GE097）への改題。
Head2Toe現行題名はBetter Transfer Learning（GE126）。元OpenReview投稿IDの直接対応は未確認のまま。
GE82は自身のarXiv PDF表紙を追加確認し、ICLR2022・掲載題名Assessing Generalization via Disagreementを追記。GE125/GE127も公開PDF表紙でTMLR掲載年とOpenReview IDを確認。
GE104はarXiv/PDF両方でRui Huという表記が2回あり、別のメールアドレスを伴う。重複ミスと決めつけて著者を削除せず原表記を保持。
Auto Arborist公式ページ https://google.github.io/auto-arborist/ の2025-05-27配布停止を確認。原典の歴史的位置づけとデータ取得の現在性を分離。
GENIEのarXiv:2606.16301は2026-06-15投稿だが、正式PMLR v267/cho25cではICML2025。初出年2025としてGE135へ登録し、2026新規成果と数えない。今回の追加監査は古い元引用の回収が中心で、2026年8月〜10月3日の新着全件列挙の不足を解消したものではない。
未確認8 URLは上表で明示。特に6つの旧OpenReview IDは、題名が一致・類似する別版が存在しても直接対応を推測してaliasに入れていない。残る2件は自己作成PDFと教材配下のterminology PDF。
Adaptiope（GE147）はKITの著者所属機関書誌・DOIのみ。書籍（GE138）は出版社書誌・紹介のみ。Auto Arborist（GE146）は正式書誌と公式説明。これらを論文本文精読と数えない。
追加全件の詳細証明・最新leaderboard・公式code revision・独立再現は未実施。原典の要旨・書誌を網羅的に回収する段階と、主張の全文検証の段階を区別する。

台帳の現在の根拠水準：{“abstract”: 132, “full-text”: 7, “primary-resource”: 4, “metadata”: 4}。full-textは該当節確認であり全文読了ではない。

数理手法・学習ダイナミクス調査ログ

担当章：content/research/surveys/2026-10/mathematics-and-dynamics.md
確認日・包含基準日：2026-10-03。2026年10月全体の終了時点を意味しない。
数理・ダイナミクス章の最終採録：93件。追加最適化補遺は別に29件。未刊行preprint、公式研究記事、刊行論文・書籍を区別した。
手法：ローカルtopic/projectページをseedに、題名・著者検索、関連研究の追跡、近年語を含む検索、一次abs/出版社/会議ページの照合を行った。検索結果snippetだけで最新年の採択を確定しない。
このログは検索方針・最終追補の実行クエリ・採録確認先を記録する。検索エンジンが返した全候補を固定したデータベースexportやPRISMA型の全件スクリーニングではない。初期の探索クエリ全履歴・除外全件の完全再現は保証しない。

ローカルで読んだ範囲

content/research/topics/mathematical-methods/のautomatic-differentiation、hessian、flow-matching、mcmc、modular-manifolds、miscの6頁、learning-dynamics/のfim、ntk、double-descentの3頁。関連projectのempirical-ot、ot-outlier、swa-rl、ngd-gans、cg-gansの5頁からテーマとリンクを抽出した。未公開成果を推定せず、実験案は提案と明記した。元ページと_postsは変更していない。

最終追補・年代確認で実行した検索クエリ

以下は2026-10-03に実行し、初期調査の取りこぼしを再確認した文字列。

automatic differentiation Hessian vector product 2025 2026 common interface
neural tangent kernel classification 2026 feature learning
flow matching MeanFlow 2025 2026 improved mean flows
flow matching sample complexity 2025 2026
optimal transport domain adaptation robust outliers 2025 2026
MCMC Hamiltonian Monte Carlo WALNUTS 2026
causal representation learning finite sample 2026
nonlinear ICA internal auxiliary variables 2026
"Optimal Transport for Domain Adaptation" "2017" "1853" Courty IEEE

加えて各文献の題名、著者、arXiv識別子、会議名を用いた探索・直接openを行った。題名一覧と最終確認先は下記「全採録文献の確認先」に残す。一般向けまとめ、Wikipedia、Reddit、非公式論文要約サービスは検索候補の発見に現れたが、章の技術的主張の根拠には採用しなかった。

最終追補の結果

AISTATS 2025「Domain Adaptation and Entanglement」は公式PMLR要旨で、UDAの周辺整合の限界を条件付き分布のOTから扱うことを確認しMD90として追補。
ICML 2026「Where Flow Matching Leaks」は公式PMLRで会議年・7月6–11日・要旨を確認しMD91として追補。Gaussian仮定によるピークの閉形式と、画像・音声の実験結果を区別した。
「Elastic Optimal Transport」等の追加候補も見つかったが、最終採択・本文条件を十分に照合できなかったため採録しなかった。これらも含めた分野の全件網羅を主張しない。
特定のアプリケーションだけに限定された2026年論文は、基礎理論・既存projectとの直接性を優先して選択した。生命科学専用flow、推薦専用因果表現等は別の応用レビューに譲る。

2025–2026年資料の公開状態の確認

[MD09] A Common Interface for Automatic Differentiation — JMLR 27(25), published January 2026。
[MD19] The Neural Tangent Kernel for Classification — preprint; submitted 2026-05-17, v2 2026-05-22。
[MD31] Stochastic Interpolants: A Unifying Framework for Flows and Diffusions — JMLR 26, published September 2025; arXiv初稿2023。
[MD36] Mean Flows for One-step Generative Modeling — NeurIPS 2025, proceedings PDF確認。
[MD37] Improved Mean Flows: On the Challenges of Fastforward Generative Models — technical report; submitted 2025-12-01, v2 2026-05-09。
[MD38] Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching — preprint; submitted 2025-12-01。
[MD49] Sinkhorn-CPD: Robust point cloud registration via unbalanced entropic optimal transport — arXiv公開 2026-06-15; Computer-Aided Design 199 (2026), 104104との書誌記載あり、雑誌刊行日未照合。
[MD58] The Within-Orbit Adaptive Leapfrog No-U-Turn Sampler — JMLR 27(113), published March 2026。
[MD62] Modular Manifolds — 著者公式研究記事 2025-09-26;査読論文ではない。
[MD69] Beyond identifiability: Learning causal representations with few environments and finite samples — preprint; submitted 2026-03-26。
[MD70] On Causal Representation Learning with Internal Auxiliaries — UAI 2026, PMLR 337, published。
[MD90] Domain Adaptation and Entanglement: an Optimal Transport Perspective — AISTATS 2025, PMLR 258:3034–3042, published。
[MD91] Where Flow Matching Leaks: Characterising the Membership Signals Along the Interpolation Path — ICML 2026（July 6–11）, PMLR 306:109269–109293, published。

MeanFlowはNeurIPS 2025の公式proceedings PDFを別途確認した。iMFは2025年12月1日初稿と2026年5月9日改訂を確認し、根拠のない会議採択名を付けなかった。2026年NTK分類論文はarXivのSubmitted 2026-05-17を確認した。Sinkhorn-CPDには雑誌書誌もあるが刊行日まで照合していないため、2026-06-15公開preprintとして追跡可能にした。WALNUTSはJMLR本文冒頭のPublished 3/26、AD interfaceはJMLRの2026年1月を確認した。

本文の条件まで追加確認した論点

MD38 Flow Matching sample complexity：該当本文のPL条件、smoothness、分散制御、近似誤差、flowのregularityを確認。任意のニューラルネット・分布に対する無条件保証とは記載しない。
MD69 finite-sample causal representation：線形latent factor/線形SEMのモデルを確認。一般の非線形因果表現の有限標本保証とは記載しない。
MD58 WALNUTS：本文導入と刊行情報を確認。orbit内での局所適応を、無条件な任意適応MCMCとして扱わない。
MD62 Modular Manifolds：著者公式研究記事の接空間、spectral normによる更新、数値解法の説明を確認。標準Riemannian metricと同一視せず、査読済みの一般理論として扱わない。
書籍MD59は利用可能な出版社冒頭PDFで書誌を確認した。MD60は著者公式書籍ページを確認した。全章・証明を通読したとの意味ではない。

年・題名・版の照合で修正した事項

Tensor Programs V：NeurIPS 2021の公式PDFを確認。arXiv登録は2022年であり、同一年と仮定しなかった。
Deep Double Descent：arXiv 2019、ICLR 2020。
FFJORD：arXiv 2018、ICLR 2019。
Rectified Flow：arXiv 2022、ICLR 2023。
Stochastic Interpolants：arXiv 2023、JMLR 2025年9月。
OT for Domain Adaptation：arXiv 2015、TPAMI 39(9), 2017。著者所属機関の研究記録でも照合。
Scaling Algorithms for Unbalanced Transport：arXiv 2016、Mathematics of Computation 2018。刊行題名ではOptimalが加わる。
GAN、WGAN、SinkhornにはarXiv題名と刊行題名の差があるためpublication statusに注記した。
Scaling Rectified FlowはarXiv版とICML版で著者一覧に差があるため、arXivへの引用とすることを明記した。
参照URLを入力して題名が一致しなかった資料は引用候補から外した。類似分野・似た識別子という理由で別論文の書誌を転用しなかった。

元メモからの訂正・限定

PCAにGaussian性は必須でなく、PCAとICAを単純な包含関係として扱わない。
Hessian traceコードのnext(iter(loader))は毎回iteratorを作り直す。None勾配を除く配列と全parameter配列のzipも対応がずれる可能性がある。bias/norm層を除いたtraceを全parameterのtraceと呼ばない。
FIM、empirical Fisher、GGN、勾配noise covarianceを区別する。
cg-gansの題名と本文Topicに不一致があり、略語CGだけから方式や成果を推定しない。conjugate gradientとCompetitive Gradient Descentを区別した。
double descentの両側の式の推定量は「最小ノルム最小二乗推定量（γ>1では補間解）」とした。γ<1まで補間解と呼ばない（他担当のクロスレビューを反映）。

残る不足と適用範囲

初出年・会議年は可能な限り併記したが、全論文の全version diffを取得していない。検索index未反映、未公開論文、アクセス不能本文、非英語文献、全応用分野、2026-10-04以降は包含しない。多くの項目の確認水準は要旨であり、定理の全条件・証明の独立検証を済ませた意味ではない。本文該当節を確認した資料はJSONのevidenceで区別する。刊行後にarXiv題名や著者一覧が変化した例があるため、厳密な引用書式の用途ではvenue_urlも併用する。

全採録文献の確認先

[MD01] Automatic Differentiation in Machine Learning: a Survey — abstract; JMLR 18(153), published。
[MD02] Fast Exact Multiplication by the Hessian — abstract; Neural Computation 6(1), published。
[MD03] A Stochastic Estimator of the Trace of the Influence Matrix for Laplacian Smoothing Splines — abstract; Communications in Statistics - Simulation and Computation 18(3), published。
[MD04] Hutch++: Optimal Stochastic Trace Estimation — abstract; SOSA 2021, published (preprint 2020)。
[MD05] BackPACK: Packing more into Backprop — abstract; ICLR 2020, published (preprint 2019)。
[MD06] An Investigation into Neural Net Optimization via Hessian Eigenvalue Density — abstract; ICML 2019, published; 追加の刊行版書誌確認。
[MD07] Limitations of the Empirical Fisher Approximation for Natural Gradient Descent — abstract; NeurIPS 2019, published。
[MD08] On the interplay between noise and curvature and its effect on optimization and generalization — abstract; AISTATS 2020, published (preprint 2019)。
[MD09] A Common Interface for Automatic Differentiation — abstract; JMLR 27(25), published January 2026。
[MD10] Neural Tangent Kernel: Convergence and Generalization in Neural Networks — full-text; NeurIPS 2018, published; 追加の刊行版書誌確認。
[MD11] Wide Neural Networks of Any Depth Evolve as Linear Models Under Gradient Descent — abstract; NeurIPS 2019, published。
[MD12] On Lazy Training in Differentiable Programming — abstract; NeurIPS 2019, published (preprint 2018)。
[MD13] Feature Learning in Infinite-Width Neural Networks — abstract; ICML 2021, published (preprint 2020)。
[MD14] Tensor Programs V: Tuning Large Neural Networks via Zero-Shot Hyperparameter Transfer — abstract; NeurIPS 2021, published; arXiv登録2022（刊行年と登録年が異なる）; 追加の刊行版書誌確認。
[MD15] Reconciling modern machine learning practice and the bias-variance trade-off — abstract; PNAS 2019, published (preprint 2018)。
[MD16] Deep Double Descent: Where Bigger Models and More Data Hurt — abstract; ICLR 2020, published; arXiv初稿2019; 追加の刊行版書誌確認。
[MD17] Surprises in High-Dimensional Ridgeless Least Squares Interpolation — abstract; Annals of Statistics 50(2), published (preprint 2019)。
[MD18] Benign Overfitting in Linear Regression — abstract; PNAS 2020, published (preprint 2019)。
[MD19] The Neural Tangent Kernel for Classification — abstract; preprint; submitted 2026-05-17, v2 2026-05-22。
[MD20] A Generalized Neural Tangent Kernel Analysis for Two-layer Neural Networks — abstract; NeurIPS 2020, published。
[MD21] A Recipe for Global Convergence Guarantee in Deep Neural Networks — abstract; AAAI 2021, published。
[MD22] Any Target Function Exists in a Neighborhood of Any Sufficiently Wide Random Network: A Geometrical Perspective — abstract; Neural Computation 32(8), published。
[MD23] Denoising Diffusion Probabilistic Models — abstract; NeurIPS 2020, published; 追加の刊行版書誌確認。
[MD24] Deep Unsupervised Learning using Nonequilibrium Thermodynamics — abstract; ICML 2015, published; 追加の刊行版書誌確認。
[MD25] Score-Based Generative Modeling through Stochastic Differential Equations — abstract; ICLR 2021, published (preprint 2020)。
[MD26] Neural Ordinary Differential Equations — abstract; NeurIPS 2018, published; 追加の刊行版書誌確認。
[MD27] FFJORD: Free-form Continuous Dynamics for Scalable Reversible Generative Models — abstract; ICLR 2019, published; arXiv初稿2018; 追加の刊行版書誌確認。
[MD28] Flow Matching for Generative Modeling — abstract; ICLR 2023, published (preprint 2022)。
[MD29] Flow Straight and Fast: Learning to Generate and Transfer Data with Rectified Flow — abstract; ICLR 2023, published; arXiv初稿2022; 追加の刊行版書誌確認。
[MD30] Improving and generalizing flow-based generative models with minibatch optimal transport — abstract; TMLR 2024, published (preprint 2023)。
[MD31] Stochastic Interpolants: A Unifying Framework for Flows and Diffusions — abstract; JMLR 26, published September 2025; arXiv初稿2023; 追加の刊行版書誌確認。
[MD32] Consistency Models — abstract; ICML 2023, published。
[MD33] Scaling Rectified Flow Transformers for High-Resolution Image Synthesis — abstract; ICML 2024, published;ここではarXiv版の著者一覧を記載; 追加の刊行版書誌確認。
[MD34] Discrete Flow Matching — abstract; NeurIPS 2024, published; 追加の刊行版書誌確認。
[MD35] Flow Matching Guide and Code — abstract; arXiv guide 2024。
[MD36] Mean Flows for One-step Generative Modeling — abstract; NeurIPS 2025, proceedings PDF確認。
[MD37] Improved Mean Flows: On the Challenges of Fastforward Generative Models — abstract; technical report; submitted 2025-12-01, v2 2026-05-09。
[MD38] Generative Modeling with Continuous Flows: Sample Complexity of Flow Matching — full-text; preprint; submitted 2025-12-01。
[MD39] Computational Optimal Transport — abstract; Foundations and Trends in Machine Learning 11(5-6), published。
[MD40] Sinkhorn Distances: Lightspeed Computation of Optimal Transportation Distances — abstract; NeurIPS 2013, published;刊行版題名末尾はOptimal Transport、掲載題名はarXiv版; 追加の刊行版書誌確認。
[MD41] Interpolating between Optimal Transport and MMD using Sinkhorn Divergences — abstract; AISTATS 2019, published。
[MD42] Optimal Transport for Domain Adaptation — abstract; IEEE TPAMI 39(9):1853–1865, published; arXiv初稿2015; 追加の刊行版書誌確認。
[MD43] Joint Distribution Optimal Transportation for Domain Adaptation — abstract; NeurIPS 2017, published; 追加の刊行版書誌確認。
[MD44] DeepJDOT: Deep Joint Distribution Optimal Transport for Unsupervised Domain Adaptation — abstract; ECCV 2018, published。
[MD45] Scaling Algorithms for Unbalanced Transport Problems — abstract; Mathematics of Computation 87(314):2563–2609, published; arXiv初稿2016、刊行版題名にはOptimalが加わる; 追加の刊行版書誌確認。
[MD46] Unbalanced minibatch Optimal Transport; applications to Domain Adaptation — abstract; ICML 2021, published;著者順は論文PDF準拠。
[MD47] Robust Optimal Transport with Applications in Generative Modeling and Domain Adaptation — abstract; NeurIPS 2020, published。
[MD48] Outlier-Robust Optimal Transport: Duality, Structure, and Statistical Analysis — abstract; AISTATS 2022, published;著者順はarXiv準拠。
[MD49] Sinkhorn-CPD: Robust point cloud registration via unbalanced entropic optimal transport — abstract; arXiv公開 2026-06-15; Computer-Aided Design 199 (2026), 104104との書誌記載あり、雑誌刊行日未照合。
[MD50] Equation of State Calculations by Fast Computing Machines — abstract; Journal of Chemical Physics 21(6), published。
[MD51] Monte Carlo sampling methods using Markov chains and their applications — abstract; Biometrika 57(1), published。
[MD52] MCMC using Hamiltonian dynamics — abstract; arXiv公開版2012 (Handbook章2011)。
[MD53] The No-U-Turn Sampler: Adaptively Setting Path Lengths in Hamiltonian Monte Carlo — abstract; JMLR 15(47), published。
[MD54] A Conceptual Introduction to Hamiltonian Monte Carlo — abstract; arXiv review 2017, revised 2018。
[MD55] Bayesian Learning via Stochastic Gradient Langevin Dynamics — abstract; ICML 2011, published;著者所属機関の原著書誌・abstract確認。
[MD56] Stochastic Gradient Hamiltonian Monte Carlo — abstract; ICML 2014, published。
[MD57] Rank-normalization, folding, and localization: An improved R-hat for assessing convergence of MCMC — abstract; Bayesian Analysis, published (preprint 2019)。
[MD58] The Within-Orbit Adaptive Leapfrog No-U-Turn Sampler — full-text; JMLR 27(113), published March 2026。
[MD59] Optimization Algorithms on Matrix Manifolds — metadata; Princeton University Press book, published。
[MD60] An Introduction to Optimization on Smooth Manifolds — primary-resource; Cambridge University Press book, published。
[MD61] Scalable Optimization in the Modular Norm — abstract; NeurIPS 2024, proceedings PDF確認。
[MD62] Modular Manifolds — primary-resource; 著者公式研究記事 2025-09-26;査読論文ではない。
[MD63] Independent component analysis: algorithms and applications — abstract; Neural Networks 13, published。
[MD64] Nonlinear ICA Using Auxiliary Variables and Generalized Contrastive Learning — abstract; AISTATS 2019, published。
[MD65] Variational Autoencoders and Nonlinear ICA: A Unifying Framework — abstract; AISTATS 2020, published。
[MD66] Challenging Common Assumptions in the Unsupervised Learning of Disentangled Representations — abstract; ICML 2019, published。
[MD67] Towards Causal Representation Learning — abstract; Proceedings of the IEEE 109(5), published;雑誌題名はToward。
[MD68] Causal de Finetti: On the Identification of Invariant Causal Structure in Exchangeable Data — abstract; NeurIPS 2023, published (preprint 2022)。
[MD69] Beyond identifiability: Learning causal representations with few environments and finite samples — full-text; preprint; submitted 2026-03-26。
[MD70] On Causal Representation Learning with Internal Auxiliaries — abstract; UAI 2026, PMLR 337, published。
[MD71] Deep Sets — abstract; NeurIPS 2017, published。
[MD72] Group Equivariant Convolutional Networks — abstract; ICML 2016, published。
[MD73] Geometric Deep Learning: Grids, Groups, Graphs, Geodesics, and Gauges — abstract; arXiv monograph 2021。
[MD74] Predictive learning via rule ensembles — abstract; Annals of Applied Statistics 2(3), published。
[MD75] Detecting Statistical Interactions from Neural Network Weights — abstract; ICLR 2018, published (preprint 2017)。
[MD76] Generative Adversarial Networks — abstract; NeurIPS 2014, published;刊行題名はGenerative Adversarial Nets、記載題名はarXiv版; 追加の刊行版書誌確認。
[MD77] Wasserstein GAN — abstract; ICML 2017, published;刊行題名はWasserstein Generative Adversarial Networks、記載題名はarXiv版; 追加の刊行版書誌確認。
[MD78] Improved Training of Wasserstein GANs — abstract; NeurIPS 2017, published; 追加の刊行版書誌確認。
[MD79] Spectral Normalization for Generative Adversarial Networks — abstract; ICLR 2018, published。
[MD80] A Variational Inequality Perspective on Generative Adversarial Networks — abstract; ICLR 2019, published; arXiv初稿2018; 追加の刊行版書誌確認。
[MD81] Competitive Gradient Descent — abstract; NeurIPS 2019, published; 追加の刊行版書誌確認。
[MD82] Averaging Weights Leads to Wider Optima and Better Generalization — abstract; UAI 2018, published; 追加の刊行版書誌確認。
[MD83] A Simple Baseline for Bayesian Uncertainty in Deep Learning — abstract; NeurIPS 2019, published。
[MD84] Leveraging Procedural Generation to Benchmark Reinforcement Learning — abstract; ICML 2020, published; arXiv初稿2019; 追加の刊行版書誌確認。
[MD85] Improving Generalization in Reinforcement Learning with Mixture Regularization — abstract; NeurIPS 2020, published。
[MD86] E(n) Equivariant Graph Neural Networks — abstract; ICML 2021, published; 追加の刊行版書誌確認。
[MD87] Diffusion Schrödinger Bridge with Applications to Score-Based Generative Modeling — abstract; NeurIPS 2021, published。
[MD88] Estimation of Non-Normalized Statistical Models by Score Matching — abstract; JMLR 6(24), published。
[MD89] Generative Modeling by Estimating Gradients of the Data Distribution — abstract; NeurIPS 2019, published。
[MD90] Domain Adaptation and Entanglement: an Optimal Transport Perspective — abstract; AISTATS 2025, PMLR 258:3034–3042, published。
[MD91] Where Flow Matching Leaks: Characterising the Membership Signals Along the Interpolation Path — abstract; ICML 2026（July 6–11）, PMLR 306:109269–109293, published。

既存引用の追加監査（同日）

rootが生成した content/research/surveys/2026-10/source-inventory.json から、未照合の数学/learning-dynamicsおよびbilevel-optimization、lbt、local-sgd、ngd、shampoo、cgd、dampingページを再抽出した。計50 URL候補のうち36件を照合し、14件は講義資料・チュートリアル・著者プロフィールとして追加原著の対象外とした。

新規の数理章文献：MD92（池田1999）、MD93（Latent Diffusion Models）。
新規最適化補遺：OB001–OB029、29件。optimization-theory-supplement-references.json と optimization-theory-supplement.md。
既登録論文の別URL：MD01、MD07、MD28、OP036、OP080の5件。
対応辞書：mathematics-url-aliases.json。新規文献の元URLも含めて36対応を記録した。
元資料のラベルが不正確な例：dampingの「応用統計学」は同URLの論文題名ではなく、八巻・矢部（1995）「非線形計画法（3）」である。
元資料の著者省略：Locally Adaptive Federated Learningの第一著者はSohom Mukherjee。
CHOCOのgossip consensusと確率最適化の収束を区別した。arXiv初稿と正式版で要旨の記号に差があり、exact rateを版を跨いで転記しなかった。
AdAdaGradはarXiv v4（2026-08-25）を確認。出版社検索取得ページはonline 2026-08-11 / in pressとしており、巻号確定済みとは記載しない。
rootの独立確認を反映：MD10のarXiv HTML v4 §4.1–4.2、Theorem 1/2の条件を確認したためfull-text（本文該当節）へ変更。幅の逐次極限、活性化の滑らかさ、training directionの積分条件を本文に追記した。証明全体の検算ではない。

追加監査の検索と代替確認先

arXiv・JMLRのabsページを優先して直接openした。OpenReviewのchallengeとIEEEのJavaScript検証で元URL本文が取れない場合は、著者arXiv、公式proceedings、著者所属機関のpublication pageへ切り替えた。旧ORSJの www.orsj.or.jp/~archive/ は orsj.org/wp-content/or-archives50/ へ移動した資料で照合した。FMとAmariの別URL対応は元リンクの題名と既登録原著書誌の一致も用いており、challengeに遮られた元URL自体を全文確認済みとはしていない。

実行クエリ（直接openに加えた代表分）：

"The Missing Invariance Principle Found"
"What Is Missing in IRM Training and Evaluation"
"A Gradient Method for Multilevel Optimization"
"Exact risk curves of signSGD in High-Dimensions"
"Scaling Collapse Reveals Universal Dynamics in Compute-Optimally Trained Neural Networks"
"Scalable training of deep learning machines" "blockwise"
"Natural Gradient Works Efficiently in Learning" "6790500"
"独立成分解析の信号処理への応用" "池田" 1999
"非線形計画法" "1995" "55" 矢部
"共役勾配法" "363" "1987" 矢部
"A New Perspective on Shampoo" NeurIPS
"AdAdaGrad" 2026 journal
"Locally Adaptive Federated Learning" site:proceedings.mlr.press
"Layer-wise and Dimension-wise Locally Adaptive Federated Learning" site:proceedings.mlr.press
"Model-based Reinforcement Learning: A Survey" Moerland 2023 nowpublishers
"Adaptive Sampling Strategies for Stochastic Optimization" 2018 2017 Mathematical Programming
"A New Perspective on Shampoo's Preconditioner" ICLR 2025
"Exact Risk Curves" signSGD site:proceedings.mlr.press
"Stability and Generalization of Bilevel" site:proceedings.neurips.cc
"PqvMRDCJT9t" "Flow Matching"
"Extrapolation for Large-batch Training in Deep Learning" site:proceedings.mlr.press
"Can Decentralized Algorithms Outperform Centralized Algorithms" site:proceedings.neurips.cc
"Decentralized Stochastic Optimization and Gossip Algorithms with Compressed Communication" site:proceedings.mlr.press
"Federated Learning with Buffered Asynchronous Aggregation" site:proceedings.mlr.press

追加採録の一次確認先

[MD92] 独立成分解析の信号処理への応用 — full-text; 計測と制御 38(7):461–467, 1999-07-10, published; 刊行版・書誌。
[MD93] High-Resolution Image Synthesis with Latent Diffusion Models — abstract; CVPR 2022との著者arXiv記載; arXiv初稿2021。
[OB001] New Insights and Perspectives on the Natural Gradient Method — abstract; JMLR 21(146):1–76, 2020, published。
[OB002] Measuring the Effects of Data Parallelism on Neural Network Training — abstract; JMLR 20(112):1–49, 2019, published。
[OB003] Accelerated Large Batch Optimization of BERT Pretraining in 54 minutes — abstract; technical report, 2020; arXiv明記で査読venueなし。
[OB004] Adaptive Sampling Strategies for Stochastic Optimization — abstract; SIAM Journal on Optimization, 2018, published; arXiv初稿2017; 刊行版・書誌。
[OB005] AdAdaGrad: Adaptive Batch Size Schemes for Adaptive Gradient Methods — abstract; Statistical Learning and Data Science, online 2026-08-11, in press / journal pre-proof（出版社検索取得書誌）; arXiv初稿2024、v4 2026-08-25; 刊行版・書誌。
[OB006] Online Evolutionary Batch Size Orchestration for Scheduling Deep Learning Workloads in GPU Clusters — abstract; SC 2021 acceptedとの著者arXiv記載;初稿2021。
[OB007] Large-Scale Deep Learning Optimizations: A Comprehensive Survey — abstract; arXiv survey公開2021;正式刊行版未照合。
[OB008] The Geometry of Sign Gradient Descent — abstract; arXiv公開2020;正式刊行版未照合。
[OB009] Optimization-Induced Dynamics of Lipschitz Continuity in Neural Networks — abstract; preprint; submitted 2025-06-23, revised 2025-11-14。
[OB010] Exact Risk Curves of signSGD in High-Dimensions: Quantifying Preconditioning and Noise-Compression Effects — abstract; ICML 2025, PMLR 267:68391–68439; arXiv初稿2024、v3 2026-03-25; 刊行版・書誌。
[OB011] Scaling Collapse Reveals Universal Dynamics in Compute-Optimally Trained Neural Networks — abstract; ICML 2025, PMLR 267:50697–50720, published。
[OB012] Can Decentralized Algorithms Outperform Centralized Algorithms? A Case Study for Decentralized Parallel Stochastic Gradient Descent — abstract; NeurIPS 2017, published; 刊行版・書誌。
[OB013] Extrapolation for Large-batch Training in Deep Learning — abstract; ICML 2020, PMLR 119:6094–6104, published; 刊行版・書誌。
[OB014] Distributed Deep Learning in Open Collaborations — abstract; NeurIPS 2021 acceptedとの著者arXiv記載。
[OB015] Locally Adaptive Federated Learning — abstract; arXiv初稿2023、v2 2024-05-14;正式刊行版未照合。
[OB016] Layer-wise and Dimension-wise Locally Adaptive Federated Learning — abstract; UAI 2023, PMLR 216:1037–1046; arXiv初稿2021、刊行題名はFed-LAMBで始まる; 刊行版・書誌。
[OB017] Federated Learning with Buffered Asynchronous Aggregation — abstract; AISTATS 2022, PMLR 151:3581–3607, published; arXiv初稿2021; 刊行版・書誌。
[OB018] Decentralized Stochastic Optimization and Gossip Algorithms with Compressed Communication — abstract; ICML 2019, PMLR 97:3478–3487, published;記載URLはarXiv初稿; 刊行版・書誌。
[OB019] Scalable Training of Deep Learning Machines by Incremental Block Training with Intra-block Parallel Optimization and Blockwise Model-Update Filtering — abstract; ICASSP 2016, March 2016;著者所属機関の公開書誌・要旨確認。
[OB020] A New Perspective on Shampoo’s Preconditioner — abstract; ICLR 2025, published; arXiv初稿2024; 刊行版・書誌。
[OB021] Stability and Generalization of Bilevel Programming in Hyperparameter Optimization — abstract; NeurIPS 2021, published; 刊行版・書誌。
[OB022] DARTS: Differentiable Architecture Search — abstract; ICLR 2019 publishedとの著者arXiv記載;初稿2018。
[OB023] Model-based Reinforcement Learning: A Survey — abstract; Foundations and Trends in Machine Learning 16(1):1–118, 2023（出版社公開書誌確認）; arXiv初稿2020; 刊行版・書誌。
[OB024] The Missing Invariance Principle Found – the Reciprocal Twin of Invariant Risk Minimization — abstract; NeurIPS 2022との著者arXiv記載。
[OB025] What Is Missing in IRM Training and Evaluation? Challenges and Solutions — abstract; ICLR 2023 acceptedとの著者arXiv記載。
[OB026] A Gradient Method for Multilevel Optimization — abstract; NeurIPS 2021 camera-readyとの著者arXiv記載。
[OB027] ニューラルネットワークにおける適応的二次最適化手法 — abstract; DEIM Forum 2019, A4-2, 公開研究会論文。
[OB028] 共役勾配法 — full-text; オペレーションズ・リサーチ 32(6), pp.363–367, 1987, 学会解説。
[OB029] 非線形計画法（3）—無制約最適化問題— — metadata; オペレーションズ・リサーチ 40(1), pp.55–60, 1995, 学会解説。

追加原著の対象外とした14 URL

以下を削除したのではなく、文献追加の対象から外した。資料本文をすべて通読したという意味ではない。

深層学習の数理：ランダム行列と統計力学的視点 — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
Google Research Automatic differentiation — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
UBC Automatic Differentiation (1) — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
Ju Sun (孙举) University of Minnesota のスライド — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
Vector Institute Grosse 先生の資料 — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
拡散と流れに基づく学習と推論（岡野原大輔） — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
情報数理工学・コンピュータサイエンス実験第二大規模連立一次方程式に対する共役勾配法 — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
最急降下法と共役傾斜法について — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
反復学習制御に対する共役勾配法と準ニュートン法 — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
Mustafa et al. 2018-11-07-Large-Batch-Training-Mustafa.pdf — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
Jiajun Shen — 著者profileのため文献として追加しない。
Natural gradients and K-FAC — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
解説 PDF — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。
Invariant Risk Minimization / Slide — 講義資料・チュートリアル・著者作成の解説資料。依頼方針に従い追加原著の対象外。

SAM・学習率の追加照合クエリと匿名旧投稿の確認限界は、最適化補遺にも記録した。