サーベイの調査方法・確認水準・限界
対象と打切日
公開のcontent/research/topics/にある37ページを中心対象とした。optimization 12、generalization 7、foundation-models 8、mathematical-methods 6、learning-dynamics 3、systems-and-training 1である。13プロジェクト、研究資料・会議メモ、engineering/ml-systemsは問題意識と関連文献の入口にした。生活・就職等の非研究記事を機械学習の研究トピックとして扱っていない。
基準日は2026年10月3日。検索時点で一次公開を確認できた資料を採用し、10月4日以降の発表を先取りしない。会議採択は確認できた場合のみ記載し、arXiv掲載だけで査読済みと扱わない。古い原典は版元の書誌のみ確認できた場合があり、その区分を明記した。
分担と照合手順
| 担当 | 主な作業 |
|---|---|
| 統合・最適化・計算基盤 | 対象の棚卸し、最適化12トピックと並列学習、全体の研究史、文献統合、導線・構造の検査 |
| 基盤モデル担当 | 基盤モデル8トピック、GANとmultimodal、2026年追補、後段でSAM・学習率の既存引用照合 |
| 汎化担当 | 汎化7トピック、関連プロジェクト、shift・校正・公平性の定義と仮定、既存引用照合 |
| 数理・ダイナミクス担当 | 数理6＋ダイナミクス3トピック、OT・GAN・SWAの接続、後段で最適化の既存引用照合 |
各担当は既存メモを読んで論点と引用の種を抽出し、基礎原著、転換点、反例・比較研究、2025〜2026年の追補を検索した。候補の題名・著者・公開年・内容はarXiv、PMLR/JMLR、OpenReview、CVF、ACL Anthology、出版社、著者の一次資料で照合した。検索snippetは候補発見に使い、本文の詳細や採択を推定する根拠にしない。
統合後に既存コンテンツの学術リンクを抽出し、採用文献との対応を確認した。未照合の研究トピック内引用は再度分担して確認し、改題・別版・リンク取り違えを切り分けた。一次ページに到達できない資料や年・著者を特定できない匿名投稿は、無理に正式な文献情報で埋めない。
相互レビューでは基盤モデル担当がSOAP/Muon、汎化担当がFisher/Hessian/GGN、NTK/double descent、SAMの記述を確認した。SOAPの先行記載と単一GPU評価条件を補足し、double descentの式を「最小ノルム補間解」と一括して呼んでいた箇所を、過少パラメータ側も含む「最小ノルム最小二乗推定量」へ修正した。これは説明の整合性確認であり、論文の独立査読や実験再現ではない。
文献の確認水準
| 台帳の値 | 表示 | 実際に確認した範囲 |
|---|---|---|
full-text |
本文該当節確認 | 本稿の説明に使う方法・仮定・定理・比較条件等の該当部分。全頁読了、全証明の検算、コード監査を意味しない |
abstract |
要旨確認 | 一次論文ページの要旨と書誌。結論は著者の報告として紹介し、非記載の実験条件・限界を捏造しない |
metadata |
書誌確認 | 題名・著者・年・所在等。本文を読めたとみなさない |
primary-resource |
一次資料確認 | 著者・公式組織の提案、解説、資料等。査読論文と同等とみなさない |
大半の文献は要旨の確認であり、各分野の主要な方法・前提の比較に使った。すべての論文の全文を精読したという意味ではない。理論の結論については仮定が重要であり、要旨だけでは不足するものを優先して本文の該当部分に進んだ。具体的な箇所は検索記録に残した。
延べ526登録を、確認済みのURL対応を使って512件の文献・一次資料へ統合した。章をまたぐ重複があるため、章別件数の合計は統合件数より大きい。
| 章 | 登録件数 |
|---|---|
| 最適化（補遺を含む） | 159 |
| 汎化 | 147 |
| 基盤モデル | 112 |
| 数理・ダイナミクス | 93 |
| 並列学習 | 15 |
確認水準は延べ登録単位で集計する。
| 確認水準 | 登録件数 |
|---|---|
| 本文該当節確認 | 28 |
| 要旨確認 | 479 |
| 書誌確認 | 9 |
| 一次資料確認 | 10 |
統合年は各章が引用した版の年であり、初出年で統一されていない。年代別集計をそのまま新規研究の発生件数と解釈しない。
版、年、重複の扱い
- 年は確認した版に基づく。arXiv初出年、会議版年、雑誌刊行年は同じとは限らない。各章の注記と台帳の
publication_statusを優先する。 - arXivのID月から提出日を推定しない。初回公開と改訂を区別し、ページ間の日付が食い違ったものは不整合を残す。
- arXivのabs/PDF/HTMLと版番号、OpenReviewのforum/PDFとID、正規化したDOI/URLで重複を統合する。別URLの同一研究は確認できたaliasだけを統合する。
- 統合台帳は各章のIDを保持する。複数章に出る文献は一つのworkに集約しても、章別の年・確認水準・説明は
recordsに残す。 - BibTeXは未確認の巻号・ページ・著者を補わず、
@miscで統一した文献管理用下書きとする。略記著者を含むため、投稿時は正式書誌を取得し直す。
採用・除外の判断
採用対象は、元トピックの定義や主要な系譜を説明する原著、その主張の限界を示す研究、比較・評価の基準になる研究、対象と明確につながる新しい文献である。surveyや教科書は分野の地図として用い、その中のすべての引用を自動的に採用したわけではない。
検索で題名が似ていた別論文、分野外の同名手法、一次確認できない採択情報、根拠のない性能順位は採用しない。教材やブログは原著の所在を探す助けになるが、一般の解説を研究結果の一次根拠として水増ししない。個人のプロジェクト計画は問題意識として扱い、未公開成果を外から推定しない。
到達範囲と残る不足
これは37トピックのすべてに説明を与えた広域レビューであり、複数の論文データベースから定義済み検索式で全件を回収するPRISMA型のsystematic reviewではない。検索のrecallや選定者間一致率は測っていない。したがって「全関連論文を漏れなく読んだ」とは言えない。
直近文献の索引遅延、アクセス制限、匿名投稿、非英語文献、個別応用分野、全reference/citation graphの未追跡が残る。本文の主張を実験で再現しておらず、2026年のpreprintには特に外部再現や採択状況の未確認がある。
既存の学術リンクは引用棚卸しに残した。未再検証候補の存在を隠さず、確認済み登録から分離する。棚卸し自体もURLを持つ記載の機械抽出であり、リンクのない論文名、コメント内、通常のブログ等は網羅できない。
今後更新するときは、①基準日後の文献、②未確認候補、③preprintの会議版・改訂・追試、④主要理論の全文精読を別々に進めると、単に参考文献件数を増やすより研究上の判断を更新しやすい。