経歴
長沼 大樹 (Hiroki Naganuma) は NVIDIA の Research Engineer (Deep Learning Software Engineer) です。2026 年 10 月より慶應義塾大学の Visiting Assistant Professor を兼任します。大規模最適化、分散深層学習、大規模言語モデルの効率的な学習に取り組んでいます。
現職
Research Engineer (Deep Learning Software Engineer), NVIDIA, Convergence for High-Efficiency Formulations (CHEF), 2026-08–present. Redmond, WA, United States.
2026年10月からの兼任
Visiting Assistant Professor, 慶應義塾大学.
学位
- Ph.D. — コンピュータサイエンス博士, Université de Montréal, 2026
博士論文: Toward Efficient and Scalable Optimization: Theoretical Insights and Practical Challenges - M.Eng. — 工学修士（コンピュータサイエンス）, Tokyo Institute of Technology, 2019
- B.Eng. — 工学学士（コンピュータサイエンス）, Tokyo Institute of Technology, 2017
主な受賞
- 第39回 独創性を拓く 先端技術大賞 ニッポン放送賞 (2026)
- UJA Young Investigator Award 2026（United Japanese Researchers Abroad） (2026)
- ICML 2026 Silver Reviewer Award (2026)
- AISTATS 2025 Best Reviewer Award (2025)
- NeurIPS 2024 Top Reviewer Award (2024)
- JHPCN 萌芽的研究賞（JHPCN Symposium 2024） (2024)
- ジャパンキャンパスグランプリ 総務大臣賞 (2022)
- ジェームズ ダイソン アワード 2018 国内優勝・日本代表 (2018)
研究分野
大規模最適化、分散深層学習、大規模言語モデルの効率的な学習
ブログ & プレゼン資料
- Qiita : 日本語技術ブログ
- note
- SlideShare
- Speaker Deck
- The Geometry of Efficient Training From Optimization History to Trajectory and Optimizer Geometry
- 深層学習の理論の動向@NeurIPS2019
- Canada での Computer Science の PhD 進学に向けて
- An Empirical Study on the Effect of Optimizers on OOD Generalization / 2021 年度 ABCI Grand Challenge 成果報告会
- Trends on Distribution Shift in NeurIPS2022
- Public Article / Presentation / Podcast
- Invited Talk - 2026.7 / 京都大学 知能情報学コースコロキウム (IST COLLOQUIUM 2026)「The Geometry of Efficient Training: Co-Designing Optimizers and Systems at Scale」
- Award - 2026 / 第39回 独創性を拓く 先端技術大賞 受賞者発表（ニッポン放送賞）
- Article - 2025.7 / 《日経Robotics》ニューラルネットへのタスクの追加・削除が容易に、東京科学大やZOZOの新正則化技術
- Award - 2024 / JHPCN 萌芽的研究賞「下流タスクでの汎化を目的とした大規模言語モデル学習における曲率正則化」
- 2023.3 / UTokyo IPC 第8回 1stRound 採択先決定のお知らせ
- Innovation Magazine Carbon / No.7 2023.2
- 2022.6 / Autodesk「Design and Make」スマート電子白杖 Walky の開発事例
- Interview / 孫正義育英財団 奨学生紹介：長沼大樹
- Article - 2020.8 / The Japanese Graduate Student Association in the United States (JGSAU) / News Letter
- Presentation - 2020.8 / The Japanese Graduate Student Association in the United States (JGSAU) / Tokyo Tech Alumnus
- Presentation - 2022.12 / The Japanese Graduate Student Association in the United States (JGSAU) / Families and Partnerships
- Article - 2023.3 / JASSO 海外留学 体験レポート
- Podcast - 2023.3 / Xplane (Ep40 - 3/5) / A Day in the Life of a Ph.D. Student
- Podcast - 2024.9 / Xplane (Ep63) / 二体問題 カナダ編
- Article - 2024.9 / Microsoft Research Intern 2024 備忘録
- 2018.9 / 東京工業大学ニュース: ジェームズ ダイソン アワード 2018 国内優勝・日本代表選出
- 2017.12 / 東京工業大学ニュース: Stanford Health Hackathon 2017 で3位入賞
- 2016.12 / テレビ東京「ワールドビジネスサテライト」トレンドたまご: スマート電子白杖 Walky
- 2015.4 / CG-ARTS 教育報告レポート
- 2012.6 / 日本経済新聞 高校生レポート選考 入選
- Personal Blog / github.io
- 研究関連
- Scaling Laws [Japanese Article]
- Natural Gradient Descent [Japanese Article]
- GAN: Generative Adversarial Networks [Japanese Article]
- Out-of-Distribution Generalization [Japanese Article]
- Calibration [English Article]
- Automatic Differentiation [English Article]
- 生活関連
- Montréal 生活における便利リンク [Japanese Article]
- Montréal のカフェ [Japanese Article]
- Montréal のレストラン [Japanese Article]
- 研究関連