経歴
NVIDIA (Redmond, WA) の Research Engineer として、Convergence for High-Efficiency Formulations (CHEF) チームに所属し、効率的な事前学習アルゴリズムと Nemotron モデルの事前学習に取り組んでいます.2026 年後半より 慶應義塾大学 の Visiting Assistant Professor も兼任します.2026 年 6 月に Université de Montréal コンピュータ科学専攻及び Mila - Quebec Artificial Intelligence Institute にて博士号 (Ph.D.) を取得しました (指導教官: Ioannis Mitliagkas 准教授).博士論文は Toward Efficient and Scalable Optimization: Theoretical Insights and Practical Challenges です. 2025年の夏は Meta Superintelligence Lab - Infra (Menlo Park) にて、Hao-Jun Michael Shi 博士と Parameswaran Raman 博士と共に、非ユークリッドな最適化手法における臨界バッチサイズに関する研究を行いました.以前は、Google DeepMind (Mountain View) で Student Researcher として Atish Agarwala 博士と George E. Dahl 博士と共に、学習率スケジューリングに関する研究を行いました.また、Microsoft Research (Redmond) で Philipp Witte 博士と Russell J. Hewett 博士と共に、大規模言語モデルの効率的な事前学習アルゴリズムに関する研究を行いました.
孫正義育英財団の第一期奨学生, RBC Borealis Fellowshipの Fellow として支援を受けました.博士課程以前は高性能計算を専門として, 2017 年に東京工業大学から B.Eng. (Dean's Award), 2019 年に同大学院で M.Eng. を取得し、修士課程を総代で修了しました(指導教官: 横田理央 教授).
現職
Research Engineer, NVIDIA, Convergence for High-Efficiency Formulations (CHEF), 2026-08–present. Redmond, WA, United States.
2026 年後半からの兼任
Visiting Assistant Professor, 慶應義塾大学.
学位
- Ph.D. — コンピュータサイエンス博士, Université de Montréal, 2026
博士論文: Toward Efficient and Scalable Optimization: Theoretical Insights and Practical Challenges - M.Eng. — 工学修士(コンピュータサイエンス), Tokyo Institute of Technology, 2019
- B.Eng. — 工学学士(コンピュータサイエンス), Tokyo Institute of Technology, 2017
主な受賞
- 第39回 独創性を拓く 先端技術大賞 ニッポン放送賞 (2026)
- UJA Young Investigator Award 2026(United Japanese Researchers Abroad) (2026)
- ICML 2026 Silver Reviewer Award (2026)
- AISTATS 2025 Best Reviewer Award (2025)
- NeurIPS 2024 Top Reviewer Award (2024)
- JHPCN 萌芽的研究賞(JHPCN Symposium 2024) (2024)
- ジャパンキャンパスグランプリ 総務大臣賞 (2022)
- ジェームズ ダイソン アワード 2018 国内優勝・日本代表 (2018)
研究分野
大規模最適化、分散深層学習、大規模言語モデルの効率的な学習
招待講演
- — Japan Seattle AI Innovation Meetup
- — 東京科学大学
- — CYBERDYNE 株式会社
- — ZOZO Research
- — 京都大学 知能情報学コースコロキウム (IST Colloquium) — The Geometry of Efficient Training: Co-Designing Optimizers and Systems at Scale スライド · 案内
- — McGill AI Lab
- — 大阪大学 2025 年度 研究提案型利用 成果報告会
- — SB Intuitions
- — NVIDIA
- — CUNY-JSPS Forum on Artificial Intelligence
- — 第 10 回 数理最適化セミナー(明治大学)
- — オタワ日本人研究者の会 Spring Seminar Series
- — Japan Healthcare Innovation Hub 第 25 回 Lecture Series
- — Montreal Academy Club Seminar Series
- — Seattle Japanese Research Community 第 4 回 Lecture Series
- — 第 8 回 数理最適化セミナー(明治大学)
- — RICOS × ZOZO NeurIPS 2022 論文読み会 — Trends on Distribution Shift in NeurIPS 2022 スライド
- — Montréal Machine Learning and Optimization
- — 第 54 回 AI セミナー ABCI グランドチャレンジ — An Empirical Study on the Effect of Optimizers on OOD Generalization スライド · Web サイト
- — 第 6 回 数理最適化セミナー(明治大学)
- — 米国日本人大学院生会 (JGSAU) Summer Seminar Series — Towards CS PhD in Canada スライド
- — 第 78 回 人工知能セミナー:AI Trend トップカンファレンス報告会 (NeurIPS 2019) — Trends in Deep Learning Theory at NeurIPS 2019 スライド
教育・指導
教育・委員
- — 慶應義塾大学 Visiting Assistant Professor
- — Mila 入試委員(2026 年秋入学の博士・修士課程)
- — Kids Code Club ティーチングボランティア
- — GTC Japan, Deep Learning Institute Workshop ティーチングアシスタント
- — Life is Tech!(中高生向けプログラミングキャンプ)ティーチングアシスタント
指導した学生
- — Nishant Sharma, Indian Institute of Technology Delhi → Mila 修士課程 (NeurIPS 2026 ワークショップ、査読中)
- — Tatsuhiro Nakamori, 慶應義塾大学 博士課程 (ICML 2026 ワークショップ、査読中)
- — Mahdi Ghaznavi, Université de Montréal 博士課程 (ICLR 2026 ワークショップ(口頭発表、Travel Grant))
- — Youssef Briki, Université de Montréal 学部 (ICML 2026)
- — Youssef Fadhloun, National Institute of Applied Science and Technology 学部 (TMLR 2026)
- — Kacem Mathlouthi, National Institute of Applied Science and Technology 学部 (TMLR 2026)
- — Ansh Tiwari, California Institute of Technology 学部 (ICML 2026 ワークショップ、査読中)
- — Ganesh Talluri, BASIS Peoria (High School) → Arizona State University (TMLR 2026、ICML 2026 ワークショップ)
- — Sora Nakai, 京都大学 学部 → University of Washington 訪問学生 (TMLR 2026)
- — Laura Gomezjurado Gonzalez, Stanford University 学部 → Microsoft Research (Redmond) リサーチインターン (NeurIPS 2025 ワークショップ、ICLR 2026)
- — Kotaro Yoshida, 東京工業大学 学部 → A*STAR Singapore・Sakana AI リサーチインターン (TMLR 2024・2025・2026、ICLR 2025・2026、情報処理学会 学生奨励賞 (2024))
- — Takafumi Horie, 立命館大学 修士課程 → 京都大学 博士課程 (NeurIPS 2024 ワークショップ、ICLR 2025・2026)
- — Haruka Kumagai, 東京大学 修士課程 → University of Trento 訪問研究員 (ACM MM 2023 ワークショップ、NEC C&C 財団 派遣助成)
- — Keigo Tada, 立命館大学 修士課程 → ソニー リサーチサイエンティスト (IJCNN 2023、情報処理学会 学生奨励賞 (2023))
共著・指導学生の受賞・助成
- 丸文財団 国際交流助成 (2025 年 4 月)
- Travel Grant, 機械学習若手の会 (YAML2024) (2024 年 9 月)
- Travel Grant, NLP 若手の会 第 19 回シンポジウム (YANS2024) (2024 年 9 月)
- 学生奨励賞, 情報処理学会第 86 回全国大会 (IPSJ2024) (2024 年 3 月)
- NEC C&C 財団 国際会議等研究者派遣助成金 (2023 年 10 月)
- FIT 奨励賞, 第 22 回情報科学技術フォーラム (FIT2023) (2023 年 9 月)
- 情報科学国際財団 研究者海外派遣助成 (2023 年 7 月)
- 博報堂DYホールディングス賞, 言語処理学会第 29 回年次大会 (NLP2023) (2023 年 3 月)
- 学生奨励賞, 情報処理学会第 85 回全国大会 (IPSJ2023) (2023 年 3 月)
ブログ & プレゼン資料
- Qiita : 日本語技術ブログ
- note
- SlideShare
- Speaker Deck : 招待講演のスライドは招待講演に掲載
- Public Article / Presentation / Podcast
- Invited Talk - 2026.7 / 京都大学 知能情報学コースコロキウム (IST COLLOQUIUM 2026)「The Geometry of Efficient Training: Co-Designing Optimizers and Systems at Scale」
- Award - 2026 / 第39回 独創性を拓く 先端技術大賞 受賞者発表(ニッポン放送賞)
- Article - 2025.7 / 《日経Robotics》ニューラルネットへのタスクの追加・削除が容易に、東京科学大やZOZOの新正則化技術
- Award - 2024 / JHPCN 萌芽的研究賞「下流タスクでの汎化を目的とした大規模言語モデル学習における曲率正則化」
- 2023.3 / UTokyo IPC 第8回 1stRound 採択先決定のお知らせ
- Innovation Magazine Carbon / No.7 2023.2
- 2022.6 / Autodesk「Design and Make」スマート電子白杖 Walky の開発事例
- Interview / 孫正義育英財団 奨学生紹介:長沼大樹
- Article - 2020.8 / The Japanese Graduate Student Association in the United States (JGSAU) / News Letter
- Presentation - 2020.8 / The Japanese Graduate Student Association in the United States (JGSAU) / Tokyo Tech Alumnus
- Presentation - 2022.12 / The Japanese Graduate Student Association in the United States (JGSAU) / Families and Partnerships
- Article - 2023.3 / JASSO 海外留学 体験レポート
- Podcast - 2023.3 / Xplane (Ep40 - 3/5) / A Day in the Life of a Ph.D. Student
- Podcast - 2024.9 / Xplane (Ep63) / 二体問題 カナダ編
- Article - 2024.9 / Microsoft Research Intern 2024 備忘録
- 2018.9 / 東京工業大学ニュース: ジェームズ ダイソン アワード 2018 国内優勝・日本代表選出
- 2017.12 / 東京工業大学ニュース: Stanford Health Hackathon 2017 で3位入賞
- 2016.12 / テレビ東京「ワールドビジネスサテライト」トレンドたまご: スマート電子白杖 Walky
- 2015.4 / CG-ARTS 教育報告レポート
- 2012.6 / 日本経済新聞 高校生レポート選考 入選
- Personal Blog / github.io
- 研究関連
- Scaling Laws [Japanese Article]
- Natural Gradient Descent [Japanese Article]
- GAN: Generative Adversarial Networks [Japanese Article]
- Out-of-Distribution Generalization [Japanese Article]
- Calibration [English Article]
- Automatic Differentiation [English Article]
- 生活関連
- Montréal 生活における便利リンク [Japanese Article]
- Montréal のカフェ [Japanese Article]
- Montréal のレストラン [Japanese Article]
- 研究関連