Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2024_12/) - 直近の締め切り/予定 - 12/13 阪大、計算機関連 (https://www.hpc.cmc.osaka-u.ac.jp/service/intro/research_proposal_based_use/) - 2/? TMLR? (Damping Schedule) - 2/? Arxiv (Curvature)

予定

• GDM Week12

今日終わらせること

数日中には終わらせたいこと

• WASASAM 実験

一日の流れ

• 朝は Google にきて作業
• Misc
  • TMLR の実験 (Mila / Rio)
    • Narval でも実験
    • Mila でも実験
• GDM に集中
• Michael Shi と meeting
  • George や、その周辺コミュニティ楽しそうだなと思った
  • それなりにできたと思うけど、
• GDM のことを少しやった
• 帰宅後
  • 晩飯
  • 洗濯とか色々
• MSR のワーク

TODOS

• Meta の Interview 対策

• DGX Cluster どうにかしないと勿体無い

• (12/13) 阪大、計算機関連 https://www.hpc.cmc.osaka-u.ac.jp/service/intro/research_proposal_based_use/

• (1/10) Meta Montreal AI Mentorship Program https://www.metacareers.com/jobs/925575806198843/

• https://github.com/facebookresearch/lingua になれる

• WASAM

  • PALSGD の実装に WASASAM をつける
  • WASAM の LLM に関するタスクを細かくする
  • WASAM の実験で、二反田先生アドバイスを試してみる

• Embedding について

  • Google の解説

• TPU Setup

• Curvature Regularization

  • Literature Review

所感

IceBox

• SAM - AutoTune
  • Polyak Step Size 実験
    • github
  • 論文読み
    • https://openreview.net/forum?id=tPEwSYPtAC
    • https://openreview.net/forum?id=kxebDHZ7b7
    • https://arxiv.org/pdf/2312.00209.pdf

Deadlines

• 1/? Meta Research PhD Fellowship program

Reference

• TODO - 5/13
• Funding / その他応募締切 - 1/31
• 研究プロジェクト　 Notion

Deadline

年間スケジュール

参考 URL: https://hiroki11x.github.io/posts/research_topics/ML_Conference/

学会

- NeurIPS WS 12/14,15

その他 [fellowship](https://csphdfellowships.org/)

- そのうちあるかな？？

  - 2025 Meta Research PhD Fellowship 9/20? (10/13 確認 - 募集始まってなさそう)

- かなり先

  - 2025 Apple Scholars in AI/ML PhD Fellowship 7/22? (10/13 確認 - 夏に終わってたかも)
  - 2025 Google PhD Fellowship 5/8? (10/13 確認 - 募集始まってなさそう)
  - 2025 IBM PhD Fellowship 8/? (10/13 確認 - 募集が 8 月末に終わってた)

- あるかどうか不明
  - 2025 Microsoft Research PhD Fellowship 夏? (10/13 確認 - 2022 年で止まってる)
  - 2024? JP Morgan AI PhD Fellowship 5/? (10/13 確認 - 2023 で止まってる )