Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2024_09/) - 直近の締め切り/予定 - 9/1 SEA->YUL - 9/5 木村さんと Meeting (for PRL) - 9/6 BRAVE GLOBAL 〆切 - 9/8 NVIDIA Graduate Fellowship Program - 9/10 モントリオールアカデミー会 - 9/12 Ioannis Group で "Scaling Exponents Across Parameterizations and Optimizers" の発表 - 9/13 YUL -> SFO - 9/15 蔵前工業会 シリコンバレー BBQ - 9/15 NeurIPS WS FITML 〆切 (Task Analogies) - 9/16 Google DeepMind 勤務開始 - 9/27 NeurIPS WS OPT 〆切 (MSR) - 9/30 TMLR (Timm OOD) - 10/2 ICLR2025 (SAM AutoTune) - 10/2 ICLR2025 (Task Analogies) - 10/8 PRL (Focal Loss) - 10/3 AISTATS (MSR) - 10/? TMLR? (Damping Schedule) - 11/? Arxiv (Curvature)

予定

• SEA -> YUL

今日終わらせること

• vomit draft (MSR)

一日の流れ

• 昨日早く寝たので、3時くらいには起きてた
• packing 終わらせてチェックアウト
• SEA に到着
  • 色々システム障害があったけど、ビジネスクラスだったので、色々優先されて特に影響受けなかった
  • United Airlines のラウンジ
    • 作業
      • Rio Cluster の debug を投げた
      • Dummy ならうまく行ってそう
      • IN1K でもうまくいきそう
    • 朝食
      • フルーツと、シナモンロール
  • お土産買った
• 機内
  • 直前に亀田さんと電話
  • 最初の1時間くらいは寝てた
  • 食事が出た（オムレツとフルーツ）
  • 作業
    • MSR のデータ整理
    • Gossip SGD の論文読んだ
  • やらなきゃいけないこと整理
    • NVIDIA Fellowship
    • Brave Global
    • Ioannis Group での発表
    • 研究
      • MSR の結果を Overleaf に落とす (AISTATS, NeurIPS WS)
      • PP の結果を 固める (ICLR, NeurIPS WS)
      • PRL の追加実験をする
      • NeurIPS Reject されたら、TMLR に投げる
  • NVIDIA Fellowship
    • material を整理した
• YUL に到着
  • 亀田さんの家に移動
  • 荷物整理
  • 掃除
  • 作業
    • Imagenet の実験 for MSR
  • 亀田さんと食事
  • 作業
    • PP Meeting
    • DGX が止まってるので実験投げ直し
      • できなかったのでサーバーに問題、問い合わせ
  • 23時過ぎくらいに就寝

TODOS

• ICLR WASAM に関して

• 週末までやらないこと
  • NVIDIA Fellowship
• 落ち着くまでやらないこと
  • PP Blave Global
  • PRL Rebuttal のための実験
• Embedding について
  • Google の解説
• WASAM
  • WASAM の LLM に関するタスクを細かくする
  • WASAM の実験で、二反田先生アドバイスを試してみる

• TPU Setup

• WASAM
  • Language Model
    • github
    • shell
• Curvature Regularization
  • Literature Review

所感

IceBox

• SAM - AutoTune
  • Polyak Step Size 実験
    • github
  • 論文読み
    • https://openreview.net/forum?id=tPEwSYPtAC
    • https://openreview.net/forum?id=kxebDHZ7b7
    • https://arxiv.org/pdf/2312.00209.pdf

Deadlines

• 10/2 FRQ
  • gpt でのフランス語→和訳
• 11/3 Qualcomm Innovation Fellowship
• 5/? Google PhD Fellowship
• 10/? Meta Research PhD Fellowship program

Reference

• TODO - 5/13
• Funding / その他応募締切 - 1/31
• 研究プロジェクト　Notion

Deadline

年間スケジュール

参考 URL: https://hiroki11x.github.io/posts/research_topics/ML_Conference/

学会

- ICLR 9/27 https://iclr.cc/Conferences/2024
- AISTATS 10/15? https://aistats.org/aistats2024/
- MLSys 10/15? https://mlsys.org/Conferences/2024
- CVPR 11/15? https://cvpr2024.thecvf.com/

その他 [fellowship](https://csphdfellowships.org/)

- Microsoft Research PhD Fellowship 夏?
- Apple Scholars in AI/ML PhD Fellowship 7/22?
- NVIDIA Graduate Fellowship Program 9/8?
- Meta Research PhD Fellowship 9/20?
- Qualcomm Innovation Fellowship (QIF) 11/1?
- Google PhD Fellowship 5/?
- JPMC AI PhD Fellowship 5/?