Hiroki Naganuma

Strategy

無限にタスクがあるので一個一個素早く倒していく

Tasks

最優先事項 (主著に集中)

First Author
- UnderReview
  - Focal Loss / [PRL]
  - Timm OOD / [TMLR2024]
  - LR Schedule / [ICML2025]
- TODO Submit
  - PALSGD / [TMLR2025] -> 2/?
- IceBox
  - WASASAM / [TMLR2025] -> 3/?
Corresponding Author
- UnderReview
  - τJp / [ICLR2025]

中期的にやっていく (数ヶ月以内)

First Author
- Curvature - WASAM (一週間)
  - docs
  - code
    - data generation (pretraining / downstreaming) は完了！
  - LM 実験準備
    - Tr(H) が downstraem で大事っぽいやつ
    - LLM に関して
  - Polyak Step Size 実験
    - github
  - 論文読み
    - https://openreview.net/forum?id=tPEwSYPtAC
    - https://openreview.net/forum?id=kxebDHZ7b7
    - https://arxiv.org/pdf/2312.00209.pdf
  - PALSGD の実装に WASASAM をつける
  - WASAM の LLM に関するタスクを細かくする
  - WASAM の実験で、二反田先生アドバイスを試してみる
  - 二反田先生からもらった資料読む
Embedding について
- Google の解説
TPU Setup
https://github.com/facebookresearch/lingua になれる

長期的にやっていく (一年以内)

First Author
- MLHPC
  - Damping Study / TMLR -> ?/?
    - plot
    - 学習はこれ
- Industry
  - TIC / DENSO IT Lab, CyberAgent AI Lab / [TMLR?] -> ?

Pending

Others