Hiroki Naganuma

Strategy

無限にタスクがあるので一個一個素早く倒していく

Tasks

最優先事項 (主著に集中)

First Author
- SAM AutoTune / NeurIPS2024 -> 5/?
- Timm OOD / NeurIPS2024 -> 5/15
Kartik に連絡
二反田先生からもらった資料読む

中期的にやっていく (数ヶ月以内)

First Author
- Curvature ?
  - docs
- Calibration @LinkedIn / RecSys -> 4/19
論文読み
- https://arxiv.org/pdf/2402.18949.pdf
  - これは LinkedIn の研究で書き方として参考にできそう
DeepMind に向けて
- µTransfer
- 小さいスケールからハイパラ調整する
- https://claude.ai/chat/61f691a1-3ee6-48a0-99ea-67b1bb7b7295
  - これは Google DeepMind の研究で参考になりそう
LLM / SAM - AutoTune
- code
  - data generation (pretraining / downstreaming) は完了！
- LM 実験準備
  - Tr(H) が downstraem で大事っぽいやつ
  - LLM に関して

長期的にやっていく (一年以内)

First Author
- MLHPC
  - Damping Study / TMLR -> ?/?
    - plot
    - 学習はこれ
- Industry
  - TIC / DENSO IT Lab, CyberAgent AI Lab / [TMLR?] -> ?

Pending

Others

permalink: /posts/:year/:month/:day/:title/