Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2023_3/) ``` - 直近の締め切り/予定 - 3/28 NRT->YUL - 3/? Arxiv (Curvature) - 3/? TMLR x1 (TIC) - 3/? PP 引き継ぎ - 3/31 会計報告 ``` [1-3月のschedule](https://docs.google.com/spreadsheets/d/1JEJ1A1i5AZTZTsomOAchUQ5haX4vYwisGSZWJ2SueDc/edit#gid=0)

予定

YUL->NRT

TODO

一日の流れ

朝から片付けとか
NRT で作業
- Misc
  - ICML の rebuttal 関連
  - Talk / Presentation に関するまとめ
つけ麺食べた
お土産買った
作業
- 家のリース関連
- ICML の件で Charles に連絡
- ICML Rebuttal に向けた実験
  - Batch Size の実験
    - 1 batch とかちいさいのは OK
      - ただし、epoch 数が少なくなりすぎるので、min 10 epoch のような設定にした
      - LR とか epoch は動的に変更されるように
    - full batch とか大きいのは懸念
      - metric の計算は BS256 (Base BS) での計算になってる
機内ですること
- COLM に向けて
  - Task vector 関連の論文読む
    - Cyber の Conditional LoRA
    - Sakana の Evol LLM など
      - blog
  - Task Vector の骨子
  - 全体の流れ
- 阪大の申請書考える
  - ref
  - 東工大
    - SAM AutoTune (Youth)
    - Fantastic Measure (GC)
帰宅後家の色々片付け
ICML 関連の実験
東工大のスパコン利用採択の結果がきた
するべきこと
- ICML 関連
  - Review 見直し
  - 実験投げ直す
- ICLR WS 関連 /
  - Lyle とのミーティング準備
- SAM AutoTune
  - LLM 実験に向けて
  - 骨子と、二反田先生に手伝ってもらえるところの整理
- Curvature Regularization
  - 骨子整理
- IRM の話
  - ICONIP? / ICANN?
- NeRF の話
  - CVPR WS?
Cluster 管理
- Beluga を埋める
- Mila 埋める
- Narval 埋める
阪大申請書

所感

TODO 整理

SAM AutoTune
- LM 実装に移る
- GCP で動かす
Timm OOD
- CLIP / 結果整理待ち
- Medical Data
  - 実行待ち
  - いくつか動いてないのを修正する必要
Curvature Regularization
- Focal をまず形にするか？
  - その場合の骨子をわっと書く？
- Focal 切り出した時の、SAM の話をどう書くか考える
阪大の申請書考える
- ref
- theme
  - SAM Focal > T4FY
  - Generalization Measure > T4GC
  - 曲率正則化の話か SAM の話あたりで、バット書いてみるか？？

早くやらねば

SAM AutoTune に向けて LLM の実験
Kartik に連絡
二反田先生からもらった資料読む

TODO Exp

PP
- LLM 関連
SAM-AutoTune
- Tr(H) が downstraem で大事っぽいやつ　github

所感

TODO

論文読み
- https://arxiv.org/pdf/2402.18949.pdf
  - これは LinkedIn の研究で書き方として参考にできそう
- https://claude.ai/chat/61f691a1-3ee6-48a0-99ea-67b1bb7b7295
  - これは Google DeepMind の研究で参考になりそう
MSR に向けて
- Research Proposal 作る
- google docs
DeepMind に向けて
- µTransfer
- 小さいスケールからハイパラ調整する
PP
- 7 Domainds Framework
- LLM の実験設定
Cyberdyne
- 既存のML Model を Neural Network に変更
SAM AutoTune に関して
- LLM に関して
  - 論文
  - code
ImageNet の Scratch 学習をどこかでやる必要がある
Research Project
- SAM AutoTune
  - notion
- Curvature の実験を　Rio Cluster とかでさっと投げる
  - notion
  - 骨子整理 -> Overleaf で整理
  - すること整理　notion
ASTAR に3ヶ月いくなら申請可能
- https://international.umontreal.ca/communaute-etudiante-udem/financer-projet/bourses-de-recherche-mitacs-globalink/#deposer-demande

IceBox

Reference

Deadline

年間スケジュール



```
参考 URL: https://hiroki11x.github.io/posts/research_topics/ML_Conference/

- CVPR WS 2/28 https://eccv2024.ecva.net/
  - NeRF -> Writing
  - Timm OOD -> CLIP? and LAION

- ICANN 3/15 https://e-nns.org/icann2024/important-dates/
  - Damping -> Experiments and Writing
- COLM 3/22 https://colmweb.org/
  - LLM -> Experiments and Writing
- ACMMM 4/8 https://2024.acmmm.org/important-dates
  - Focal Calibration -> Experiments and Writing
- RecSys 4/22 https://recsys.acm.org/recsys24/
  - Logit Control -> Writing
- NeurIPS 5/15? https://nips.cc/Conferences/2024
  - SAM AutoTune -> Experiments and Writing

- CIKM 5/15? https://www.cikm2024.org/
  - ?
- ICLR 9/15? https://iclr.cc/Conferences/2024
  - ?
- AISTATS 10/15? https://aistats.org/aistats2024/
  - ?
- MLSys 10/15? https://mlsys.org/Conferences/2024
  - ?
- CVPR 11/15? https://cvpr2024.thecvf.com/
  - ?
```