Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2023_12/) ``` - 直近の締め切り/予定 - 1/29 IJCNN x1 (IRM Calibration) - 1/31 Meta Montreal Application - 1/31 Leave a Nest Funding - 2/1 ICML x1 (SAM x Auto-Tuning) - 2/5 ICLR WS x2 (IRM Calibration / LossLandscape) - 2/8 KDD x1 (Calibration CTR) - 2/15 CoLLAs x1 (IRM Calibration) - 2/28 Arxiv (Curvature) - 3/? TMLR x1 (TIC) - 3/7 ECCV x1 (SecondOrder) ```

一日の流れ

• 明日の Lyle と Ioannis との Meeting に関する共有
  • Meeting 資料共有 docs
  • 実験まとめ
    • Budget 比較

• Lyle と Ioannis と Meeting

• パンケーキ食べた
• 夜はIPC 片山さんと meeting
• 亀田さんと卓球
• Packing

Taskこなすスケジュール

• 1/25 (Thur)
  • IJCNN + ICLR WS を終わらせる
  • Meta の Applicationを 書く？
• 1/26 (Fri)
  • フライト
  • 研究計画書
    • リバネス研究費申請の申請書を書く
    • 村田財団の研究費申請にも使う
  • 最近思考停止してる件について、頭を使う作業をする
    • SAM AutoTune
    • Curvature Regularization
• 1/27 (Sat)
  • フライトとセットアップ系
• 1/28 (Sun)
  • CVPR の rebuttal 関連
    • related works を修正
    • CLIP とか、でかいモデルの実験できるか？
• 1/29 (Mon)
  • https://github.com/Liuhong99/implicitbiasmlmcode
  • 上記の実装を使えるようにする

TODO

• 読み物
  • モデルパラメータの算術
• 病院関連
  • 医療関連まとめ 更新

• CVPR の rebuttal

• SAM AutoTune に関して
  • LLM に関して
    • 論文
    • code
• ImageNet の Scratch 学習をどこかでやる必要がある

• Research Project

  • SAM AutoTune
    • notion
  • Curvature の実験を　Rio Cluster とかでさっと投げる
    • notion
    • 骨子整理 -> Overleaf で整理
    • すること整理　notion

IceBox

• W&B Meetup #9「大規模言語モデル開発を支える分散学習技術」by 東京工業大学　横田理央先生
• 【ソニー社内講演】拡散モデルと基盤モデル
• Transformerとは何か？ 「ChatGPT」や「Gemini」を生み出した超重要技術の進化
• [KDD2023論文読み会] BERT4CTR: An Efficient Framework to Combine Pre-trained Language Model with …
• Python(PyTorch)で自作して理解するTransformer
• 時系列解析（３）/ TIC

• [] 【データ活用シンポ2023】「1細胞シーケンシングデータへのAIの応用」田中 義章（モントリオール大学 医学部・Assistant Professor ）

• ICML / Curvature (w/ Lyle, Ioannis)
  • 相関をさっさと計算する

Reference

• TODO - 11/22
• Funding / その他応募締切 - 09/18
• 研究プロジェクト　Notion

Deadline

年間スケジュール

```
- IJCNN 1/31 or UAI 2/9
    - IRM Variant
- ICML 2/1
    - Curvature
    - SAM Autotune
- KDD 2/8
    - Logit Control
```