Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2023_2/) ``` - 直近の締め切り/予定 - 2/29 Ioannis Group Meeting - 2/29 会計報告 - 3/4 歯医者 - 3/7 ECCV x1 (NeRF, Tim-OOD) - 3/8,9 産総研 - 3/17 PP 引き継ぎ - 3/18,19 DL2024 - 3/23 IELTS - 3/28 Arxiv (Curvature) - 3/? TMLR x1 (TIC) ``` [1-3月のschedule](https://docs.google.com/spreadsheets/d/1JEJ1A1i5AZTZTsomOAchUQ5haX4vYwisGSZWJ2SueDc/edit#gid=0)

予定

一日の流れ

Ioannis Group Meeting での発表資料

スライド1: タイトルスライド

スライド2: 研究の背景 機械学習モデルが新しい、見たことのないデータにうまく一般化する能力(分布外汎化)の重要性について説明。 異なるドメイン間でのモデルのtransferability(転移性)の問題提起。 なぜ曲率(特にヘシアンのアライメント)がこれらの問題に関連しているのかを概説。

スライド3: 分布外汎化とは? 分布外汎化の定義と、なぜそれが重要なのかについて簡潔に説明。 異なるドメインやタスクへの一般化能力の観点から、機械学習モデルのパフォーマンスをどのように評価するか。

スライド4: Transferabilityの概念 モデルが一つのタスクやドメインから別のタスクやドメインへどのように知識を転移できるかの説明。 転移学習の基本的な戦略とその挑戦。

スライド5: 曲率とヘシアンの役割 曲率の概念と、モデルの学習プロセスや一般化能力にどのように影響するかの説明。 ヘシアンアライメントとは何か、なぜそれがドメイン一般化において重要なのか。

スライド6: 参考文献1の概要 「Understanding Hessian Alignment for Domain Generalization」の主な貢献と結論について説明。 ヘシアンアライメントが分布外汎化にどのように役立つかの具体的な説明。

スライド7: 参考文献2の概要 「Same pre-training loss, better downstream: Implicit bias matters for language models」の主な貢献と結論について説明。 事前学習の損失関数が同じでも、下流タスクのパフォーマンスに影響を与える隠れたバイアスについて。

スライド8: 結合点と独自の洞察 2つの研究がどのように互いに関連しているか、そしてそれらが提供する分布外汎化とモデルのtransferabilityに対する洞察。 あなたの研究がこれらのトピックをどのように進めるか、または新たな視点を提供するか。

スライド9: 研究の課題と今後の方向性 現在の研究で未解決の問題や挑戦。 あなたの研究が今後どのような方向性を探求するか。

スライド10: 質問とディスカッション 観客からの質問やフィードバックを募るスライド。 さらなる議論のためのオープンな招待。

参考文献
  1. Understanding Hessian Alignment for Domain Generalization: https://openaccess.thecvf.com/content/ICCV2023/papers/Hemati_Understanding_Hessian_Alignment_for_Domain_Generalization_ICCV_2023_paper.pdf
  2. Same pre-training loss, better downstream: Implicit bias matters for language models: https://openreview.net/pdf?id=9UCTB84L6e

所感

早くやらねば

WIP Exp

TODO Exp

所感

TODO

IceBox

Reference

Deadline

年間スケジュール



```
参考 URL: https://hiroki11x.github.io/posts/research_topics/ML_Conference/

- ECCV 2/28 https://eccv2024.ecva.net/
  - NeRF -> Writing
  - Timm OOD -> CLIP? and LAION

- ICANN 3/15 https://e-nns.org/icann2024/important-dates/
  - Damping -> Experiments and Writing
- COLM 3/22 https://colmweb.org/
  - LLM -> Experiments and Writing
- ACMMM 4/8 https://2024.acmmm.org/important-dates
  - Focal Calibration -> Experiments and Writing
- RecSys 4/22 https://recsys.acm.org/recsys24/
  - Logit Control -> Writing
- NeurIPS 5/15? https://nips.cc/Conferences/2024
  - SAM AutoTune -> Experiments and Writing

- CIKM 5/15? https://www.cikm2024.org/
  - ?
- ICLR 9/15? https://iclr.cc/Conferences/2024
  - ?
- AISTATS 10/15? https://aistats.org/aistats2024/
  - ?
- MLSys 10/15? https://mlsys.org/Conferences/2024
  - ?
- CVPR 11/15? https://cvpr2024.thecvf.com/
  - ?
```