Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2023_07/) ``` - 直近の締め切り/予定 - 9/24 ICLR x2 ( SAM-Focal / Calibration CTR) - 10/? AISTATS x3 (SAM x Auto-Tuning / TIC / RMHMC) - 11/? CVPR x2 (IRM Calibration / OOD Timm) - 1/? ICML x1 (F2 Metric? ) ```

Reference

• TODO - 08/14
• Funding 締切 - 08/09
• 研究プロジェクト

今日の目標

• LinkedIn の プレゼン完成させる

一日の流れ

• 朝は Azkaban 関連の job 投げたり
• 藤田くんにテーブルとかテニスボールとかあげた

• 洗濯物回収とか

• Palo Alto にきた
  • hanahaus / blue bottle にきた
  • BAR CTR の実験を投げた
  • 読み物
    • シリコン・バレー脱出企業の多くはテキサス州とフロリダ州、コロラド州に向かっている。特に目立つのはテキサス州オースチンである。同市の商業会議所によると、昨年1月から11月までにハイテク企業39社が移転してきている。オースチンは“シリコン・ヒルズ”と称されるほどハイテク企業にとって魅力的な場所になりつつある。
    • オースチンの魅力は、市内、近郊に25の大学があるなど教育施設が整い、大卒者の数が多く、企業にとって能力ある社員を雇用しやすい環境にあることだ。さらに人種的多様性も確保され、住民の間の貧富の格差も他の地域と比べると小さく、治安が維持されていることだ。
    • カリフォルニアの個人所得税は13.3％で50州の中で最も高い。
    • 州法人税もカリフォルニア州8.84％であるのに対してテキサス州では無税である。経費節減を進める企業にとって極めて魅力的な州である。フロリダ州の法人税は5.5％、コロラド州が4.63％であり、カリフォルニアと比べると極めて低い。消費税に関して言えば、コロラド州はゼロである。
    • パランティア社のアレックス・カールCEOは「シリコン・バレーは“モノカルチャー”になっている」と批判している。決まったパターンの人材が集まり、多様性の欠如が新しい発想を阻害するようになっている。
  • PP 関連
    • Subpopulation
    • 幡谷さんに連絡
    • Task 洗い出し
• Wandb 関連

所感

TODO

• wandb 関連の結果整理
  • ZOZO
    • BS 実験まとめ wandb
    • ViT vs ResNet wandb
  • U Rice
    • todo link slack
    • Optimizer Comparison on ViT vs ResNet
    • wandb
• SAM - Focal / @Mila /
  • ViT vs SAM
  • 実験は終わってるので、あとは　plot
    • 色を変えた Scatter Plot を作る (UNCV の Fig3)
• CTR
  • Criteo 関連の plot を作る
  • BAR-CTR
    • temp scaling した後の ECE も併せて計算したほうがいいかな？
• SAM AutoTune / AISTATS
  • plot
    • ちなみに現状はこれ ref
    • あとは plot
  • 実験まとめ
    • ViT のまとめ ref
  • IN1Kv2
• SAM Focal / ICLR
  • BS plot
  • 論文読み　Sharpness Minimization Algorithms Do Not Only Minimize Sharpness To Achieve Better Generalization
• その他の研究
  • SAM Focal
    • CameraReady
    • Poster
  • Timm OOD
    • Poster
• Paper
  • Understanding the robustness difference between stochastic gradient descent and adaptive gradient methods
• for AISTATS
  • CIFAR10_C とかの実験準備 ref
  • ImageNet-V2 x AutoTune うまくいかない
  • CIFAR10_C　モデル選択は　Val で行うので問題ないが、 test が問題あり
• for ICLR / CTR
  • SAM がなぜ聞いてないかを検証
  • Logitnorm がなんでうまくいくかを説明 -> Weight Sampling な気がするな
• for ICLR / SAM Focal
  • tasks

Icebox

• Calibration + OOD Generalization
  • OOD Timm (CVPR 10月) / 幡谷さん
  • SAM x FocalLoss (ICLR 10月) / 木村さん
  • SAM x Auto-Tuning (AISTATS 10月) / Lyle
  • LogitNorm (ICLR 9月) / LinkedIN
  • IRM (CVPR 11月) / 吉田くん
  • KFAC x Damping (???? 1月) / Single Author?
• Others / コンテキストスイッチが必要
  • TIC (AISTATS? 10月)
  • RHHMC (AISTATS? 10月)
  • SWARL (ICRA 9月)
• Optimal Transport / Kilian とシュッとやらなきゃ
  • F2 Metric (ICML 1月) / Kilian

Deadline

Spread Sheet

年間スケジュール

```
[LinkedIn, Sunnyvale, 6/18-9/10]
9月下旬 ICLR 締め切り x2 (LogitNorm, SAM-Focal)
[ICCV WS, Paris, 12/1-5?]
10月中旬 AISTATS 締め切り x3 (TIC, RMHMC, Auto Tune SAM)
[ACM MM, Ottawa, 10/29-11/3]
11月中旬 CVPR 締め切り
[NeurIPS, New Orleans, 12/1-5?]
1月下旬　ICML 締め切り (F2)
```