Hiroki Naganuma

Schedule

直近の Schedule



#### 1月


一時帰国関連


- 2/3 NRT -> YUL
- 2/3 ICLR Workshop for DA 締切 / SAM for Calibration (w/ ZOZO 木村さん)
- 2/3 ICLR Workshop for DA 締切 / OOD and Calibration (w/ 立命館 多田くん)

- 2/7 Ioannis Group Meeting 発表
- 2/8 Bach 歯列矯正
- 2/10 アカデミー会

- 2/11 また日本に戻るか？？
- 2/13 博報堂

- 2/17 UAI (Pittsburg, US)　締切
- 2/17 NeurIPS2022 発表 @ZOZO勉強会

- 2/23 AISTATS CameraReady を投稿
- 2/28 Cyberdyne 中間報告

- 3/1 TMLR Submission / TIC 
- 3/6 CoLLAs (Montreal, CA) 締切 / F2
- 3/8 ICCV (Paris, FR) 締切 / F2
- 3/10? ECML-PKDD 締切

一日の流れ

TODO / 1123 / Update
3時頃まで実家で作業
- LinkedIn の色々
  - ちゃんとサインした
- Cyberdyne
  - 報告書出した
- DENSO
  - 報告書出した
- 朝から SAM を Finalize するための色々
  - Rho の実験を修正した
  - Plot の修正を色々した
成田へ移動
- SAM の続き
- 主に wandb の plot 関係とそれの overleaf に入れ込むのをやった
- NEDO の交通費申請に関して
  - メール返した
  - 郵送したりする準備
成田で作業
薬局とかお土産屋で買い物
えん茶漬けに行った、寒鰤食べた
免税関係の手続きめっちゃ簡単だった (パスポートかざすだけ)
SAM Calibration
- cifar の実験が convnext small がうまくいってなさそう (T3) -> もう諦めるか？
- Rho がうまく行ってない
- overleaf 更新する
機内で SAM Calibration の論文書いた

今回の日本一週間滞在中にやること

2/3 SAM Calibration for ICLR Workshop w/ ZOZO 木村さん 2/3 OOD vs Calibration for ICLR Workshop w/ 多田くん

IceBox

CAQ の申請と Study Permit をどうにかしないと
家のリースもどうにかしないと
日本に1ヶ月滞在どうするか

帰国したらやること

2/7 Ioannis Group Meeting で発表 (NeurIPS ちょっとと木村さんとのワーク？) 2/7 Cyberdyne 進捗報告 2/17 ZOZO NeurIPS まとめ 2/23 AISTATS Camera Ready

2/3

ZOZO の Update
- SAM がOODと Calibration 改善するかを実験する
- ICLR Workshop 2/3 に向けて原稿作る
- Calibraion に関する解析的なアプローチがありうるかを見る
- SAM が Calibration, OOD にどう影響するか解析的な点で参考になりそうな文献を読む
  - Flatness -> Calibration / Rethinking Confidence Calibration for Failure Prediction
  - Flatness -> OOD / SWAD: Domain Generalization by Seeking Flat Minima
  - Margin が Metric になるかも？
    - High Local Entropy -> Flat Minima / Wide flat minima and optimal generalization in classifying high-dimensional Gaussian mixtures
    - Flat Minima -> Classification Margin -> Generalization / On Flat Minima, Large Margins and Generalizability
    - Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning
  - その他
    - Assessing Generalization of SGD via Disagreement
    - Escaping Saddle Points for Effective Generalization on Class-Imbalanced Data: アンバランスなデータセットでは鞍点に収束し、SAMはこれらの解から効果的に逃れる

2/7

Cyberdyne 進捗出す
- 2/7 まで、、、やばい

2/10

家の貸し出しに関して

2/17

NeurIPS まとめをする
- ZOZO 2/17
- Mila Ioannis Group 2/8?
- とかで使えるはず

2/23?

AISTATS の Camera Ready と Arxiv の更新
- Author Response 後の変更 (これは Review で指摘された点) -　Fig 2 のパラグラフと説明の移動 -　パラメータと [NK18] の引用、 -　細かい視覚的提案に従う
- 構成の変更
  - Main にある CIFAR10 の実験を抜いて SNGAN w/ ResNet 系の実験に差し替える
  - Diminishing Return の結果を table と Figure で載せる
    - それに伴い、 Diminishing うまくいかないみたいな話を Main から抜く
    - DCGAN w/ SN の実験結果は、 Diminishing をstep decay じゃなくて exp decay みたいにすると、LR 小さくなりすぎて学習がうまくいかないことを Appendix で載せる
  - Step Decay でも良いことの正当性を足す
- 体裁
  - 今の Overleaf のを Camera ready バージョンに変更する
    - github の url に差し替え
    - 公開する github の整理
  - Arxiv での公開 (update)
    - error 取り切らないと Arxiv にならないが、今の format だと難しいかもなので、元の Arxiv フォーマットの中身を入れ替える方法を取るかも

2/24

NeurIPS に向けて
- WIkitext-2
  - WIkiじゃなければ使えるのあるか？
  - Shuffle できないかをみる
  - Reading List
    - https://pytorch.org/docs/stable/generated/torch.nn.NLLLoss.html
    - https://pytorch.org/tutorials/beginner/text_sentiment_ngrams_tutorial.html
    - http://man.hubwiz.com/docset/torchtext.docset/Contents/Resources/Documents/experimental_datasets.html
    - https://github.com/urvashik/lm-context-analysis/blob/master/utils.py

3/3

ICCV に向けてF2 のバグとり

TODO

TODO Icebox

読み物

Pending

しばらく使わなそうなものは、ここにまとめた
編集リンク

Deadline

Spread Sheet

年間スケジュール



```
1月上旬 TMLR (OOD)
1月中旬 ICML 締め切り  (Loss Landscape Project, Hawaii, 7/23-29, 2023)
1月下旬 IJCNN 締め切り (SWA? Damping? Calibration?, Gold Coast, 6/18-23, 2023)
2月上旬 ICLR Workshop 締め切り
2月上旬 SigKDD 締め切り
2月中旬 UAI 締め切り
3月上旬 CoLLAs 締め切り
3月上旬 ECCV 締め切り
3月上旬 ICCV 締め切り (F2 Project, Paris, 10/2-6, 2023)
3月下旬 TMLR (TIC)
4月上旬 ECML/PKDD 締め切り
4月中旬 ICANN 締め切り
[AISTATS, Valencia, 4/25-27]
4月下旬 RecSys 締め切り
5月上旬 CIKM 締め切り
5月中旬 NeurIPS 締め切り
6-8月 インターン
6月中旬 ICONIP 締め切り
8月中旬 WACV 締め切り
9月下旬 ICLR 締め切り
10月中旬 AISTATS 締め切り
11月中旬 CVPR 締め切り
```