Hiroki Naganuma

Schedule

直近の Schedule



#### 2月


一時帰国関連


- 2/8 Bach 歯列矯正、Feel Cycle
- 2/9 Ioannis Group Meeting 発表
- 2/10 アカデミー会

- 2/11 また日本に戻るか？？
- 2/13 博報堂

- 2/17 UAI (Pittsburg, US)　締切
- 2/17 NeurIPS2022 発表 @ZOZO勉強会

- 2/23 AISTATS CameraReady を投稿
- 2/28 Cyberdyne 中間報告

- 3/1 TMLR Submission / TIC 
- 3/6 CoLLAs (Montreal, CA) 締切 / F2
- 3/8 ICCV (Paris, FR) 締切 / F2
- 3/10? ECML-PKDD 締切

一日の流れ

TODO / 1123 / Update
昨日は３時くらいに寝たけど、朝は７時くらいに起きた
- 一時帰国時の住居探し、、、
- カップスープを飲んだ
プラトーに移動
- Neve でサーモンベーグルを食べた
  - キャッチアップ、タンパク質の相互作用の話が面白かった
- Dispatch で作業
  - PPL 関連
  - 読み物
    - 自民党AIの進化と実装に関するプロジェクトチーム
    - 2023.1.6 ワールドカップサッカーで再認識した「頭脳」や「権力」をしのぐ力とは　第7回『ドラえもん』が表す子供社会格差
    - 【限定公開】基礎研究に巨費を投じる米国進む軍学連携と人材多様化
    - 研究結果がもたらす意義 (Implications of a Research Study)とは?
    - NTT の時系列データ処理資料
    - アメリカの丸亀製麺から考える日本でDXが進まない本当の理由
      - アメリカ: シングルタスク = 自動化しやすい
      - 日本: マルチタスク = 自動化しにくい
    - Study Hacker
      - 「本当に頭のいい人」がやっている4つの習慣。賢くなるために “10分間” をこう使いなさい
        
        日常生活における疑問を放置しない
      - なぜかいつもポジティブな人の「最強の口癖」5つ。自己肯定感が高い人は “あの言葉” を言っている
        
        だからこそ～～できる
      - 「勉強できる人」と「仕事ができる人」3つの共通点。大切なのは意外にも “性格” だった
        
        「『謙虚さ』を欠いていると『自分の悪いところ』を受け入れられ」ない
      - 「学習リストがこなせない人」に最適。勉強が確実に前進する学習管理術はこれだ！
      - 「頭が悪そう」「能力が低そう」だと思われがちな言動5パターン。“賢いフリ” は最悪だった
    - 【用語解説】LP投資家とは？
      - LPとは、Limited Partnership（リミテッド・パートナーシップ）の略称。LP投資は、投資家がベンチャー企業への投資する方法のひとつで、対象となるベンチャー企業本体への直接投資ではなく、ベンチャー・キャピタル（以下、VC）を通しての出資する投資家を指してLP投資家という。ファンドを通してベンチャー企業への投資を行うものの、投資にかかる直接の業務の執行をせず、責任範囲が有限であるのが特徴。
- 研究
  - 優先順位　(だいたい締め切り順)
  - Cluster を休ませない
    - Mila Cluster で SAM ImageNet の BS の Ablation Study の実験投げた ref
    - Tokyo tech Cluster で SAM CIFAR10 の ConvNext の実験投げた
  - 2/6 OOD Paper の Submission for TMLR w/ Ioannis
  - 2/7 の Cyberdyne
    - ログイン、データへのアクセス
    - FQDN 問題を解決
    - InfluxDB 関連がよくわからず
  - 2/9 の Ioannis Meeting
  - 2/17 の NeurIPS まとめ発表
  - 2/23 の AISTATS CameraDeady
  - 3/3 の ICCV
Paperworks
- NEDO TCP 経費生産
- 突き抜ける人財ゼミ関連
- 年末からの経費生産
  - Mila (NeurIPS) 振り込み確認済み
  - MSF ボストン振り込み確認済み
  - IPC 東京　振り込み確認済み
- 一時帰国関連
  - 作業場所まとめ ref
夜は３人で中華麺食べた -　久々にはなせて楽しかった

帰国したらやること

2/7 Cyberdyne 進捗報告 2/9 Ioannis Group Meeting で発表 (NeurIPS ちょっとと木村さんとのワーク？) 2/17 ZOZO NeurIPS まとめ 2/23 AISTATS Camera Ready

2/7

Cyberdyne 進捗出す
- 2/7 まで、、、やばい
- 相互相関係数まで出す
  - ref

2/9

Ioannis Group Meeting で発表
SAM and Calibration の話 + NeurIPS サーベイ？

2/10

家の貸し出しに関して

2/17

NeurIPS まとめをする
- ZOZO 2/17
- Mila Ioannis Group 2/8?
- とかで使えるはず

2/23?

AISTATS の Camera Ready と Arxiv の更新
- Author Response 後の変更 (これは Review で指摘された点) -　Fig 2 のパラグラフと説明の移動 -　パラメータと [NK18] の引用、 -　細かい視覚的提案に従う
- 構成の変更
  - Main にある CIFAR10 の実験を抜いて SNGAN w/ ResNet 系の実験に差し替える
  - Diminishing Return の結果を table と Figure で載せる
    - それに伴い、 Diminishing うまくいかないみたいな話を Main から抜く
    - DCGAN w/ SN の実験結果は、 Diminishing をstep decay じゃなくて exp decay みたいにすると、LR 小さくなりすぎて学習がうまくいかないことを Appendix で載せる
  - Step Decay でも良いことの正当性を足す
- 体裁
  - 今の Overleaf のを Camera ready バージョンに変更する
    - github の url に差し替え
    - 公開する github の整理
  - Arxiv での公開 (update)
    - error 取り切らないと Arxiv にならないが、今の format だと難しいかもなので、元の Arxiv フォーマットの中身を入れ替える方法を取るかも

2/24

NeurIPS に向けて
- WIkitext-2
  - WIkiじゃなければ使えるのあるか？
  - Shuffle できないかをみる
  - Reading List
    - https://pytorch.org/docs/stable/generated/torch.nn.NLLLoss.html
    - https://pytorch.org/tutorials/beginner/text_sentiment_ngrams_tutorial.html
    - http://man.hubwiz.com/docset/torchtext.docset/Contents/Resources/Documents/experimental_datasets.html
    - https://github.com/urvashik/lm-context-analysis/blob/master/utils.py

3/3

ICCV に向けてF2 のバグとり

3/?

ZOZO の Update
- SAM が Calibration, OOD にどう影響するか解析的な点で参考になりそうな文献を読む
  - Flatness -> Calibration / Rethinking Confidence Calibration for Failure Prediction
  - Flatness -> OOD / SWAD: Domain Generalization by Seeking Flat Minima
  - Margin が Metric になるかも？
    - High Local Entropy -> Flat Minima / Wide flat minima and optimal generalization in classifying high-dimensional Gaussian mixtures
    - Flat Minima -> Classification Margin -> Generalization / On Flat Minima, Large Margins and Generalizability
    - Scalable Marginal Likelihood Estimation for Model Selection in Deep Learning
  - その他
    - Assessing Generalization of SGD via Disagreement
    - Escaping Saddle Points for Effective Generalization on Class-Imbalanced Data: アンバランスなデータセットでは鞍点に収束し、SAMはこれらの解から効果的に逃れる

IceBox

CAQ の申請と Study Permit をどうにかしないと
家のリースもどうにかしないと
日本に1ヶ月滞在どうするか

TODO

Thanh にメッセ返す
NeurIPS2022 まとめをやる
ZOZO の RA ref
- 論文読み1　The Calibration Generalization Gap
- 論文読み2　Towards an Empirically Guided Understanding of the Loss Landscape of Neural Networks - Research Collection
- スライド
TIC の話
- 野村さんに連絡
- TMLR のフォーマットに 12 月中に落とす
- その際に ICLR の Review をそこそこ反映する
- その後共著者に許可をもらう

TODO Icebox

読み物

Pending

しばらく使わなそうなものは、ここにまとめた
編集リンク

Deadline

Spread Sheet

年間スケジュール



```
2月上旬 SigKDD 締め切り
2月中旬 UAI 締め切り
3月上旬 CoLLAs 締め切り
3月上旬 ECCV 締め切り
3月上旬 ICCV 締め切り (F2 Project, Paris, 10/2-6, 2023)
3月下旬 TMLR (TIC)
4月上旬 ECML/PKDD 締め切り
4月中旬 ICANN 締め切り
[AISTATS, Valencia, 4/25-27]
4月下旬 RecSys 締め切り
5月上旬 CIKM 締め切り
5月中旬 NeurIPS 締め切り
6-8月 インターン
6月中旬 ICONIP 締め切り
8月中旬 WACV 締め切り
9月下旬 ICLR 締め切り
10月中旬 AISTATS 締め切り
11月中旬 CVPR 締め切り
```