Hiroki Naganuma

• TODO / 0724 / Update

  Schedule

午前

• あさから、Ioannis と meeting
• 本当にいい Supervisor だ
• UNCV は Reject されて悲しい

午後

• LinkedIn の Meeting 準備
  • 大した成果はないけど乗り切れた
  • 色々資料更新した

PreDoc3

• Intro
• Background
  • 構成考える
  • それぞれ書く
• Futurework
  • 章立てを考える
  • 他のとこを描く
• Final Remark
  • 章立てを考える
  • 他のとこを描く
• Appendix

LinkedIn

• 頭使わなくてできる
  • 解析用の Shell とか Python とかを書いた
  • Paperworks
    • 経費生産関連
    • 最終発表関連確認
• 頭を使う
  • LogitNorm の解析をする
    • 実験スクリプトを作る
    • Mixup の劣化について
      • ベータ分布のハイパラに関して0.3, 0.5 だと 0.5 がダメそう
        • 0.1, 2 みたいなのを試してみる
        • CTR とかの設定 (二値分類・Negative 多め)みたいなデータ用の拡張 Mixup とか良さそうだな
      • Pos/Neg の ration が関連している可能性がある
      • 統計情報を調べる
  • 他の手法組む
    • IRM
    • LISA

夜

• 髪切りに行った、モサモサしてたのがスッキリしてよかった

1. Ioannis にPreDoc3の骨子を送る
   1. 髪切ってからやる
2. LinkedIn のUpdateためにクラスタを休ませない
   1. Mixup と LogitNorm の Combination を実験する
      1. 実装はできた、
      2. Shell Script も書いた
      3. 後は実験流すだけ (Queue Training)
   2. Mixup01 を作る (Training 実験中)
   3. LogitNorm 03 も作る (時間が余ればやる)
   4. やり直し系　(temp, alpha が設定されてなかったけい)
      1. Mixup Analysis 2 をやり直し (時間が余ればやる)
      2. LogitNorm Analysis 05 をやり直し (Queue)
      3. LogitNorm Analysis 01 の一部が Failed になってる (Queue) -> Training からし直すか、何かバグがあるかも？
      4. LogitNorm OOD 01 の一部が Failed になってる (Queue) -> Training からし直すか、何かバグがあるかも？
   5. 実験できなくなったら、 Cluster が止まったら、発表資料や骨子づくりに取り組む
3. RLOpt関連のマネジメント
   1. FIT
   2. UNCV
4. MLHPC のマネジメント
   1. NeurIPS
   2. WACV -> MLSys?
5. PPL 関連
   1. INNO 資料作成

実験関連

• OT Empirical Study (OfficeHome @Mila Cluster) / まだまだ時間かかりそう、Cedar に移行したいけど、時間かかるしなあ、、、Graham がさっさと終わるといいんだけど、、
  • ref
• OT Empirical Study (Visda-2017 @Graham Cluster) / あとは待つだけ
  • ref
• Mila
• WACV
  • 原稿の修正 -> 武内さんが進めてくれてありがたい
  • ImageNet の実験 (WIP)

Other

明日やること

• TIC のも進める
  • plot どうにかする
  • ハイパラ最適化のやつとか
• Damping の 信頼領域法周りを Overleaf に足していく

Icebox

• TIC に関して
  • ICLR2022 の Review
  • TODO
    • TIC の話
      • タスク分解
      • 全部は解決できないので、とりあえず英文校正に出してしまう
      • やらなきゃいけないこと
      • plot の入れ替え
        • 入替に伴う修正
          • Exp の Setting の　Table
          • Small Scale の実験結果の説明

予算獲得

• PPL
  • 公募戦略考えた ref
  • 清書して応募
• 来年度の研究費に関して、
  • こんな感じで計画書書こうかなみたいなのを書いた ref
  • 清書して応募

実験系

• Cluster が遊んでるのがもったいない
  • TIC の評価
  • SWA とか SAM の評価
  • Critical BS

その他

• Damping の論文 for ICONIP (これは共著者の実験次第か)
• Calibration OOD のサーベイ / これはLinkedin のと並行してやる

ほぼ Pending

他人にに期待しない

• KFAC for GAN
• Calibration for DL w/ Tiago, Kilian, Ioannis (僕のリソースがない)
• BS vs Steps (僕のリソースがない)