Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2023_07/) ``` - 直近の締め切り/予定 - 9/24 ICLR x2 ( SAM-Focal / Calibration CTR) - 10/? AISTATS x3 (SAM x Auto-Tuning / TIC / RMHMC) - 11/? CVPR x2 (IRM Calibration / OOD Timm) - 1/? ICML x1 (F2 Metric? ) ```

Reference

• TODO - 05/22
• Funding 締切 - 05/30
• 研究プロジェクト

今日の目標

• Auto-Tune Deep CTR を作る

一日の流れ

• 朝ゆっくり起きた
  • お粥とヨーグルト、いつも通り
• 9時くらいからは仕事してた
  • CTR 関連
  • Lyle に返事
    • 来週あたりにキャッチアップ
• Misc
  • 日焼け止め
    • アメリカの紫外線は日本の２倍！？おすすめの日焼け止め5選。使ったレビューもご紹介。
      • カリフォルニアの紫外線の強さは、日本のおよそ２倍。。。アメリカの紫外線の強さがデータでもよく分かります。
      • 紫外線の90%は、肌老化の原因となる「UV-A」
      • 紫外線の10%は、日焼け、皮膚がん、白内障の原因となる「UV-B」
      • SPFは、「UV-B」のみをブロックし、SPF30あれば「UV-B」を約97％ブロックできると言われています。
      • Broad Spectrum（広域スペクトラム）は「UV-A」「UV-B」の両方をブロックする事ができます。
      • Neutrogena 【Ultra Sheer　Dry-Touch SPF55】
        • ニュートロジーナは、アメリカの皮膚科医も推奨しており人気のある日焼け止めです。クリームやスティックなど、様々なタイプがあります。アボベンゾン配合でUVA-UVBから肌を守り、PABA-free、オイルフリー、防水性もあります。
        • クリームのdry-touchのタイプを使っています。塗り心地がサラッとしていて、香りも好きで、顔にも体にも使っています。
        • コスコで、2個で10ドル以下で買えるのも嬉しい！
    • アメリカで買えるおすすめの日焼け止め５選（駐在妻オススメ）
      • amazon
    • アメリカのおすすめ日焼け止め比較レビュー　べたつかない？2023
    • 結論 / Aveeno Protect + Hydrate SPF 60
      • 日本でも、お馴染みの日焼け止め、スキンアクアのテクスチャーに一番近いです。
      • なじみやすく、べたつきもほとんどありません。
      • 私の購入したものは、SPF60 ですが、30、や、赤ちゃん用子供用など色々あります。
      • べたつきもほとんどなく、塗りやすさは、アメリカの日焼け止めの中でダントツ1位です。
      • 日常生活使いに、1番お勧めの日焼け止めです。
• お昼休みに終えた
  • 査読
  • B1でハンバーガー食べた
  • Youtube
    • 再エネは潮汐力発電が大本命 【シン・エネルギー2023：安宅和人】再生エネルギーの本命は潮汐力発電／モデルはアムステルダム／少子化問題の本質／スタートアップ政策が遅い
    • 【神ツール】あのドラマの1シーンも超簡単！資料作成も超効率化！アドビの新機能がヤバすぎる【カズレーザー】
• B1 / 2F で作業
  • 何をするか整理する
  • Team Meeting
    • 最近読んだ論文を紹介できた
• B1 / 4F で作業
  • Auto Tune の問題特定した
  • いくつか修正を加えて、実験再開

• San Antonio Shipping Center に買い物に行った

• 帰宅後
  • ランニング
  • CTR の実験進めた
  • 色々ドキュメント整理
• TODO
  • CTR
    • LR を学習中に計測
      • 実装深掘り ref
    • AdSGD の実装が正しいか見る amplifier = 0.02 から prevopt も AdSGD のインスタンスにした
      • ref https://github.com/ymalitsky/adaptive_GD/blob/master/pytorch/run.py
      • どうやら正しそう
      • SAM + AdSGD は確認が必要

所感

TODO

• やらなきゃいけない
  • for AISTATS
    • CIFAR10_C とかの実験準備 ref
    • ImageNet-V2 x AutoTune うまくいかない
    • CIFAR10_C　モデル選択は　Val で行うので問題ないが、 test が問題あり
  • for ICLR / CTR
    • SAM がなぜ聞いてないかを検証
    • Logitnorm がなんでうまくいくかを説明

読み物

• 大規模言語モデル(LLM)の作り方 Megatron-DeepSpeed編 Part2

• ICLR
  • Focal SAM
    • 新しい結果反映 (ImageNet-V2 SAM)
      • ref
• 今後の進め方を考える
  • TIC

Icebox

• Optimal Transport / Kilian とシュッとやらなきゃ
  • F2 Metric (AISTATS 10月) / Kilian
• Calibration + OOD Generalization
  • OOD Timm (UNCV 7月 / CVP 10月) / 幡谷さん
  • SAM x FocalLoss (UNCV 7月 / ICLR 10月) / 木村さん
  • SAM x Auto-Tuning (AISTATS 10月) / Lyle
  • LogitNorm (ICLR 9月) / LinkedIN
  • IRM (CVPR 11月) / 吉田くん
  • KFAC x Damping (???? 1月) / Single Author?
• Others / コンテキストスイッチが必要
  • TIC (AISTATS? 10月)
  • RHHMC (AISTATS? 10月)
• SWARL (ICRA)

Deadline

Spread Sheet

年間スケジュール

```
[LinkedIn, Sunnyvale, 6/18-9/10]
9月下旬 ICLR 締め切り x2 (LogitNorm, SAM-Focal)
[ICCV, Paris, 12/1-5?]
10月中旬 AISTATS 締め切り x3 (TIC, RMHMC, Auto Tune SAM)
11月中旬 CVPR 締め切り
[NeurIPS, New Orleans, 12/1-5?]
1月下旬　ICML 締め切り (F2)
```