Hiroki Naganuma

Schedule

直近の Schedule

[今月](https://hiroki11x.github.io/posts/diary/2025_04/) - 直近の締め切り/予定 - 4/12 阪大のクラスタ登録 - 4/30? 本庄国際奨学財団 - 5/? TMLR Submission (WASASAM) - 5/1? NeurIPS2025 (LR Schedule) w/ MSR - 5/12 NeurIPS2025 #16_model_personalization - 5/? TMLR? (Damping Schedule) - 6/1?TSUBAME 利用報告書 - 旅程 - 4/13 Ottawa->Tokyo - 4/22 Tokyo->Singapore - 4/24-26 ICLR2025 @Singapore - 4/27 Singapore->Tokyo - 4/28 or 30 米国大使館・領事館 - 5/21 パスポート回収 - 5/23 Tokyo->Ottawa - 5/25 Ottawa->San Francisco (tentaive) - 8/31 San Francisco->Montreal

予定

今日終わらせること

数日中には終わらせたいこと

• Cyberdyne の update

一日の流れ

• 少しずつ体調はマシになってる
• 朝体調が良くなかった
  • ICLR キャンセルするか悩む
    • ICLR は 4/13 までならキャンセル可能
    • 多分ホテルと航空券もそう
• ベーグル買いに行って食べた

• 頭が痛いし体調が良くないので結構寝てた

• Misc
  • UOsaka
• Fairness の色々実験
  • シェルの修正
• Xinzhi と chat towards TMLR

• 幡谷さんに連絡

• 荷物の整理

• PALSGD
  • 投稿
  • Action Editor の選択
• EMNLP
  • Cluster 関連
  • 吉田くんに返事
  • 問題の特定

今日やりたいこと以下

• Tamia Cluster のセットアップ

• クラスタが遊んでいるので、埋める
  • Mila (そんなに空いてない)
  • Rio (小さいの誰も使ってない)
    • SDDCA Seed Experiments
  • DGX
    • PALSGD, DiLoCo or Seed Experiments
• 投げるべき実験
  • Fairness
    • Mistral の実験準備
      • Narval で実験するために、まず Mila Cluster に Mistral 落とす
      • シェルをかく
  • PALSGD
    • H とか変えた場合の Ablation をずっと流す？？ on DGX?
    • ほんとは K 変えた場合の実験をしたいけど、K=2, 4, 8 までしかできない and それだと若干勿体無い
• 解析すべきもの
  • Cyberdyne の実験
    • 上記の実験投げるのが終わってからでもいいかな
• 頭使うこと
  • GDM
    • ワークに関しての literature review と骨子
  • WASASAM
    • 骨子考える
  • Meta
    • 骨子考える
    • literature review
    • もらった論文読む

今日何を学んだか？

喫緊の TODOS

• Canada Compute Cluster 新しいやつを設定

• Misc
  • 絶対に分かる機械学習理論
  • 情報幾何の発展:研究小景が描く最前線

• MSRA での talk の準備

• MUON
  • CIFARF10
    • https://github.com/KellerJordan/cifar10-airbench
  • NanoGPT
    • https://github.com/KellerJordan/modded-nanogpt
• 読み物
  • 言語モデルの内部機序：解析と解釈
  • Llama 3.3 Swallow: 高性能な日本語LLM
• いつか Blog をこれに移行したい

所感

Deadlines

Reference

• TODO - 02/14
• 研究プロジェクト Notion

Deadline

年間スケジュール

参考 URL: https://hiroki11x.github.io/posts/research_topics/ML_Conference/