Notes
Schedule
- 午前中
- 昨日は12時までには寝た
- テニスコートの予約 ここにまとめた
- GAN の色々の続き
- (論文)
- (実験)
- CelebA on SNGAN みてみる（Nan とかばっかで見れなかった気もする） ref
- Graham での ResNet on CIFAR Sweep がやばそう（時間無駄にかかって計算コストの無駄感がすごい） -> Stop
- FID 計算時に Local Scratch に全部書き出す -> 最後に Dir 移動させるみたいな方が健全かも
- Cedar はそっちで試してみる ref
- Graham も同じようにやってみる ref
- Cedar の Train が十分早いので、そこでSweep (CG_FR -> SGD) 実行
- Graham で (Momentum -> Adam)を :Sweep
- Mila Cluster 全然動かない (NeurIPS 前で激混み)
- Tokyo Tech Cluster ではずっと流してる
- 午後
- GAN の論文体裁整えたり
- 実験の色々やったりした
- フリスビーしたり、ボール蹴りに行った
- 友人からお菓子いただいて食べた
- GAN の続き
- LinkedIn のインターン関連の、テーマ選定のディスカッション、
Other
- 夏から秋にかけての予定を立てないと
- TIC 早く成仏させたい
- Distributional Shift での有効性
- ただし導出の際に IID 仮定してるので無理か？
- 近似とかなら Upper Bound になったりするか？！
- 退学リスク考えて気持ちが落ち込んで早く寝た
School Transfer に関して
stackexchange
[ref1](https://academia.stackexchange.com/questions/2498/is-transferring-to-another-university-an-option-for-an-unhappy-phd-student)
コンピュータサイエンス
博士課程の学生が転校する理由は、指導教官の異動以外にもたくさんあります。例えば、地元の教授陣の興味や経験とは異なるサブフィールドへの情熱を見出したために、転校に成功した学生を何人か見てきました。また、2体問題（特に3体問題になったとき）のような個人的な理由もあります。指導教官が亡くなったり、学問の世界を去ったりすることもあります。学生と指導教官・委員会の間に和解しがたい不和がある場合もあります。学生が、今の学部よりもうまくやれると考えている（そして、それを証明する出版物を持っている）場合もあります。
おそらく、最も苦労せずに移籍できるのは、修士号を取得した直後でしょう。(研究の方向性を変えるには最適な時期ですし、多くの博士課程では、別に修士課程がなくても、途中で修士号を取得することを認めています（私のところはそうではありませんでした）。(私のところはそうではありませんでしたが）。
それでも、博士課程のMS学生からの応募は、特に、応募者が前の指導教官とすでに良好な実績を持っている場合、懐疑的な目で見られるでしょう。なぜ今の指導教官を辞めたいのか、いない人にこの枠を与えるべきではないのか）。だから、応募者の研究計画書には、前の学科を貶めることなく、なぜ新しい学科がよりマッチするのかを説明することが重要です。また、技術的な弱点や性格の不一致などの懸念に対処するため、前の指導教官からの強力で支持的な推薦状があることも重要です。
(*また、博士号取得希望者がMSの指導教官と良好な関係を築けなければ、いずれにせよ入学はできないでしょう。)
研究 TODO
- OOD の Arxiv? ICML Camera Ready? NeurIPS? に向けて
- Conjugate Gradient for Generative Adversarial
- Damping for KFAC
- TIC for ICLR!?
- Datashift OOD and Calibration
- SAM for RL
- Optimal Transport for DA
- Optimizers for Corruption
- KFAC for GAN
- Calibration for DL
- BS vs Steps