Transformer
2026年10月の再サーベイ： 研究史・重要文献・最近の進展を整理した新版を追加しました（2026年10月3日基準）。以下は従来のメモです。定義・適用条件の訂正は新版を参照してください。
参考文献
- Transformerとは？AI機械学習の仕組みを解説: ほぼ情報がない / メリットデメリットの羅列
- 【入門】深層学習の革命児！Transformer を今こそ理解しよう: 良い、エンコーダーに関しては、これをまず読むべき
- Transformerとは？数学を用いた徹底解説：Encoder編: Encoder について詳しい
- 深層学習界の大前提Transformerの論文解説！: より Attention に関して詳しい解説
- Transformerとは・基礎知識を初心者向けにわかりやすく解説: 特に必要ない
- 【図解】誰でもわかるTransformer入門！凄さ・仕組みをわかりやすく解説: Multi-head Attention nお礼がわかりやすい
- LLMファインチューニングのためのNLPと深層学習入門 #14 Transformer（Sakusakumura。旧URL:
https://note.com/sakusakumura/n/n95ab44b1c68c、2026-09-30時点で公開終了）：学習時のマスク化アテンション - 図で理解するTransformer:細かい処理が図解されてる
- 作って理解する Transformer / Attention
- Transformerのデータの流れを追ってみる
- 自然言語処理の必須知識 Transformer を徹底解説！
- ChatGPTのベースとなった「Transformer」とは？その凄さと今後の可能性をわかりやすく解説！
- 「機械学習で時系列予測はできるのか」論議がTransformerと共に帰ってきた
- 社内勉強会報告：Transformer最新動向
- 「Transformer」の仕組み──AIによる画像・動画生成や自然言語処理で話題の深層学習モデルを理解する
- 30分で完全理解するTransformerの世界: いろんな応用までうまくまとまってる