AI 学習パス
C++ で Transformer の部品を作る
9 問のチャレンジで、大規模言語モデルの内部の仕組みを学びます。トークナイザーとバイトペアエンコーディング、位置エンコーディング、自己注意、因果的注意とマルチヘッド注意、レイヤー正規化、次のトークンのサンプリングを扱います。C++ で順に解いていきましょう。各問題はブラウザで動き、テスト結果と AI レビューがすぐに届きます。
進捗を保存するにはサインインしてください。
0%クリア
0 / 9
-
1 0/3トークン化
テキストをトークンに変換します: 語彙、one-hot ベクトル、BPE。
- 1 単語トークナイザと語彙 簡単 C++で解く
- 2 ワンホットエンコーディング 簡単 C++で解く
- 3 バイトペアエンコーディング(BPE)のマージ 中級 C++で解く
-
2 0/4注意機構
位置エンコーディングと自己注意、因果的注意とマルチヘッド注意。
- 1 正弦波による位置エンコーディング 中級 C++で解く
- 2 スケールド・ドット積アテンション 難しい C++で解く
- 3 因果的(マスク付き)セルフアテンション 中級 C++で解く
- 4 マルチヘッド・セルフアテンション 難しい C++で解く
-
3 0/2正規化と生成
レイヤー正規化と次のトークンの選択。
- 1 レイヤー正規化 中級 C++で解く
- 2 温度と Top-K によるサンプリング 中級 C++で解く