AI 学習パス

C++ で Transformer の部品を作る

9 問のチャレンジで、大規模言語モデルの内部の仕組みを学びます。トークナイザーとバイトペアエンコーディング、位置エンコーディング、自己注意、因果的注意とマルチヘッド注意、レイヤー正規化、次のトークンのサンプリングを扱います。C++ で順に解いていきましょう。各問題はブラウザで動き、テスト結果と AI レビューがすぐに届きます。

  1. 1

    トークン化

    テキストをトークンに変換します: 語彙、one-hot ベクトル、BPE。

    0/3
    1. 1 単語トークナイザと語彙 簡単 C++で解く
    2. 2 ワンホットエンコーディング 簡単 C++で解く
    3. 3 バイトペアエンコーディング(BPE)のマージ 中級 C++で解く
  2. 2

    注意機構

    位置エンコーディングと自己注意、因果的注意とマルチヘッド注意。

    0/4
    1. 1 正弦波による位置エンコーディング 中級 C++で解く
    2. 2 スケールド・ドット積アテンション 難しい C++で解く
    3. 3 因果的(マスク付き)セルフアテンション 中級 C++で解く
    4. 4 マルチヘッド・セルフアテンション 難しい C++で解く
  3. 3

    正規化と生成

    レイヤー正規化と次のトークンの選択。

    0/2
    1. 1 レイヤー正規化 中級 C++で解く
    2. 2 温度と Top-K によるサンプリング 中級 C++で解く