- 実行ツール
-
学ぶ
Pythonを学ぶ 実行可能な例、NumPy、pandasなど AI・機械学習を学ぶニューラルネット・機械学習・LLM をゼロから C/C++を学ぶ ポインタ、メモリ、STL、モダンC++ C#を学ぶC# 基礎、OOP、LINQ、async、.NET 演習 Matplotlibを学ぶ折れ線・棒・散布図・円グラフをインタラクティブに Rust を学ぶ所有権、トレイト、エラー処理、スレッド Go を学ぶスライス、インターフェース、goroutine、チャネル Pythonアルゴリズム 探索、ソート、再帰、ビジュアライザー O(n) C/C++アルゴリズム CとC++の実装を比較 子ども向けプログラミング 遊びながらプログラミングを学ぼう!
- クイズNEW
- 課題一覧NEW
- 教師向けNEW
- アップデート
- コーヒーをおごる
AI & Machine Learning クイズ: Transformer のアーキテクチャ
Transformer は、現代の言語モデルを支えるアーキテクチャです。この難しめの面接形式のクイズでは、エンコーダーのみ・デコーダーのみのモデルから、位置エンコーディング、因果マスク、Multi-Head Attention、そしてその周りのブロックまで、各部品がどう組み合わさっているかを確認します。
例題
第1問 / 全10問モデルの系統とアーキテクチャの組み合わせとして正しいのはどれですか?
答えを見る
C. BERT はエンコーダーのみ、GPT 系のモデルはデコーダーのみ BERT は入力全体を双方向に見るエンコーダーブロックを重ねたもので、理解系のタスクに向いています。GPT 系のモデルは因果マスク付きのデコーダーブロックを重ねたもので、左から右へテキストを生成するのに向いています。翻訳用の元祖 Transformer は両方を使っていました。
このクイズの内容
- エンコーダーのみ、デコーダーのみ、エンコーダー・デコーダー型のモデル
- 回転位置埋め込み(RoPE)を含む位置エンコーディング
- 因果マスクと、学習を並列に実行できる理由
- Multi-Head Attention とヘッドのサイズ
- 残差接続、Layer Normalization、フィードフォワードブロック
よくある質問
アカウントは必要ですか?
いいえ、誰でも遊べます。ログインすると XP、連続記録、バッジ、履歴が保存されます。
何度でも挑戦できますか?
はい。ベストスコアが記録され、問題と選択肢は毎回シャッフルされます。