- 実行ツール
-
学ぶ
Pythonを学ぶ 実行可能な例、NumPy、pandasなど AI・機械学習を学ぶニューラルネット・機械学習・LLM をゼロから C/C++を学ぶ ポインタ、メモリ、STL、モダンC++ C#を学ぶC# 基礎、OOP、LINQ、async、.NET 演習 Matplotlibを学ぶ折れ線・棒・散布図・円グラフをインタラクティブに Rust を学ぶ所有権、トレイト、エラー処理、スレッド Go を学ぶスライス、インターフェース、goroutine、チャネル Pythonアルゴリズム 探索、ソート、再帰、ビジュアライザー O(n) C/C++アルゴリズム CとC++の実装を比較 子ども向けプログラミング 遊びながらプログラミングを学ぼう!
- クイズNEW
- 課題一覧NEW
- 教師向けNEW
- アップデート
- コーヒーをおごる
AI & Machine Learning クイズ: LLM がテキストを生成する仕組み
大規模言語モデルは、語彙全体にわたる確率分布から 1 つずつ選びながら、1 トークンずつ文章を書いていきます。このクイズでは、そのループの仕組み、コンテキストウィンドウが何を制限するのか、実行ごとに答えが変わる理由、そしてチャットモデルがベースモデルと異なる振る舞いをする理由を確認します。
例題
第1問 / 全10問GPT 系の言語モデルの、事前学習の中心となる目的は何ですか?
答えを見る
B. それまでのすべてのトークンから、次のトークンを予測する 事前学習は膨大なテキストに対する次のトークンの予測で、損失はモデルが実際の次のトークンにどれだけの確率を割り当てたかを測ります。質問への回答も含め、ほかのすべてはこの能力の上に成り立っています。
このクイズの内容
- 次のトークンの予測と自己回帰のループ
- ロジット、ソフトマックス、語彙全体にわたる確率
- 貪欲デコーディングとサンプリング
- コンテキストウィンドウ、ステートレス性、出力の上限
- KV キャッシュと、ベースモデルと指示チューニング済みモデルの違い
よくある質問
アカウントは必要ですか?
いいえ、誰でも遊べます。ログインすると XP、連続記録、バッジ、履歴が保存されます。
何度でも挑戦できますか?
はい。ベストスコアが記録され、問題と選択肢は毎回シャッフルされます。