Квиз по AI & Machine Learning: How LLMs Generate Text

A large language model writes one token at a time, each chosen from a probability distribution over its vocabulary. This quiz checks how that loop works, what the context window limits, why answers vary between runs and why a chat model behaves differently from a base model.

Средний 10 вопроса ~6 минуты Проходной балл: 80%

Выберите режим

Вы играете как гость: войдите, чтобы сохранить XP и серию.

Пример вопроса

Вопрос 1 из 10

What is the core pretraining objective of a GPT-style language model?

Показать ответ

B. Predict the next token given all the previous tokens Pretraining is next-token prediction over huge amounts of text, with the loss measuring how much probability the model gave the actual next token. Everything else, including answering questions, builds on that skill.

Что проверяет этот квиз

  • Next-token prediction and the autoregressive loop
  • Logits, softmax and probabilities over the vocabulary
  • Greedy decoding vs sampling
  • Context windows, statelessness and output limits
  • The KV cache and base vs instruction-tuned models

Частые вопросы

Нужен ли аккаунт?

Нет. Играть может любой. Войдите, чтобы сохранять XP, серию, значки и историю.

Можно пройти ещё раз?

Да. Лучший результат сохраняется, а вопросы и ответы каждый раз перемешиваются.