Quiz de AI & Machine Learning: Tokenization & Embeddings

Before a language model can read anything, text is split into tokens and each token is mapped to a vector. This quiz checks how subword tokenizers like BPE work, what embeddings are and why they explain some surprising LLM behaviour.

Médio 10 perguntas ~6 minutos Aprovação com 80%

Escolha um modo

Jogando como visitante: entre para guardar seu XP e sua sequência.

Pergunta de exemplo

Pergunta 1 de 10

Why do most modern language models use subword tokenization instead of one token per whole word?

Mostrar a resposta

B. A fixed-size vocabulary can still represent rare and unseen words by splitting them into known pieces A whole-word vocabulary would be huge and still miss new words, typos and names. Subwords keep the vocabulary manageable: common words stay one token while rare ones split into pieces like token + ization.

O que este quiz cobre

  • Why subword tokenization beats whole words and single characters
  • How byte pair encoding (BPE) builds its vocabulary
  • Embeddings as learned dense vectors and cosine similarity
  • Static vs contextual embeddings
  • Token quirks such as letter counting and non-English text

Perguntas frequentes

Preciso de uma conta?

Não. Qualquer pessoa pode jogar. Entre para guardar seu XP, sequência, badges e histórico.

Posso refazer?

Pode. Sua melhor nota fica salva, e as perguntas e respostas são embaralhadas a cada vez.