Quiz de AI & Machine Learning: La arquitectura transformer

El transformer es la arquitectura que hay detrás de los modelos de lenguaje modernos. Este quiz difícil, al estilo de una entrevista técnica, comprueba cómo encajan las piezas, desde los modelos solo encoder y solo decoder hasta la codificación posicional, la máscara causal, la multi-head attention y los bloques que la rodean.

Difícil 10 preguntas ~8 minutos Se aprueba con 80%

Elige un modo

Juegas como invitado: inicia sesión para guardar tu XP y tu racha.

Pregunta de ejemplo

Pregunta 1 de 10

¿Qué emparejamiento de familia de modelos y arquitectura es correcto?

Ver la respuesta

C. BERT: solo encoder; modelos tipo GPT: solo decoder BERT apila bloques encoder que ven toda la entrada en ambas direcciones, lo que encaja con tareas de comprensión. Los modelos tipo GPT apilan bloques decoder con una máscara causal, lo que encaja con generar texto de izquierda a derecha; el transformer original para traducción usaba ambos.

Qué cubre este quiz

  • Modelos solo encoder, solo decoder y encoder-decoder
  • Codificaciones posicionales, incluidos los rotary embeddings (RoPE)
  • La máscara causal y por qué el entrenamiento puede ir en paralelo
  • Multi-head attention y el tamaño de las cabezas
  • Conexiones residuales, layer norm y el bloque feed-forward

Preguntas frecuentes

¿Necesito una cuenta?

No. Cualquiera puede jugar. Inicia sesión para guardar tu XP, racha, insignias e historial.

¿Puedo repetirlo?

Sí. Se guarda tu mejor puntuación, y las preguntas y respuestas se mezclan cada vez.