Quiz AI & Machine Learning: Kiến trúc Transformer

Transformer là kiến trúc đứng sau các mô hình ngôn ngữ hiện đại. Bài quiz khó, theo kiểu phỏng vấn này kiểm tra cách các thành phần ghép lại với nhau, từ mô hình chỉ có encoder và chỉ có decoder tới positional encoding (mã hóa vị trí), causal mask, multi-head attention và các khối xung quanh.

Khó 10 câu hỏi ~8 phút Đạt từ 80%

Chọn chế độ

Bạn đang chơi với tư cách khách: đăng nhập để lưu XP và streak.

Câu hỏi mẫu

Câu 1/10

Cách ghép họ mô hình với kiến trúc nào là đúng?

Xem đáp án

C. BERT: chỉ có encoder; các mô hình kiểu GPT: chỉ có decoder BERT xếp chồng các khối encoder nhìn toàn bộ đầu vào theo cả hai chiều, hợp với các tác vụ hiểu văn bản. Các mô hình kiểu GPT xếp chồng các khối decoder có causal mask, hợp với việc sinh văn bản từ trái sang phải; transformer gốc dùng cho dịch máy thì dùng cả hai.

Quiz này có gì

  • Mô hình chỉ có encoder, chỉ có decoder và encoder-decoder
  • Positional encoding, bao gồm rotary embedding (RoPE)
  • Causal mask và vì sao việc huấn luyện chạy song song được
  • Multi-head attention và kích thước mỗi head
  • Kết nối residual, layer norm và khối feed-forward

Câu hỏi thường gặp

Có cần tài khoản không?

Không. Ai cũng chơi được. Đăng nhập để lưu XP, streak, badge và lịch sử.

Có làm lại được không?

Được. Điểm cao nhất của bạn được giữ lại, câu hỏi và đáp án được xáo trộn mỗi lần.