Quiz AI & Machine Learning: Temperature, Top-k và Top-p

Các thiết lập sampling (lấy mẫu) quyết định đầu ra của mô hình dễ đoán hay sáng tạo tới mức nào. Bài quiz này kiểm tra temperature tác động lên xác suất ra sao, top-k và top-p (nucleus sampling) lọc token thế nào, và thiết lập nào hợp với tác vụ nào, kèm vài con số nhỏ để bạn tự tính.

Trung bình 10 câu hỏi ~6 phút Đạt từ 80%

Chọn chế độ

Bạn đang chơi với tư cách khách: đăng nhập để lưu XP và streak.

Câu hỏi mẫu

Câu 1/10

Về mặt toán học, temperature làm gì?

Xem đáp án

B. Nó chia các logit cho temperature trước softmax, làm phân phối xác suất nhọn hơn hoặc phẳng hơn Xác suất là softmax(logits / T). Temperature dưới 1 làm phân phối nhọn hơn, trên 1 làm nó phẳng hơn; trọng số và đầu vào vẫn giữ nguyên.

Quiz này có gì

  • Temperature là phép chia các logit trước softmax
  • Temperature thấp so với cao, và temperature gần 0
  • Sampling top-k và top-p (nucleus) cùng bước chuẩn hóa lại
  • Chọn thiết lập cho trích xuất dữ liệu so với động não ý tưởng
  • Phạt lặp lại (repetition penalty) và phạt tần suất (frequency penalty)

Câu hỏi thường gặp

Có cần tài khoản không?

Không. Ai cũng chơi được. Đăng nhập để lưu XP, streak, badge và lịch sử.

Có làm lại được không?

Được. Điểm cao nhất của bạn được giữ lại, câu hỏi và đáp án được xáo trộn mỗi lần.