-
Trình Thực Thi
Trình biên dịch Python Trình biên dịch C++ Trình biên dịch C Trình biên dịch Matplotlib Trình thông dịch Node.js Trình thông dịch PHP Trình biên dịch C# / .NET Trình biên dịch Rust Ruby Interpreter Trình biên dịch Java Trình biên dịch Go Trình biên dịch Kotlin Trình biên dịch Swift Trình biên dịch TypeScript
-
Học lập trình
Học Python Ví dụ chạy được, NumPy, pandas và nhiều nội dung khác Học AI / Machine LearningMạng nơ-ron, học máy và LLM từ đầu Học C và C++ Con trỏ, bộ nhớ, STL và C++ hiện đại Học C#C# cơ bản, OOP, LINQ, async và bài tập .NET Học MatplotlibBiểu đồ đường, cột, phân tán và tròn với visualizer tương tác Học RustOwnership, trait, xử lý lỗi và thread Học GoSlice, interface, goroutine và channel Thuật toán Python Tìm kiếm, sắp xếp, đệ quy và trình mô phỏng O(n) Thuật toán C và C++ So sánh cách cài đặt bằng C và C++ Lập trình cho trẻ em Vừa chơi vừa học lập trình!
- QuizMới
- Thử tháchMới
- Cho giáo viênMới
- Cập Nhật mới nhất
- Mời mình một ly cà phê
Quiz AI & Machine Learning: Tokenization và Embedding
Trước khi một mô hình ngôn ngữ đọc được bất cứ thứ gì, văn bản phải được tách thành các token và mỗi token được ánh xạ sang một vector. Bài quiz này kiểm tra cách các tokenizer dạng subword như BPE hoạt động, embedding (vector biểu diễn) là gì và vì sao chúng giải thích được một số hành vi kỳ lạ của LLM.
Câu hỏi mẫu
Câu 1/10Vì sao hầu hết mô hình ngôn ngữ hiện đại dùng tokenization theo subword (từ con) thay vì mỗi từ một token?
Xem đáp án
B. Một bộ từ vựng kích thước cố định vẫn biểu diễn được các từ hiếm và từ chưa gặp bằng cách tách chúng thành những mảnh đã biết Bộ từ vựng theo cả từ sẽ khổng lồ mà vẫn sót từ mới, lỗi chính tả và tên riêng. Subword giữ bộ từ vựng ở mức kiểm soát được: từ phổ biến vẫn là một token, còn từ hiếm được tách thành các mảnh như token + ization.
Quiz này có gì
- Vì sao tách theo subword tốt hơn tách cả từ hay từng ký tự
- Byte pair encoding (BPE) xây dựng bộ từ vựng thế nào
- Embedding là vector dày đặc học được và độ tương đồng cosine
- Embedding tĩnh so với embedding theo ngữ cảnh
- Những điểm kỳ quặc do token gây ra, như đếm chữ cái và văn bản không phải tiếng Anh
Câu hỏi thường gặp
Có cần tài khoản không?
Không. Ai cũng chơi được. Đăng nhập để lưu XP, streak, badge và lịch sử.
Có làm lại được không?
Được. Điểm cao nhất của bạn được giữ lại, câu hỏi và đáp án được xáo trộn mỗi lần.