- 실행기
-
학습
Python 배우기 실행 가능한 예제, NumPy, pandas 등 AI / 머신러닝 배우기신경망, 머신러닝, LLM을 처음부터 C/C++ 배우기 포인터, 메모리, STL, 모던 C++ C# 배우기C# 기초, OOP, LINQ, async 및 .NET 연습 Matplotlib 배우기선, 막대, 산점도, 원 그래프를 시각화 도구와 함께 Rust 배우기소유권, 트레이트, 오류 처리, 스레드 Go 배우기슬라이스, 인터페이스, 고루틴, 채널 Python 알고리즘 검색, 정렬, 재귀와 시각화 도구 O(n) C/C++ 알고리즘 C와 C++ 구현 비교 어린이 코딩 놀면서 코딩을 배워요!
- 퀴즈NEW
- 문제NEW
- 교사용NEW
- 업데이트
- 커피 한 잔 사 주기
AI & Machine Learning 퀴즈: LLM이 텍스트를 생성하는 방식
대규모 언어 모델은 한 번에 토큰 하나씩 글을 쓰며, 각 토큰은 어휘 전체에 대한 확률 분포에서 선택됩니다. 이 퀴즈는 그 반복 과정이 어떻게 동작하는지, 컨텍스트 윈도우가 무엇을 제한하는지, 실행할 때마다 답이 달라지는 이유, 그리고 채팅 모델이 베이스 모델과 다르게 동작하는 이유를 확인합니다.
예시 문제
10문제 중 1번GPT 계열 언어 모델의 핵심 사전 학습 목표는 무엇일까요?
정답 보기
B. 앞선 모든 토큰이 주어졌을 때 다음 토큰 예측하기 사전 학습은 방대한 텍스트에 대한 다음 토큰 예측이며, 손실은 모델이 실제 다음 토큰에 확률을 얼마나 주었는지 측정합니다. 질문에 답하는 것을 포함해 나머지 모든 능력은 이 능력 위에 쌓입니다.
이 퀴즈에서 다루는 내용
- 다음 토큰 예측과 자기회귀 루프
- 로짓, 소프트맥스, 어휘에 대한 확률
- 탐욕적 디코딩과 샘플링
- 컨텍스트 윈도우, 무상태성, 출력 길이 제한
- KV 캐시, 베이스 모델과 인스트럭션 튜닝된 모델
자주 묻는 질문
계정이 필요한가요?
아니요. 누구나 플레이할 수 있어요. 로그인하면 XP, 연속 기록, 배지, 기록이 저장돼요.
다시 풀 수 있나요?
네. 최고 점수가 저장되고, 문제와 보기는 매번 섞여서 나와요.