- 실행기
-
학습
Python 배우기 실행 가능한 예제, NumPy, pandas 등 AI / 머신러닝 배우기신경망, 머신러닝, LLM을 처음부터 C/C++ 배우기 포인터, 메모리, STL, 모던 C++ C# 배우기C# 기초, OOP, LINQ, async 및 .NET 연습 Matplotlib 배우기선, 막대, 산점도, 원 그래프를 시각화 도구와 함께 Rust 배우기소유권, 트레이트, 오류 처리, 스레드 Go 배우기슬라이스, 인터페이스, 고루틴, 채널 Python 알고리즘 검색, 정렬, 재귀와 시각화 도구 O(n) C/C++ 알고리즘 C와 C++ 구현 비교 어린이 코딩 놀면서 코딩을 배워요!
- 퀴즈NEW
- 문제NEW
- 교사용NEW
- 업데이트
- 커피 한 잔 사 주기
AI & Machine Learning 퀴즈: AI API 안전하게 사용하기
AI API를 활용하면 프롬프트 인젝션부터 키 유출, 안전하지 않은 출력까지 새로운 위험이 생깁니다. 이 퀴즈는 비밀 정보와 개인 정보 다루기, 사용량 제한(rate limit), 모델 출력을 신뢰할 수 없는 입력으로 취급하기 등 개발자에게 필요한 실용적인 보안 습관을 확인합니다.
예시 문제
10문제 중 1번프롬프트 인젝션이란 무엇일까요?
정답 보기
B. 신뢰할 수 없는 텍스트(사용자, 웹 페이지, 이메일, 파일에서 온)에 앱의 원래 지시를 덮어쓰려는 지시가 들어 있는 것 모델은 지시와 데이터를 하나의 텍스트 흐름으로 읽기 때문에 "ignore previous instructions" 같은 텍스트가 동작을 가로챌 수 있습니다. 웹 페이지처럼 모델이 처리하는 콘텐츠 안에 숨어 있다면 간접 프롬프트 인젝션이라고 부릅니다.
이 퀴즈에서 다루는 내용
- 직접 및 간접 프롬프트 인젝션, 도구 권한 제한하기
- API 키를 서버에 두고 유출된 키 교체하기
- 제공자에게 보내는 개인 정보(PII) 최소화하기
- 사용량 제한 처리와 비용 통제
- 모델 출력을 쓰기 전에 검증하고 이스케이프하기
자주 묻는 질문
계정이 필요한가요?
아니요. 누구나 플레이할 수 있어요. 로그인하면 XP, 연속 기록, 배지, 기록이 저장돼요.
다시 풀 수 있나요?
네. 최고 점수가 저장되고, 문제와 보기는 매번 섞여서 나와요.