- 実行ツール
-
学ぶ
Pythonを学ぶ 実行可能な例、NumPy、pandasなど AI・機械学習を学ぶニューラルネット・機械学習・LLM をゼロから C/C++を学ぶ ポインタ、メモリ、STL、モダンC++ C#を学ぶC# 基礎、OOP、LINQ、async、.NET 演習 Matplotlibを学ぶ折れ線・棒・散布図・円グラフをインタラクティブに Rust を学ぶ所有権、トレイト、エラー処理、スレッド Go を学ぶスライス、インターフェース、goroutine、チャネル Pythonアルゴリズム 探索、ソート、再帰、ビジュアライザー O(n) C/C++アルゴリズム CとC++の実装を比較 子ども向けプログラミング 遊びながらプログラミングを学ぼう!
- クイズNEW
- 課題一覧NEW
- 教師向けNEW
- アップデート
- コーヒーをおごる
AI & Machine Learning クイズ: AI の API を安全に使う
AI の API の上に機能を作ると、プロンプトインジェクションからキーの漏洩、安全でない出力まで、新しいリスクが生まれます。このクイズでは、シークレットや個人データの扱い、レート制限、そしてモデルの出力を信頼できない入力として扱うことなど、開発者に必要な実践的なセキュリティの習慣を確認します。
例題
第1問 / 全10問プロンプトインジェクションとは何ですか?
答えを見る
B. 信頼できないテキスト(ユーザー、Web ページ、メール、ファイルからのもの)に、アプリ自身の指示を上書きしようとする指示が含まれていること モデルは指示とデータを 1 つのテキストの流れとして読むので、「以前の指示を無視して」のようなテキストに振る舞いを乗っ取られることがあります。それが Web ページのようにモデルが処理するコンテンツの中に隠れている場合は、間接プロンプトインジェクションと呼ばれます。
このクイズの内容
- 直接的・間接的なプロンプトインジェクションと、ツールにできることの制限
- API キーをサーバー側に置き、漏洩したキーをローテーションする
- プロバイダーに送る個人データ(PII)を最小限にする
- レート制限への対処とコストの管理
- 使う前にモデルの出力を検証・エスケープする
よくある質問
アカウントは必要ですか?
いいえ、誰でも遊べます。ログインすると XP、連続記録、バッジ、履歴が保存されます。
何度でも挑戦できますか?
はい。ベストスコアが記録され、問題と選択肢は毎回シャッフルされます。