AI & Machine Learning クイズ: AI の API を安全に使う

AI の API の上に機能を作ると、プロンプトインジェクションからキーの漏洩、安全でない出力まで、新しいリスクが生まれます。このクイズでは、シークレットや個人データの扱い、レート制限、そしてモデルの出力を信頼できない入力として扱うことなど、開発者に必要な実践的なセキュリティの習慣を確認します。

ふつう 10問 約6分 合格ライン 80%

モードを選ぶ

ゲストとしてプレイ中です。ログインすると XP と連続記録が保存されます。

例題

第1問 / 全10問

プロンプトインジェクションとは何ですか?

答えを見る

B. 信頼できないテキスト(ユーザー、Web ページ、メール、ファイルからのもの)に、アプリ自身の指示を上書きしようとする指示が含まれていること モデルは指示とデータを 1 つのテキストの流れとして読むので、「以前の指示を無視して」のようなテキストに振る舞いを乗っ取られることがあります。それが Web ページのようにモデルが処理するコンテンツの中に隠れている場合は、間接プロンプトインジェクションと呼ばれます。

このクイズの内容

  • 直接的・間接的なプロンプトインジェクションと、ツールにできることの制限
  • API キーをサーバー側に置き、漏洩したキーをローテーションする
  • プロバイダーに送る個人データ(PII)を最小限にする
  • レート制限への対処とコストの管理
  • 使う前にモデルの出力を検証・エスケープする

よくある質問

アカウントは必要ですか?

いいえ、誰でも遊べます。ログインすると XP、連続記録、バッジ、履歴が保存されます。

何度でも挑戦できますか?

はい。ベストスコアが記録され、問題と選択肢は毎回シャッフルされます。