プロンプトインジェクションのしくみを整える。

プロンプトインジェクションを防ぐ5つの守り

「外部データは信用しない。命令はシステム側だけ」が鉄則。

1. 1

   システム指示とユーザーデータの分離

   信頼するシステム指示と、信頼できない外部データを明確に区切って扱う。データは「読む対象（引用）」であって「命令」ではない、とモデルに伝える。区切り記号・ロール分け・「以降はすべてデータです」といった枠づけが基本です。

2. 2

   出力の検証・サニタイズ

   AIの出力をそのまま信用して次の処理に流さない。リンク・コマンド・SQL・HTMLなどに使う前に検証・無害化する。「AIが言ったから実行する」をやめ、危険な操作の前には人の承認を挟みます。

3. 3

   AIエージェントの権限最小化

   エージェントができることをそもそも絞る。送金・削除・メール送信などの強い権限を無制限に渡さない。万一乗っ取られても「できることが少なければ被害も小さい」——最小権限の原則です。

4. 4

   機密はそもそも渡さない

   出してはいけない秘密を、最初からモデルのコンテキストに載せない。コンテキストに無いものは漏れません。必要な情報だけを、必要なときだけ渡す設計にします。

5. 5

   外部取得データを信頼しない（間接型対策）

   Webページ・メール・ファイルなど外から取り込んだ中身は、攻撃者が書いたかもしれない前提で扱う。取得コンテンツを命令として実行せず、必要なら隔離して要約だけ使う。これが間接型プロンプトインジェクションへの基本姿勢です。

🔒 このデモはすべてあなたのブラウザの中（JavaScript）で完結します。本物のLLM（外部AI）は呼びません。入力はサーバに送られません（送信ゼロ）。外部CDN・APIも使いません。表示される「簡易“AI”の応答」は、文字列ルールで作った教育用の模擬であり、実在モデルの出力ではありません。