プロンプトインジェクションとは?AIエージェントへの実際の攻撃7選
プロンプトインジェクションとは何か。隠れた文章がAIエージェントを乗っ取る仕組み、2024年と2025年に報告された7件の攻撃、今日から使える9つの対策を、やさしい言葉で解説します。

プロンプトインジェクション(prompt injection)とは、AIが読み込むメール、Webページ、文書の中の文章が指示として受け取られ、AIの動作を変えてしまう攻撃です。英国の National Cyber Security Centre(NCSC)は2025年12月、この種の攻撃は「完全には緩和できないかもしれない」と述べており、主要ベンダーはいずれもこの問題は未解決だと認めています。このガイドでは、仕組みをやさしい言葉で説明し、記録された7件の攻撃を紹介し、小規模事業者が今日から実行できる9つの対策を示します。
AIアシスタントに今朝のメールの要約を頼んだとします。知らないアドレスからの1通に、あなたには見えない一文があります。白い背景に白い文字で、最新の請求書を探してどこか別の場所へ送るようアシスタントに命じているのです。アシスタントは、その一文とあなたの依頼を区別できません。どちらもただの文字列だからです。これがプロンプトインジェクションです。ツールが質問に答えるだけの段階から、受信箱を読み、ファイルを開き、ブラウザでボタンを押すという実行の段階へ進んだため、この問題は月ごとに重要性を増しています。2026年4月に公表された政府の Cyber Security Breaches Survey では、英国企業の31%がAIを利用、導入、または検討しており、そのうちセキュリティリスクを管理する手順を持っていたのは24%にとどまりました。
以下の内容です。このガイドの確認方法、考え方の説明、表にまとめた7件の実際の攻撃、隠された指示の潜み方、エージェントで危険が増す理由、ベンダー自身が認めていること、9つの対策、変更する価値のある設定、エージェントを安全に使い続ける方法。
目の届くエージェントは信頼しやすいものです。Jobbit では、エージェントが作業中のブラウザを見ることができ、いつでも操作を引き継げます。Plan mode では実行前に手順が表示されます。無料プランは1日100クレジット、カード不要です。
このガイドの確認方法
- 2026年11月13日に確認した一次情報。 AIアプリケーション向けの OWASP のリスク一覧、National Cyber Security Centre、米国の標準化機関 NIST、Information Commissioner's Office(ICO、英国の情報コミッショナー事務局)、そして Microsoft、Google、Anthropic のセキュリティ関連の投稿です。
- 各攻撃は、それを報告した研究者までさかのぼりました。 元の報告が読み込めなかった場合は、表にそのことを明記しています。
- 防御のみを扱います。 このガイドは、公式情報源が公開している水準で攻撃の仕組みを説明します。実際に使える攻撃文は含みません。
- ベンダーの発言は、各社自身の言葉です。 宣伝文ではなく、セキュリティブログや研究ページから引用しています。
- どの製品も安全だとは主張しません。 当社の製品も例外ではありません。
プロンプトインジェクションをやさしく説明すると
ソフトウェアのセキュリティリスク一覧で最もよく知られる OWASP は、AIアプリケーション向けの一覧でプロンプトインジェクションを第1位に挙げ、「ユーザーのプロンプトが意図しない形で LLM の動作や出力を変えてしまうときに生じる」脆弱性と定義しています。問題は2種類に分けられます。
- 直接プロンプトインジェクション。 入力する本人が攻撃者です。AIを説得して決まりを破らせようとします。主にベンダー側の問題です。
- 間接プロンプトインジェクション。 AIに読ませた対象の中に指示が紛れ込んでいます。OWASP はこれを「Webサイトやファイルなど外部の情報源」からの入力と説明しています。被害者はAIを使っている人です。こちらはあなたの問題です。
根本原因は簡単に言えます。NIST は、こうしたモデルは「データの経路と指示の経路を一つにまとめている」と説明しています。通常のプログラムは命令と内容を分けて扱います。言語モデルは1本の長い文章を受け取り、どの部分が重要かを自分で判断します。
この名前は、開発者の Simon Willison が「これにつける明らかな名前はプロンプトインジェクションだと提案します」と書いた2022年9月12日に始まります。データベースに対する古い攻撃に由来する名前で、National Cyber Security Centre はこの比較を深追いしないよう注意しています。データベースへのインジェクションには確立した対処法があります。言語モデルについては、同センターは「本質的に混乱しやすい代理人(inherently confusable deputy)」と考えることを勧めています。あなたと同じ権限を持ちながら、他人のために動くよう説得されてしまう助手のことです。
7件の実際の攻撃を一覧で見る
| 公表時期 | 製品 | 指示が隠れていた場所 | 攻撃者にできたこと | その後の変更 |
|---|---|---|---|---|
| 2024年8月 | Slack AI | 公開チャンネルのメッセージ | 非公開の秘密情報を、クリックさせるリンクとして被害者に表示させる | 研究者によると、Slack は想定どおりの動作だと説明した |
| 2025年5月 | GitHub に接続されたエージェント | 公開コードリポジトリの issue | 非公開リポジトリのデータを公開の場所へ引き出す | パッチなし。権限を絞ることを推奨 |
| 2025年6月 | Microsoft 365 Copilot | メール(クリック不要) | ネットワーク経由で情報を漏えいさせる | Microsoft が修正。CVE-2025-32711 として管理 |
| 2025年8月 | Google Gemini | カレンダー招待のタイトル | 予定の削除、メッセージの送信、スマートホーム機器の操作 | Google が確認の手順とフィルタリングを追加 |
| 2025年8月 | ファイル接続付きの ChatGPT | 共有文書の小さな白い文字 | 接続されたドライブからキーを探して漏えいさせる | OpenAI がチェックを追加。研究者は不十分だと指摘 |
| 2025年8月 | Perplexity の Comet ブラウザ | Webページの隠しコメント | メールからワンタイムコードを読み取り、アカウントを乗っ取る | 修正されたが、完全ではないと報告された |
| 2025年9月 | Salesforce Agentforce | Webフォームの説明欄 | 顧客記録を外部のアドレスへ送信する | Salesforce が信頼済みアドレスの一覧を強制 |
研究者は順に、PromptArmor、Invariant Labs、Microsoft の脆弱性記録に名前が記載されたチーム、SafeBreach、Zenity Labs、Brave、Noma Labs です。Microsoft 365 Copilot の事例は、元の報告が読み込めなかったため、公開されている脆弱性記録と学術論文に基づいて説明しています。
目立つ点が3つあります。まず、どの製品も大手の慎重な企業のものです。次に、被害者は特別なことをしていません。要約を頼み、招待を受け入れ、メールを受け取っただけです。そして、いくつかの修正は研究者によって部分的だと評価されています。
隠された指示はどこに潜むのか
以下はいずれも、上記の報告のいずれか、または公式情報源に基づいています。
- Webページ。 白い背景に白い文字、ページコード内のコメント、折りたたみタグの奥にある文字。
- メール。 本文中の見えない文字。Anthropic の安全に関するページは、「ToDoリストやメールには見えない文字が含まれていることがある」と警告しています。
- カレンダー招待。 イベントのタイトルの中にあり、展開するまで見えません。
- 共有文書。 確認のために送られてきたファイルの中の、1ピクセルの白い文字。
- Webフォーム。 顧客管理システムにつながる「お問い合わせ内容をご記入ください」の欄。
- チャットチャンネルとコードリポジトリ。 見知らぬ人が投稿でき、あなたのアシスタントが読める場所ならどこでも。
- 画像。 OWASP は、無害な文章に添えられた画像の中に埋め込まれた指示を挙げています。
- ツールの説明。 Information Commissioner's Office は、これを「AIエージェントが操作するツールのメタデータの中に隠される、ツールポイズニング」と呼んでいます。
共通するのは、あなたに代わってAIが読むものはすべて侵入口になり得て、その文章をあなた自身は目にしないということです。
エージェントで危険が増す理由
だまされたチャットボットは誤った答えを返します。だまされたエージェントは誤った行動を取ります。Simon Willison は2025年6月に、危険な組み合わせを「非公開データへのアクセス」「信頼できない内容への接触」「外部と通信する能力」と名付け、これを致命的な三要素(lethal trifecta)と呼びました。この3つを備えたアシスタントは、見知らぬ人から非公開のものを探して外へ送るよう命じられてしまう可能性があります。
先ほどの表を見返してください。どの攻撃も3つすべてを備えていました。要約機能は非公開メッセージを読め、見知らぬ人のメッセージを読み、リンクを表示できました。3つのうち1つでも取り除けば、攻撃は成立しません。
National Cyber Security Centre が2026年5月に出したエージェント型AIに関する文書は、組織向けに同じ点を述べています。「エージェントに過剰な権限が与えられている、または設計が不十分であれば、一度の失敗がたちまち深刻なインシデントになり得る」。これらのツールに今何ができるかは、コンピューター操作エージェントの解説記事で扱っています。
ベンダー自身が認めていること
これは業界が隠している問題ではありません。
- Anthropic は2025年11月に公表した研究で、プロンプトインジェクションを「解決済みの問題にはほど遠い」と呼び、「プロンプトインジェクションに耐えられるブラウザエージェントは存在しない」と書きました。自社の数値も公表しています。粘り強い自動化された攻撃者に対し、最良のモデルは安全策を有効にした状態で1.4%の確率でだまされ、1%でも「依然として意味のあるリスクである」としています。
- OpenAI の最高情報セキュリティ責任者は2025年10月、これを「最先端の、未解決のセキュリティ問題」と表現しました。
- Microsoft のセキュリティ対応チームは2025年7月に、同社の取り組みは「すべてのプロンプトインジェクションを阻止できることに依存していない」と書きました。2026年5月の Microsoft のセキュリティ投稿は、さらに率直にこう述べています。「LLM はセキュリティ境界ではありません」。
- Google は2025年6月に、分類器、リンクのフィルタリング、危険な操作の前にユーザーへ確認を求める、という多層防御を説明しました。
- National Cyber Security Centre は、これを止められると主張するベンダーには懐疑的であるよう助言しています。
作った側が鍵は破られ得ると言っているのですから、いつか破られる前提で備えておきましょう。
小規模事業者が今日から使える9つの対策
- 仕事に足りる最小限のアクセスだけを与える。 National Cyber Security Centre は、エージェントには「必要な最小限のアクセスを、必要な最短の期間だけ」与えるよう述べています。返信の下書きを作るアシスタントに、送信までさせる必要はありません。
- 三要素を断ち切る。 1つのアシスタントに、非公開データを読むこと、見知らぬ人の内容を読むこと、外へ送ることを同じ作業で全部させないでください。受信箱の要約は1つのセッションで行い、送信は別の場でご自身が行います。
- 重要なことには必ず人が関与する。 OWASP は「リスクの高い操作や特権操作」に人による確認を推奨しています。支払い、削除、顧客へ送るものすべてです。
- AIが読むものは信頼できないものとして扱う。 Webページ、添付ファイル、知らない送信者からのメールは、すべて内容であり、命令ではありません。
- AIが書くものも信頼できないものとして扱う。 AIの要約の中にある「再認証」のためのリンクをクリックしないでください。それが Slack への攻撃でした。
- エージェント作業には別のブラウザプロファイルを使う。 Anthropic 自身の安全に関する助言は、銀行、医療、行政のアカウントにサインインしていないプロファイルを使うことです。
- 作業を見守る。 要約のはずが自分のファイルの検索に変わるなど、作業が脇道にそれたら止めてください。エージェントが何を読み、何をしたかの記録は残しておく価値があります。
- リスクの低い仕事から始める。 同センターの助言は「小さく始め、エージェントはリスクの低い作業にだけ使う」ことです。請求書やメールの前に、調査と下書きから。
- AIポリシーに書き込む。 誰がどのツールをどのアカウントに接続してよいか、誰がそれを止められるか。AIポリシーのテンプレートに文例があります。
どれもセキュリティ専門のチームは要りません。見知らぬ人からの添付ファイルを開かないという習慣を、新しい種類の助手に当てはめただけです。
変更する価値のある設定
- 承認モード。 Anthropic のヘルプページによると、Claude in Chrome は "Manually approve"(手動で承認)に設定して、すべての操作を確認でき、特定のサイトへのアクセスを許可したり外したりできます。
- ログアウト状態での閲覧。 OpenAI のセキュリティ責任者は、Atlas ブラウザエージェントについて、あなたのアカウントを使わずに作業するログアウトモードを説明しました。知らないサイトでの調査に使ってください。
- コネクタ。 接続するファイル保管先、メールボックス、カレンダーが増えるほど、紛れ込んだ指示が届く範囲は広がります。作業に必要なものだけ接続し、終わったら切断してください。
- 自動承認。 「常に許可」の選択肢は、安全と引き換えに速さを得るものです。2025年の報告の一つは、それがまさに見ておきたい手順を隠してしまうと指摘していました。
エージェントを安全に使い続けるには
これは使うのをやめる理由ではありません。監督できるツールと、妥当な仕事を選ぶ理由です。ChatGPT、Claude、Gemini、Microsoft Copilot、Manus、Meta の Muse は同じ問題に直面しており、Jobbit も同様です。選べるのは、どこまで見えて、どこまで止められるかです。
- 見守り、引き継ぐ。 Jobbit のエージェントのブラウザは作業中に見えて、いつでも操作を引き継げます。やり方はエージェントブラウザのガイドで説明しています。
- 動く前に計画を見る。 Plan mode は、実行前に手順を示して承認を求めます。詳しくはエージェントの操縦のガイドをご覧ください。
- 三要素のない仕事から始める。 Webサイトの制作、文書の作成、市場調査、スプレッドシート作りは、非公開データがほとんど関わらず、あなたに代わって何かを送ることもありません。
- 秘密情報をチャットに入れない。 プロジェクトには秘密情報専用の場所があるので、キーやパスワードを会話に貼り付ける必要はありません。
- 危ない部分は人に任せる。 人のネットワークから選ばれた審査済みの専門家が、判断が必要な手順を担当でき、支払いはエスクローで保管されます。
正直な立場は、ベンダーが取っているものと同じです。どのエージェントも安全とは言い切れません。だまされたエージェントがインシデントにならないようにするのは、監督と限られたアクセスです。
英国の状況
Information Commissioner's Office は2026年5月に、AIを使った脅威から組織を守るための5つのステップを公表しました。敵を知る、基本を固めて防御を重ねる、アクセスポイントを制限する、検知と対応を改善する、個人データを守る、です。間接プロンプトインジェクションについては、「AIシステムが処理する外部コンテンツに埋め込まれた」悪意ある指示と説明しています。
日常的なリスクの規模は Cyber Security Breaches Survey 2025/2026 に示されています。英国企業の43%が過去12か月に侵害または攻撃を報告しており、標本は2,112社です。プロンプトインジェクションは、多くの古い経路に加わった新しい経路の一つにすぎません。ほかの経路は小規模事業者を狙うAI詐欺のガイドで扱っています。
次に読む
よくある質問
プロンプトインジェクションを簡単に言うと何ですか?
AIが読むものの中の言葉が、指示として扱われてしまうことです。AIはあなたの依頼と、メール、Webページ、ファイルの中の文章を確実には区別できないため、隠された一文がAIの動作を変えることがあります。OWASP は、AIアプリケーション向けの一覧で第1位のリスクに挙げています。
直接と間接のプロンプトインジェクションの違いは何ですか?
直接型は、AIを使う本人が決まりを破らせるために入力するものです。間接型は、AIに読ませるWebページや文書などの内容に仕込まれ、それを使う人を狙います。事業にとって脅威になるのは間接型です。
AIエージェントが、隠された指示のあるメールを要約するとどうなりますか?
指示に従ってしまう可能性があります。2024年と2025年の記録された事例では、要約を頼まれたアシスタントが、そのまま非公開ファイルを検索し、秘密を明かし、データを外へ送りました。成功するかどうかは製品の安全策と、エージェントがアクセスできる範囲によります。アクセスを限定することが大切なのはそのためです。
プロンプトインジェクションは解決できますか?
現在の証拠では、完全には解決できません。National Cyber Security Centre はこの種の攻撃は完全には緩和できないかもしれないと述べており、Anthropic、OpenAI、Microsoft もこの問題は未解決だと述べています。安全策は成功率を下げます。エージェントが届く範囲を限ることが、被害を小さくします。
プロンプトインジェクションはジェイルブレイクと同じですか?
重なる部分があります。ジェイルブレイクは通常、ユーザーがAIを説得して安全上の決まりを無視させることを指します。プロンプトインジェクションは、第三者が仕込んだ文章を含め、AIの動作を意図しない形で変えるあらゆる入力を指します。ジェイルブレイクは直接プロンプトインジェクションの一種です。
プロンプトインジェクションから自社を守るには?
AIツールには必要最小限のアクセスだけを与え、支払いや送信メッセージは人が承認し、1つのアシスタントに非公開データの読み取り、見知らぬ人の内容の読み取り、外部への送信を同じ作業でさせず、エージェント作業には別のブラウザプロファイルを使ってください。ルールはAIポリシーに書き込みましょう。
そもそもAIエージェントを使っても安全ですか?
はい、監督と適切な仕事選びがあれば安全に使えます。調査、下書き、Webサイトの制作など、非公開データがほとんど関わらない仕事から始め、動作を見て止められるツールを使ってください。Jobbit ならエージェントの作業を見守り、操作を引き継げます。無料プランは1日100クレジットで、カードは不要です。