什么是提示词注入(prompt injection)?AI 智能体遭遇的 7 起真实攻击
什么是提示词注入?用通俗语言讲清隐藏文字如何劫持 AI 智能体,附 2024 和 2025 年 7 起有记录的攻击,以及 9 种你可以马上采用的防御办法。

提示词注入(prompt injection)是指 AI 读到的文字(可能在邮件、网页或文档里)被当作指令,从而改变了 AI 的行为。英国国家网络安全中心(National Cyber Security Centre,NCSC)在 2025 年 12 月表示,这类攻击"可能永远无法被彻底缓解",而所有主要厂商都承认这个问题尚未解决。本文用通俗语言讲解这个问题,展示 7 起有记录的攻击,并给出小企业今天就能采用的 9 种防御办法。
你让 AI 助手总结今早的邮件。其中一封来自陌生地址的邮件里藏着一行你看不到的字:白底白字,要求助手找出你最近的发票并发到别处。助手分不清这一行和你的请求,因为两者都只是文字。这就是提示词注入,而且它越来越重要,因为这些工具已经从回答问题转向了动手做事:读取收件箱、打开文件、在浏览器里点击按钮。政府在 2026 年 4 月发布的《网络安全漏洞调查》(Cyber Security Breaches Survey)发现,31% 的英国企业正在使用、采用或考虑使用 AI,而其中只有 24% 设有管理其安全风险的流程。
下文内容:我们如何核查本文、通俗讲解这一概念、用表格列出 7 起真实攻击、隐藏指令藏在哪里、为什么智能体让风险更高、厂商自己承认了什么、9 种防御办法、值得修改的设置,以及如何安全地继续使用智能体。
看得见的智能体更容易信任。在 Jobbit 上,你可以在智能体工作时看到它的浏览器,并随时接管,计划模式会在任何操作执行前展示步骤。免费方案,每天 100 积分,无需绑卡。
我们如何核查本文
- 一手资料,于 2026 年 11 月 13 日阅读。 OWASP 的 AI 应用风险清单、National Cyber Security Centre、美国标准机构 NIST、Information Commissioner's Office(英国信息专员办公室,ICO),以及 Microsoft、Google 和 Anthropic 的安全文章。
- 每起攻击都追溯到披露它的研究人员。 原始文章无法打开的地方,表格中已注明。
- 只谈防御。 本文只在官方资料公开的层面描述攻击原理,不包含任何可用的攻击文本。
- 厂商的引文均为其自己的原话,取自它们的安全博客和研究页面,而非营销材料。
- 不声称任何产品能免疫,包括我们自己的产品。
通俗讲解提示词注入
OWASP 是知名软件安全风险清单背后的机构,它把提示词注入(prompt injection)排在 AI 应用风险清单的第一位,并这样定义:一种"在用户提示词以非预期方式改变 LLM 的行为或输出时出现"的漏洞。它把问题分成两类。
- 直接提示词注入。 打字的人就是攻击者,试图说服 AI 违背自己的规则。这主要是厂商要解决的问题。
- 间接提示词注入。 指令藏在 AI 被要求读取的内容里。OWASP 把它描述为来自"网站或文件等外部来源"的输入。使用 AI 的人是受害者。这是你要面对的问题。
根本原因不难说清。NIST 解释说,这些模型"把数据通道和指令通道合在了一起"。普通程序会把命令和内容分开,而语言模型收到的是一长串文字,由它自己决定哪些部分重要。
这个名称可追溯到 2022 年 9 月 12 日,开发者 Simon Willison 写道:"我提议这个问题显而易见的名字就是 prompt injection。"它呼应了一种更早的数据库攻击,而 National Cyber Security Centre 提醒不要把这种类比推得太远。数据库注入有已知的修复办法。对于语言模型,该中心建议把它看作"天生容易被混淆的代理人"(inherently confusable deputy):一个拥有你的权限、却可能被说动去替别人办事的助手。
一览 7 起真实攻击
| 披露时间 | 产品 | 指令藏在哪里 | 攻击者能做什么 | 后来发生了什么 |
|---|---|---|---|---|
| 2024 年 8 月 | Slack AI | 公开频道里的一条消息 | 让受害者看到一个链接,点击后泄露私密机密 | 据研究人员称,Slack 称该行为属于预期设计 |
| 2025 年 5 月 | 连接了 GitHub 的智能体 | 公开代码仓库里的一个 issue | 把私有仓库的数据拉到公开位置 | 没有补丁,建议收窄权限 |
| 2025 年 6 月 | Microsoft 365 Copilot | 一封邮件,无需点击 | 通过网络泄露信息 | 已由 Microsoft 修复,编号 CVE-2025-32711 |
| 2025 年 8 月 | Google Gemini | 日历邀请的标题 | 删除日程、发送消息、控制智能家居设备 | Google 增加了确认步骤和过滤 |
| 2025 年 8 月 | 连接文件的 ChatGPT | 共享文档里的微小白色文字 | 在已连接的云盘中搜索密钥并泄露 | OpenAI 增加了一项检查,研究人员称这还不够 |
| 2025 年 8 月 | Perplexity 的 Comet 浏览器 | 网页上的一条隐藏注释 | 从邮件中读取一次性验证码并接管账户 | 已打补丁,随后又被报告未完全修复 |
| 2025 年 9 月 | Salesforce Agentforce | 网页表单的说明框 | 把客户记录发送到外部地址 | Salesforce 强制使用可信地址列表 |
研究人员依次为 PromptArmor、Invariant Labs、Microsoft 漏洞记录中署名的团队、SafeBreach、Zenity Labs、Brave 和 Noma Labs。Microsoft 365 Copilot 一案是根据公开的漏洞记录和一篇学术论文来描述的,因为原始文章我们无法打开。
有三点很突出。每个产品都来自大型、谨慎的公司。受害者都没有做任何反常的事:他们只是请求摘要、接受邀请或收到一封邮件。而且研究人员认为其中好几项修复只是部分修复。
隐藏指令藏在哪里
下面每一项都来自上述披露之一或某个官方来源。
- 网页。 白底白字、页面代码里的注释、折叠标签后面的文字。
- 邮件。 正文中的不可见文字。Anthropic 的安全页面警告说,"待办清单或邮件可能含有不可见的文字"。
- 日历邀请。 在日程标题里,展开之前看不到。
- 共享文档。 在发给你审阅的文件中,一个像素大小的白色文字。
- 网页表单。 一个"告诉我们你的咨询内容"的输入框,直接接入你的客户系统。
- 聊天频道和代码仓库。 任何陌生人能发帖、而你的助手能读取的地方。
- 图片。 OWASP 列出了嵌在图片中的指令,图片旁边配的是无害的文字。
- 工具描述。 Information Commissioner's Office 称之为"工具投毒(tool poisoning),即隐藏在 AI 智能体所交互工具的元数据中"。
规律是:AI 代你读取的任何东西都是一个入口,而这些文字你自己看不到。
为什么智能体让风险更高
被骗的聊天机器人只会给出错误的回答,被骗的智能体却会采取错误的行动。Simon Willison 在 2025 年 6 月点明了这种危险组合:"能访问你的私人数据"、"接触不可信内容"和"能够对外通信"。他把它称为致命三要素(lethal trifecta)。同时具备这三点的助手,可能被陌生人指使去找出私密内容并发送出去。
回头看表格。每起攻击都同时具备这三点。摘要功能能读取私人消息,它读到了陌生人的消息,而且它能显示链接。去掉三者中的任何一个,攻击就会失败。
National Cyber Security Centre 在 2026 年 5 月发布的智能体 AI 报告对组织也表达了同样的意思:"如果智能体权限过大或设计不当,一次失误就可能迅速演变成严重事件。"我们关于计算机操作智能体的说明文章介绍了这些工具现在能做什么。
厂商自己承认了什么
这不是业界藏着掖着的问题。
- Anthropic 在 2025 年 11 月发布的研究中称提示词注入"远未解决",并写道"没有任何浏览器智能体能免疫提示词注入"。它公布了自己的数据:面对持续的自动化攻击者,其最佳模型在开启防护的情况下有 1.4% 的概率被骗,并表示即使是 1% 也"仍然是有意义的风险"。
- OpenAI 的首席信息安全官在 2025 年 10 月将其描述为"一个前沿的、尚未解决的安全问题"。
- Microsoft 的安全响应团队在 2025 年 7 月写道,其方法"并不依赖于我们拦截所有提示词注入的能力"。2026 年 5 月 Microsoft 的一篇安全文章说得更直接:"你的 LLM 不是安全边界。"
- Google 在 2025 年 6 月介绍了一种分层防御:分类器、链接过滤,以及在高风险操作前请用户确认。
- National Cyber Security Centre 建议对任何声称能阻止它的厂商保持怀疑。
当制造者自己都说锁可以被撬开时,就应当按总有一天会被撬开来做打算。
小企业今天就能用的 9 种防御办法
- 只给智能体完成工作所需的最小权限。 National Cyber Security Centre 说,应让智能体"只拥有所需的最低权限,且时间尽可能短"。起草回复的助手不需要有发送回复的权限。
- 打破三要素。 不要让同一个助手在同一项任务里既读取私人数据、又读取陌生人的内容、还往外发送东西。在一次会话中总结收件箱,发送则由你自己在另一次会话中完成。
- 凡是重要的事都让人参与。 OWASP 建议对"高风险或特权操作"进行人工审核。包括付款、删除,以及发给客户的任何内容。
- 把 AI 读到的内容视为不可信。 网页、附件和陌生发件人的邮件都只是内容,绝不是命令。
- 把 AI 写出的内容也视为不可信。 不要点击 AI 摘要中要求"重新验证身份"的链接。那正是 Slack 攻击的手法。
- 为智能体工作使用单独的浏览器配置文件。 Anthropic 自己的安全建议是:使用一个没有登录任何银行、医疗或政府账户的配置文件。
- 盯着它工作。 如果任务跑偏,比如摘要变成了搜索你的文件,就立即停止。值得保留智能体读取和执行内容的日志。
- 从低风险工作开始。 该中心的建议是"从小处着手,只让智能体做低风险任务"。先做调研和起草,再碰发票和邮件。
- 把它写进你的 AI 政策。 谁可以把哪个工具连接到哪个账户,谁可以关闭它。我们的 AI 政策模板里有现成的措辞。
这些都不需要安全团队。它们和不打开陌生人发来的附件是同样的习惯,只是用在了一种新型助手身上。
值得修改的设置
- 审批模式。 Anthropic 的帮助页面说,Claude in Chrome 可以设为 "Manually approve"(手动批准),让你审核每一个操作,并且你可以授予或移除它对特定网站的访问权限。
- 未登录浏览。 OpenAI 的安全负责人介绍了其 Atlas 浏览器智能体的未登录模式,智能体在不使用你账户的情况下工作。对不熟悉的网站做调研时可以使用。
- 连接器。 你每连接一个文件存储、邮箱和日历,被注入的指令能触及的范围就更大一分。只连接任务需要的,用完就断开。
- 自动批准。 任何"始终允许"选项都是拿安全换速度。2025 年的一次披露指出,它恰恰隐藏了你本想看到的那一步。
如何安全地继续使用智能体
这一切都不是停用的理由,而是选择有监督的工具和合适工作的理由。ChatGPT、Claude、Gemini、Microsoft Copilot、Manus 和 Meta 的 Muse 都面临同样的问题,Jobbit 也一样。你能选择的是,你能看到和叫停多少。
- 观看并接管。 Jobbit 智能体的浏览器在工作时是可见的,你可以随时接管。我们的智能体浏览器指南介绍了方法。
- 先规划再行动。 计划模式会在任何操作执行前列出步骤供你批准,详见我们关于引导智能体的指南。
- 从没有三要素的工作开始。 建网站、写文档、调研市场和做电子表格,几乎不涉及私人数据,也没有代你发出的内容。
- 别把机密放进聊天。 项目中包含专门存放机密的地方,所以密钥和密码不需要粘贴到对话里。
- 把有风险的部分交给真人。 人工网络中经过审核的专业人士可以完成需要判断的那一步,款项由托管账户代管。
诚实的立场就是厂商们的立场:没有哪个智能体能免疫。监督和有限的权限,才能避免一个被骗的智能体酿成事故。
英国的情况
Information Commissioner's Office 在 2026 年 5 月发布了五个步骤,帮助组织防范 AI 驱动的威胁:了解你面对的是什么、做好基础工作并分层防御、限制访问入口、改进检测和响应、保护个人数据。它把间接提示词注入描述为"嵌入在 AI 系统所处理的外部内容中"的恶意指令。
普通风险的规模可见于《2025/2026 年网络安全漏洞调查》:43% 的英国企业报告在过去十二个月内遭遇过入侵或攻击,样本为 2,112 家企业。提示词注入只是众多旧途径之外的一条新途径。我们关于针对小企业的 AI 诈骗的指南介绍了其他途径。
接下来阅读
常见问题
简单来说,什么是提示词注入?
就是 AI 所读内容中的文字被当成了指令。AI 无法可靠地区分你的请求和邮件、网页或文件里的文字,所以一行隐藏的文字就能改变它的行为。OWASP 把它列为 AI 应用风险清单中的第一项风险。
直接提示词注入和间接提示词注入有什么区别?
直接注入是使用 AI 的人亲手输入的,目的是让它违反自己的规则。间接注入则是埋在 AI 被要求读取的内容里,比如网页或文档,针对的是使用它的人。威胁企业的是间接注入。
如果 AI 智能体总结一封带有隐藏指令的邮件,会发生什么?
它可能会照做。在 2024 和 2025 年有记录的案例中,被要求做摘要的助手接着去搜索私人文件、泄露机密或把数据发送出去。能否得逞取决于产品的防护措施以及智能体能访问什么,这就是限制权限很重要的原因。
提示词注入能被修复吗?
就目前的证据来看,无法彻底修复。National Cyber Security Centre 表示这类攻击可能永远无法被彻底缓解,Anthropic、OpenAI 和 Microsoft 也都说过这个问题尚未解决。防护措施能降低成功率,限制智能体能触及的范围则能限制损害。
提示词注入和越狱是一回事吗?
两者有重叠。越狱通常指用户说服 AI 无视其安全规则。提示词注入涵盖任何以非预期方式改变 AI 行为的输入,包括第三方埋入的文字。越狱是直接提示词注入的一种。
如何保护我的企业免受提示词注入影响?
只给 AI 工具所需的最小权限,让真人批准付款和对外发送的消息,绝不让同一个助手在同一项任务里既读取私人数据、又读取陌生人的内容、还往外发送东西,并为智能体工作使用单独的浏览器配置文件。把这些规则写进 AI 政策。
完全使用 AI 智能体安全吗?
在有监督、工作选得合适的前提下是安全的。先从涉及私人数据很少的工作开始,比如调研、起草和建网站,并使用能让你看到并叫停其操作的工具。在 Jobbit 上你可以观看智能体工作并接管,免费方案每天 100 积分,无需绑卡。