Preparing your workspace
Jobbit
Cẩm nang17 phút đọc

Prompt injection là gì? 7 vụ tấn công AI agent có thật

Prompt injection là gì? Hướng dẫn dễ hiểu về cách văn bản ẩn chiếm quyền một AI agent, 7 vụ tấn công đã được ghi nhận năm 2024 và 2025, cùng 9 cách phòng thủ bạn có thể dùng.

Prompt injection là gì? 7 vụ tấn công AI agent có thật
Đọc bằng:

Tấn công chèn lệnh (prompt injection) xảy ra khi văn bản mà AI đọc, trong email, trang web hay tài liệu, bị coi là một chỉ thị và làm thay đổi hành vi của AI. Trung tâm An ninh mạng Quốc gia của Vương quốc Anh (National Cyber Security Centre, NCSC) cho biết vào tháng 12 năm 2025 rằng các cuộc tấn công này "có thể không bao giờ được giảm thiểu hoàn toàn", và mọi nhà cung cấp lớn đều đồng ý rằng vấn đề vẫn chưa được giải quyết. Hướng dẫn này giải thích bằng ngôn ngữ dễ hiểu, trình bày 7 vụ tấn công đã được ghi nhận và đưa ra 9 cách phòng thủ mà doanh nghiệp nhỏ có thể áp dụng ngay hôm nay.

Bạn nhờ trợ lý AI tóm tắt email sáng nay. Một thư, từ địa chỉ bạn không quen, chứa một dòng mà bạn không bao giờ nhìn thấy: chữ trắng trên nền trắng, bảo trợ lý tìm các hóa đơn gần nhất của bạn rồi gửi đi nơi khác. Trợ lý không phân biệt được dòng đó với yêu cầu của bạn. Cả hai chỉ là chữ. Đó chính là prompt injection, và nó ngày càng quan trọng, vì các công cụ đã chuyển từ trả lời câu hỏi sang làm việc thực sự: đọc hộp thư, mở tệp, bấm nút trong trình duyệt. Khảo sát Cyber Security Breaches Survey của chính phủ, công bố vào tháng 4 năm 2026, cho thấy 31% doanh nghiệp Anh đang dùng, áp dụng hoặc cân nhắc AI, và chỉ 24% trong số đó có quy trình quản lý rủi ro bảo mật của AI.

Dưới đây: cách chúng tôi kiểm chứng hướng dẫn này, ý tưởng cốt lõi bằng ngôn ngữ dễ hiểu, 7 vụ tấn công có thật trong một bảng, nơi các chỉ thị ẩn nấp, vì sao agent làm rủi ro tăng lên, những gì chính các nhà cung cấp thừa nhận, 9 cách phòng thủ, các thiết lập nên đổi và cách tiếp tục dùng agent một cách an toàn.

Một agent mà bạn có thể theo dõi thì dễ tin hơn. Trên Jobbit bạn thấy được trình duyệt của agent khi nó làm việc và có thể tiếp quản bất cứ lúc nào, còn chế độ Plan hiển thị các bước trước khi có gì được chạy. Gói miễn phí, 100 credit mỗi ngày, không cần thẻ.

Cách chúng tôi kiểm chứng hướng dẫn này

  1. Nguồn gốc, đọc vào ngày 13 tháng 11 năm 2026. Danh sách rủi ro của OWASP cho ứng dụng AI, National Cyber Security Centre, tổ chức tiêu chuẩn NIST của Hoa Kỳ, Information Commissioner's Office (ICO, cơ quan bảo vệ dữ liệu của Vương quốc Anh), và các bài viết về bảo mật của Microsoft, Google và Anthropic.
  2. Mỗi vụ tấn công được truy về nhóm nghiên cứu đã công bố. Khi bài viết gốc không tải được, bảng sẽ ghi rõ.
  3. Chỉ về phòng thủ. Hướng dẫn này mô tả cách các cuộc tấn công hoạt động ở mức các nguồn chính thức vẫn công bố. Không có đoạn văn bản tấn công nào dùng được.
  4. Các trích dẫn của nhà cung cấp là lời của chính họ, lấy từ blog bảo mật và trang nghiên cứu của họ, không phải từ quảng cáo.
  5. Không khẳng định sản phẩm nào miễn nhiễm, kể cả sản phẩm của chúng tôi.

Prompt injection bằng ngôn ngữ dễ hiểu

OWASP, tổ chức đứng sau danh sách rủi ro bảo mật phần mềm nổi tiếng nhất, xếp prompt injection đứng đầu danh sách dành cho ứng dụng AI và định nghĩa nó như sau: một lỗ hổng "xảy ra khi lời nhắc của người dùng làm thay đổi hành vi hoặc kết quả đầu ra của LLM theo những cách không mong muốn". Tổ chức này chia vấn đề làm hai.

  • Direct prompt injection (chèn lệnh trực tiếp). Người gõ chính là kẻ tấn công. Họ cố thuyết phục AI từ bỏ các quy tắc của nó. Đây chủ yếu là vấn đề của nhà cung cấp.
  • Indirect prompt injection (chèn lệnh gián tiếp). Chỉ thị nằm bên trong thứ mà AI được yêu cầu đọc. OWASP mô tả đó là đầu vào "từ các nguồn bên ngoài, chẳng hạn trang web hoặc tệp". Người dùng AI là nạn nhân. Đây là vấn đề của bạn.

Nguyên nhân gốc rất dễ nói. NIST giải thích rằng các mô hình này "kết hợp kênh dữ liệu và kênh chỉ thị". Một chương trình thông thường tách riêng lệnh và nội dung. Mô hình ngôn ngữ nhận một dòng văn bản dài duy nhất và tự quyết định phần nào quan trọng.

Cái tên này có từ ngày 12 tháng 9 năm 2022, khi nhà phát triển Simon Willison viết: "Tôi đề xuất rằng cái tên hiển nhiên cho việc này là prompt injection." Nó gợi nhớ một kiểu tấn công cũ nhắm vào cơ sở dữ liệu, và National Cyber Security Centre cảnh báo đừng kéo phép so sánh đi quá xa. Chèn lệnh vào cơ sở dữ liệu đã có cách sửa rõ ràng. Với mô hình ngôn ngữ, trung tâm gợi ý nên nghĩ đến một "inherently confusable deputy" (người đại diện vốn dễ bị nhầm lẫn): một người trợ giúp có quyền truy cập của bạn nhưng có thể bị dụ làm việc cho người khác.

7 vụ tấn công có thật trong một cái nhìn

Thời điểm công bốSản phẩmNơi chỉ thị ẩn nấpKẻ tấn công có thể làm gìĐiều gì đã thay đổi
Tháng 8 năm 2024Slack AIMột tin nhắn trong kênh công khaiKhiến một bí mật riêng tư hiện ra cho nạn nhân dưới dạng liên kết để bấmSlack gọi hành vi này là có chủ đích, theo các nhà nghiên cứu
Tháng 5 năm 2025Một agent kết nối với GitHubMột issue trong kho mã công khaiKéo dữ liệu kho riêng tư ra nơi công khaiKhông có bản vá; khuyến nghị thu hẹp quyền
Tháng 6 năm 2025Microsoft 365 CopilotMột email, không cần bấm gìLàm lộ thông tin qua mạngMicrosoft đã sửa, được theo dõi dưới mã CVE-2025-32711
Tháng 8 năm 2025Google GeminiTiêu đề của một lời mời lịchXóa sự kiện, gửi tin nhắn, điều khiển thiết bị nhà thông minhGoogle bổ sung bước xác nhận và lọc
Tháng 8 năm 2025ChatGPT với các tệp được kết nốiChữ trắng rất nhỏ trong tài liệu được chia sẻTìm khóa trong ổ đĩa đã kết nối rồi làm rò rỉOpenAI thêm một bước kiểm tra mà các nhà nghiên cứu cho là chưa đủ
Tháng 8 năm 2025Trình duyệt Comet của PerplexityMột bình luận ẩn trên trang webĐọc mã dùng một lần từ email và chiếm tài khoảnĐã vá, sau đó có báo cáo là chưa sửa hết
Tháng 9 năm 2025Salesforce AgentforceÔ mô tả trên một biểu mẫu webGửi hồ sơ khách hàng tới địa chỉ bên ngoàiSalesforce áp dụng danh sách địa chỉ tin cậy

Các nhà nghiên cứu lần lượt là PromptArmor, Invariant Labs, nhóm được ghi nhận trong bản ghi lỗ hổng của Microsoft, SafeBreach, Zenity Labs, Brave và Noma Labs. Trường hợp Microsoft 365 Copilot được mô tả dựa trên bản ghi lỗ hổng công khai và một bài báo học thuật, vì bài viết gốc không tải được với chúng tôi.

Có ba điều nổi bật. Mọi sản phẩm đều đến từ một công ty lớn và cẩn trọng. Không nạn nhân nào phải làm điều gì bất thường: họ nhờ tóm tắt, chấp nhận một lời mời hoặc nhận một email. Và nhiều bản sửa được các nhà nghiên cứu mô tả là chỉ sửa một phần.

Nơi các chỉ thị ẩn nấp

Mỗi mục dưới đây đến từ một trong các vụ công bố ở trên hoặc từ một nguồn chính thức.

  • Trang web. Chữ trắng trên nền trắng, bình luận trong mã trang, văn bản nằm sau thẻ spoiler.
  • Email. Văn bản vô hình trong nội dung thư. Trang an toàn của Anthropic cảnh báo rằng "một danh sách việc cần làm hoặc một email có thể chứa văn bản vô hình".
  • Lời mời lịch. Trong tiêu đề sự kiện, khuất tầm nhìn cho đến khi mở rộng ra.
  • Tài liệu được chia sẻ. Chữ trắng cỡ một pixel trong tệp bạn được gửi để xem lại.
  • Biểu mẫu web. Một ô "hãy cho chúng tôi biết về yêu cầu của bạn" đổ dữ liệu vào hệ thống khách hàng của bạn.
  • Kênh trò chuyện và kho mã. Bất cứ nơi nào người lạ có thể đăng bài và trợ lý của bạn có thể đọc.
  • Hình ảnh. OWASP nêu trường hợp một chỉ thị được nhúng trong bức ảnh đi kèm văn bản vô hại.
  • Mô tả công cụ. Information Commissioner's Office gọi đây là "tool poisoning (đầu độc công cụ), khi chỉ thị bị giấu trong siêu dữ liệu của các công cụ mà một AI agent tương tác".

Quy luật là: bất cứ thứ gì AI đọc thay bạn đều là một lối vào, và bạn sẽ không tự nhìn thấy đoạn văn bản đó.

Vì sao agent làm rủi ro tăng lên

Một chatbot bị lừa sẽ đưa ra câu trả lời sai. Một agent bị lừa sẽ thực hiện hành động sai. Simon Willison đã đặt tên cho tổ hợp nguy hiểm này vào tháng 6 năm 2025: "quyền truy cập dữ liệu riêng tư của bạn", "tiếp xúc với nội dung không đáng tin" và "khả năng giao tiếp ra bên ngoài". Ông gọi nó là lethal trifecta (bộ ba chết người). Một trợ lý có đủ cả ba có thể bị người lạ sai đi tìm thứ riêng tư rồi gửi ra ngoài.

Hãy nhìn lại bảng. Mọi cuộc tấn công đều có đủ cả ba. Tính năng tóm tắt đọc được tin nhắn riêng tư, nó đọc tin nhắn của một người lạ, và nó có thể hiển thị một liên kết. Bỏ đi bất kỳ một trong ba yếu tố, cuộc tấn công sẽ thất bại.

Bài báo tháng 5 năm 2026 của National Cyber Security Centre về AI dạng agent cũng nêu cùng điểm này cho các tổ chức: "Nếu một agent có quá nhiều quyền hoặc được thiết kế kém, một lỗi đơn lẻ có thể nhanh chóng trở thành sự cố nghiêm trọng." Bài giải thích của chúng tôi về agent điều khiển máy tính nói về những gì các công cụ này giờ có thể làm.

Những gì chính các nhà cung cấp thừa nhận

Đây không phải là vấn đề mà ngành công nghiệp che giấu.

  • Anthropic, trong nghiên cứu công bố vào tháng 11 năm 2025, gọi prompt injection là "còn lâu mới là vấn đề đã được giải quyết" và viết rằng "không có browser agent nào miễn nhiễm với prompt injection". Họ công bố chính số liệu của mình: trước một kẻ tấn công tự động bền bỉ, mô hình tốt nhất của họ bị lừa 1.4% số lần khi bật các biện pháp bảo vệ, và họ nói rằng ngay cả 1% "vẫn là rủi ro đáng kể".
  • Giám đốc an ninh thông tin của OpenAI mô tả nó vào tháng 10 năm 2025 là "một vấn đề bảo mật tiên phong, chưa được giải quyết".
  • Nhóm phản ứng bảo mật của Microsoft viết vào tháng 7 năm 2025 rằng cách tiếp cận của họ "không dựa vào khả năng chặn mọi prompt injection". Một bài về bảo mật của Microsoft vào tháng 5 năm 2026 nói thẳng hơn: "LLM của bạn không phải là ranh giới bảo mật."
  • Google mô tả một cơ chế phòng thủ nhiều lớp vào tháng 6 năm 2025: bộ phân loại, lọc liên kết và yêu cầu người dùng xác nhận các hành động rủi ro.
  • National Cyber Security Centre khuyên nên hoài nghi trước bất kỳ nhà cung cấp nào tuyên bố có thể ngăn chặn nó.

Khi chính người chế tạo nói rằng ổ khóa có thể bị bẻ, hãy lên kế hoạch với giả định rằng một ngày nào đó nó sẽ bị bẻ.

9 cách phòng thủ doanh nghiệp nhỏ có thể dùng ngay hôm nay

  1. Chỉ cấp cho agent quyền truy cập tối thiểu đủ để làm việc. National Cyber Security Centre khuyên chỉ cấp cho agent "quyền truy cập tối thiểu mà chúng cần, trong thời gian ngắn nhất cần thiết". Một trợ lý soạn thư trả lời không cần quyền gửi thư.
  2. Phá vỡ bộ ba. Đừng để một trợ lý vừa đọc dữ liệu riêng tư, vừa đọc nội dung của người lạ, vừa gửi thứ ra ngoài trong cùng một nhiệm vụ. Tóm tắt hộp thư trong một phiên; còn việc gửi thì bạn tự làm ở phiên khác.
  3. Luôn có một người trong vòng kiểm soát với mọi việc quan trọng. OWASP khuyến nghị con người xem xét "đối với các hành động có rủi ro cao hoặc đặc quyền". Thanh toán, xóa dữ liệu, mọi thứ gửi đến khách hàng.
  4. Coi những gì AI đọc là không đáng tin. Một trang web, một tệp đính kèm và một email từ người gửi lạ đều là nội dung, không bao giờ là mệnh lệnh.
  5. Coi cả những gì AI viết ra cũng không đáng tin. Đừng bấm vào liên kết trong bản tóm tắt của AI để "xác thực lại". Đó chính là cuộc tấn công vào Slack.
  6. Dùng hồ sơ trình duyệt riêng cho công việc của agent. Lời khuyên an toàn của chính Anthropic là dùng một hồ sơ không đăng nhập tài khoản ngân hàng, y tế hay chính phủ nào.
  7. Theo dõi nó làm việc. Nếu nhiệm vụ lệch hướng, chẳng hạn một bản tóm tắt biến thành việc tìm kiếm trong tệp của bạn, hãy dừng nó lại. Nhật ký về những gì agent đã đọc và đã làm đáng được lưu giữ.
  8. Bắt đầu bằng các việc ít rủi ro. Lời khuyên của trung tâm là "bắt đầu từ nhỏ, chỉ dùng agent cho các nhiệm vụ rủi ro thấp". Nghiên cứu và soạn thảo trước, hóa đơn và email sau.
  9. Ghi vào chính sách AI của bạn. Ai được kết nối công cụ nào với tài khoản nào, và ai có thể tắt nó. Mẫu chính sách AI của chúng tôi có sẵn cách diễn đạt.

Không việc nào trong số này cần đến một đội ngũ bảo mật. Chúng cũng là những thói quen như không mở tệp đính kèm từ người lạ, chỉ là áp dụng cho một kiểu trợ lý mới.

Những thiết lập nên đổi

  • Chế độ phê duyệt. Các trang trợ giúp của Anthropic cho biết Claude in Chrome có thể đặt ở chế độ "Manually approve" (phê duyệt thủ công) để bạn xem xét từng hành động, và bạn có thể cấp hoặc thu hồi quyền truy cập của nó vào các trang cụ thể.
  • Duyệt web khi chưa đăng nhập. Giám đốc bảo mật của OpenAI mô tả một chế độ đăng xuất cho agent trình duyệt Atlas của họ, trong đó agent làm việc mà không có tài khoản của bạn. Hãy dùng nó để nghiên cứu trên những trang bạn không biết.
  • Trình kết nối. Mỗi kho tệp, hộp thư và lịch bạn kết nối sẽ mở rộng phạm vi mà một chỉ thị bị chèn có thể chạm tới. Chỉ kết nối những gì nhiệm vụ cần, rồi ngắt kết nối.
  • Phê duyệt tự động. Mọi tùy chọn "luôn cho phép" đều đổi an toàn lấy tốc độ. Một trong các vụ công bố năm 2025 ghi nhận rằng nó giấu đúng bước mà bạn muốn nhìn thấy.

Cách tiếp tục dùng agent một cách an toàn

Không điều nào ở trên là lý do để dừng lại. Đó là lý do để chọn công cụ có giám sát và những việc hợp lý. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus và Muse của Meta đều gặp cùng một vấn đề, Jobbit cũng vậy. Điều bạn có thể chọn là mức độ bạn nhìn thấy và dừng được.

  • Theo dõi và tiếp quản. Trình duyệt của agent Jobbit hiển thị khi nó làm việc, và bạn có thể tiếp quản bất cứ lúc nào. Hướng dẫn về trình duyệt của agent cho thấy cách làm.
  • Lập kế hoạch trước khi hành động. Chế độ Plan trình bày các bước để bạn duyệt trước khi có gì được chạy, như giải thích trong hướng dẫn về cách điều hướng một agent.
  • Bắt đầu với công việc không có bộ ba. Xây dựng website, viết tài liệu, nghiên cứu thị trường và làm bảng tính hầu như không dính dữ liệu riêng tư và không có gì được gửi thay mặt bạn.
  • Giữ bí mật ngoài khung trò chuyện. Các dự án có sẵn một nơi riêng cho bí mật, nên khóa và mật khẩu không cần dán vào cuộc trò chuyện.
  • Giao phần rủi ro cho một con người. Một chuyên gia đã được kiểm duyệt từ mạng lưới con người có thể làm bước cần phán đoán, với khoản thanh toán được giữ trong tài khoản ký quỹ.

Quan điểm trung thực chính là quan điểm của các nhà cung cấp: không agent nào miễn nhiễm. Sự giám sát và quyền truy cập hạn chế là thứ ngăn một agent bị lừa trở thành một sự cố.

Bức tranh tại Vương quốc Anh

Information Commissioner's Office đã công bố vào tháng 5 năm 2026 năm bước để bảo vệ một tổ chức trước các mối đe dọa dùng AI: hiểu mình đang đối đầu với điều gì, làm tốt những điều cơ bản và phòng thủ nhiều lớp, hạn chế các điểm truy cập, cải thiện phát hiện và ứng phó, và bảo vệ dữ liệu cá nhân. Cơ quan này mô tả indirect prompt injection là các chỉ thị độc hại "được nhúng trong nội dung bên ngoài mà một hệ thống AI xử lý".

Quy mô của rủi ro thông thường nằm trong Cyber Security Breaches Survey 2025/2026: 43% doanh nghiệp Anh báo cáo bị xâm phạm hoặc tấn công trong mười hai tháng trước đó, từ mẫu gồm 2,112 doanh nghiệp. Prompt injection chỉ là một con đường mới giữa nhiều con đường cũ. Hướng dẫn của chúng tôi về các vụ lừa đảo bằng AI nhắm vào doanh nghiệp nhỏ nói về những con đường còn lại.

Đọc tiếp

Câu hỏi thường gặp

Prompt injection là gì, nói đơn giản?

Đó là khi những từ nằm bên trong thứ AI đọc bị coi là một chỉ thị. AI không thể phân biệt đáng tin cậy yêu cầu của bạn với văn bản trong email, trang web hay tệp, nên một dòng ẩn có thể thay đổi hành vi của nó. OWASP xếp nó là rủi ro đầu tiên trong danh sách dành cho ứng dụng AI.

Direct và indirect prompt injection khác nhau thế nào?

Direct injection do chính người dùng AI gõ vào để khiến nó phá vỡ quy tắc. Indirect injection được cài vào nội dung mà AI được yêu cầu đọc, chẳng hạn một trang web hoặc tài liệu, và nhắm vào người đang dùng nó. Indirect injection mới là loại đe dọa doanh nghiệp.

Chuyện gì xảy ra nếu một AI agent tóm tắt email có chứa chỉ thị ẩn?

Nó có thể làm theo. Trong các trường hợp đã được ghi nhận từ năm 2024 và 2025, các trợ lý được nhờ tóm tắt đã tiếp tục tìm tệp riêng tư, tiết lộ bí mật hoặc gửi dữ liệu ra ngoài. Có thành công hay không phụ thuộc vào các biện pháp bảo vệ của sản phẩm và vào những gì agent được truy cập, đó là lý do quyền truy cập hạn chế quan trọng.

Prompt injection có thể được khắc phục không?

Theo bằng chứng hiện nay thì không hoàn toàn. National Cyber Security Centre cho biết các cuộc tấn công này có thể không bao giờ được giảm thiểu hoàn toàn, và Anthropic, OpenAI cùng Microsoft đều nói vấn đề này chưa được giải quyết. Các biện pháp bảo vệ làm giảm tỷ lệ thành công. Giới hạn những gì agent có thể chạm tới sẽ giới hạn thiệt hại.

Prompt injection có giống jailbreak không?

Chúng chồng lấn nhau. Jailbreak thường là người dùng thuyết phục AI bỏ qua các quy tắc an toàn của nó. Prompt injection bao gồm mọi đầu vào làm thay đổi hành vi của AI theo cách không mong muốn, kể cả văn bản do bên thứ ba cài vào. Jailbreak là một dạng của direct prompt injection.

Làm sao để bảo vệ doanh nghiệp của tôi khỏi prompt injection?

Chỉ cấp cho công cụ AI quyền truy cập tối thiểu chúng cần, luôn có người duyệt các khoản thanh toán và tin nhắn gửi đi, không bao giờ để một trợ lý vừa đọc dữ liệu riêng tư, vừa đọc nội dung của người lạ, vừa gửi thứ ra ngoài trong cùng một nhiệm vụ, và dùng hồ sơ trình duyệt riêng cho công việc của agent. Hãy ghi các quy tắc vào chính sách AI.

Dùng AI agent có an toàn không?

Có, với sự giám sát và đúng loại việc. Hãy bắt đầu với công việc ít dính dữ liệu riêng tư, như nghiên cứu, soạn thảo và xây dựng website, và dùng công cụ cho phép bạn thấy và dừng những gì nó làm. Trên Jobbit bạn có thể theo dõi agent làm việc và tiếp quản, còn gói miễn phí cho 100 credit mỗi ngày, không cần thẻ.

Cẩm nang liên quan