Prompt Injection คืออะไร 7 การโจมตี AI เอเจนต์ที่เกิดขึ้นจริง
Prompt injection คืออะไร คู่มือภาษาง่ายที่อธิบายว่าข้อความที่ซ่อนอยู่ควบคุม AI เอเจนต์ได้อย่างไร พร้อม 7 การโจมตีที่มีบันทึกไว้ในปี 2024 และ 2025 และ 9 วิธีป้องกันที่ใช้ได้เลย

Prompt injection คือกรณีที่ข้อความซึ่ง AI อ่านเจอ ไม่ว่าจะในอีเมล หน้าเว็บ หรือเอกสาร ถูกมองเป็นคำสั่งและเปลี่ยนสิ่งที่ AI ทำ ศูนย์ความมั่นคงปลอดภัยไซเบอร์แห่งชาติของสหราชอาณาจักร (National Cyber Security Centre หรือ NCSC) ระบุในเดือนธันวาคม 2025 ว่าการโจมตีเหล่านี้ "อาจไม่มีวันถูกลดทอนได้อย่างสมบูรณ์" และผู้พัฒนารายใหญ่ทุกรายเห็นตรงกันว่าปัญหานี้ยังแก้ไม่ได้ คู่มือนี้อธิบายเรื่องนี้ด้วยภาษาง่าย แสดง 7 การโจมตีที่มีบันทึกไว้ และให้ 9 วิธีป้องกันที่ธุรกิจขนาดเล็กนำไปใช้ได้ทันที
คุณขอให้ผู้ช่วย AI สรุปอีเมลเมื่อเช้านี้ อีเมลฉบับหนึ่งจากที่อยู่ที่คุณไม่รู้จักมีบรรทัดหนึ่งที่คุณมองไม่เห็น คือข้อความสีขาวบนพื้นหลังสีขาว สั่งให้ผู้ช่วยค้นใบแจ้งหนี้ล่าสุดของคุณแล้วส่งไปที่อื่น ผู้ช่วยแยกบรรทัดนั้นออกจากคำขอของคุณไม่ได้ เพราะทั้งสองเป็นเพียงถ้อยคำ นี่คือ prompt injection และเรื่องนี้สำคัญขึ้นทุกเดือน เพราะเครื่องมือเหล่านี้เปลี่ยนจากการตอบคำถามมาเป็นการลงมือทำ ทั้งอ่านกล่องจดหมาย เปิดไฟล์ และคลิกปุ่มในเบราว์เซอร์ การสำรวจ Cyber Security Breaches Survey ของรัฐบาลที่เผยแพร่ในเดือนเมษายน 2026 พบว่า 31% ของธุรกิจในสหราชอาณาจักรใช้ กำลังนำมาใช้ หรือกำลังพิจารณา AI และมีเพียง 24% ของกลุ่มนั้นที่มีกระบวนการจัดการความเสี่ยงด้านความปลอดภัยของ AI
เนื้อหาด้านล่างครอบคลุม: วิธีที่เราตรวจสอบคู่มือนี้ แนวคิดในภาษาง่าย 7 การโจมตีจริงในตาราง จุดที่คำสั่งซ่อนตัว เหตุใดเอเจนต์ทำให้เดิมพันสูงขึ้น สิ่งที่ผู้พัฒนายอมรับเอง 9 วิธีป้องกัน การตั้งค่าที่ควรเปลี่ยน และวิธีใช้เอเจนต์ต่ออย่างปลอดภัย
เอเจนต์ที่คุณเฝ้าดูได้ย่อมไว้ใจได้ง่ายกว่า บน Jobbit คุณเห็นเบราว์เซอร์ของเอเจนต์ขณะทำงานและเข้าควบคุมได้ทุกเมื่อ และโหมด Plan จะแสดงขั้นตอนก่อนที่จะเริ่มทำสิ่งใด แผนฟรี 100 เครดิตต่อวัน ไม่ต้องใช้บัตร
วิธีที่เราตรวจสอบคู่มือนี้
- แหล่งข้อมูลหลัก อ่านเมื่อวันที่ 13 พฤศจิกายน 2026 รายการความเสี่ยงของ OWASP สำหรับแอปพลิเคชัน AI, National Cyber Security Centre, NIST หน่วยงานมาตรฐานของสหรัฐอเมริกา, Information Commissioner's Office (สำนักงานผู้ตรวจการด้านข้อมูลของสหราชอาณาจักร) และบทความด้านความปลอดภัยจาก Microsoft, Google และ Anthropic
- ตามรอยแต่ละการโจมตีไปถึงนักวิจัยที่เปิดเผย หากบทความต้นฉบับโหลดไม่ได้ ตารางจะระบุไว้
- เน้นการป้องกันเท่านั้น คู่มือนี้อธิบายวิธีการโจมตีในระดับที่แหล่งข้อมูลทางการเผยแพร่ และไม่มีข้อความโจมตีที่ใช้งานได้จริง
- คำพูดของผู้พัฒนาเป็นถ้อยคำของพวกเขาเอง มาจากบล็อกความปลอดภัยและหน้างานวิจัย ไม่ใช่จากงานการตลาด
- ไม่อ้างว่าผลิตภัณฑ์ใดปลอดภัยสมบูรณ์ รวมถึงของเราด้วย
Prompt injection ในภาษาง่าย
OWASP องค์กรที่อยู่เบื้องหลังรายการความเสี่ยงด้านความปลอดภัยซอฟต์แวร์ที่รู้จักกันดีที่สุด จัด prompt injection เป็นอันดับหนึ่งในรายการสำหรับแอปพลิเคชัน AI และนิยามว่าเป็นช่องโหว่ที่ "เกิดขึ้นเมื่อพรอมต์ของผู้ใช้เปลี่ยนพฤติกรรมหรือผลลัพธ์ของ LLM ในทางที่ไม่ได้ตั้งใจ" โดยแบ่งปัญหาเป็นสองประเภท
- Direct prompt injection (แบบโดยตรง) คนที่พิมพ์คือผู้โจมตี พวกเขาพยายามหว่านล้อมให้ AI ละทิ้งกฎของตัวเอง ส่วนใหญ่เป็นปัญหาของผู้พัฒนา
- Indirect prompt injection (แบบทางอ้อม) คำสั่งมาอยู่ในสิ่งที่ AI ถูกขอให้อ่าน OWASP อธิบายว่าเป็นข้อมูลนำเข้า "จากแหล่งภายนอก เช่น เว็บไซต์หรือไฟล์" ผู้ใช้ AI คือผู้ถูกกระทำ นี่คือปัญหาของคุณ
สาเหตุที่แท้จริงอธิบายได้ง่าย NIST ชี้ว่าโมเดลเหล่านี้ "รวมช่องทางข้อมูลและช่องทางคำสั่งเข้าด้วยกัน" โปรแกรมทั่วไปแยกคำสั่งออกจากเนื้อหา แต่โมเดลภาษาได้รับข้อความสายยาวเพียงสายเดียวแล้วตัดสินเองว่าส่วนไหนสำคัญ
ชื่อนี้มีที่มาจากวันที่ 12 กันยายน 2022 เมื่อนักพัฒนา Simon Willison เขียนว่า "ผมเสนอว่าชื่อที่ชัดเจนที่สุดสำหรับเรื่องนี้คือ prompt injection" ชื่อนี้สะท้อนการโจมตีฐานข้อมูลแบบเก่า และ National Cyber Security Centre เตือนไม่ให้เปรียบเทียบเกินจริง การโจมตีฐานข้อมูลมีวิธีแก้ที่รู้กันดี แต่สำหรับโมเดลภาษา ศูนย์แนะนำให้คิดถึง "ตัวแทนที่สับสนได้โดยธรรมชาติ" (inherently confusable deputy) คือผู้ช่วยที่ถือสิทธิ์เข้าถึงของคุณแต่ถูกหว่านล้อมให้ไปทำงานให้คนอื่นได้
7 การโจมตีจริงโดยสังเขป
| วันที่เปิดเผย | ผลิตภัณฑ์ | คำสั่งซ่อนอยู่ที่ไหน | ผู้โจมตีทำอะไรได้ | อะไรเปลี่ยนไป |
|---|---|---|---|---|
| สิงหาคม 2024 | Slack AI | ข้อความในช่องสาธารณะ | ทำให้ความลับส่วนตัวถูกแสดงต่อเหยื่อในรูปลิงก์ให้คลิก | ตามที่นักวิจัยระบุ Slack ถือว่าพฤติกรรมนี้เป็นไปตามที่ตั้งใจ |
| พฤษภาคม 2025 | เอเจนต์ที่เชื่อมต่อกับ GitHub | issue ในที่เก็บโค้ดสาธารณะ | ดึงข้อมูลที่เก็บโค้ดส่วนตัวไปไว้ในที่สาธารณะ | ไม่มีแพตช์ แนะนำให้จำกัดสิทธิ์ให้แคบลง |
| มิถุนายน 2025 | Microsoft 365 Copilot | อีเมล โดยไม่ต้องคลิก | เปิดเผยข้อมูลผ่านเครือข่าย | Microsoft แก้ไขแล้ว ติดตามในชื่อ CVE-2025-32711 |
| สิงหาคม 2025 | Google Gemini | ชื่อของคำเชิญในปฏิทิน | ลบกิจกรรม ส่งข้อความ ควบคุมอุปกรณ์สมาร์ตโฮม | Google เพิ่มการยืนยันและการกรอง |
| สิงหาคม 2025 | ChatGPT พร้อมไฟล์ที่เชื่อมต่อ | ข้อความสีขาวขนาดเล็กมากในเอกสารที่แชร์ | ค้นหาคีย์ในไดรฟ์ที่เชื่อมต่อแล้วทำให้รั่วไหล | OpenAI เพิ่มการตรวจสอบ ซึ่งนักวิจัยระบุว่ายังไม่เพียงพอ |
| สิงหาคม 2025 | เบราว์เซอร์ Comet ของ Perplexity | ความคิดเห็นที่ซ่อนอยู่ในหน้าเว็บ | อ่านรหัสใช้ครั้งเดียวจากอีเมลและยึดบัญชี | แพตช์แล้ว จากนั้นมีรายงานว่ายังแก้ไม่สมบูรณ์ |
| กันยายน 2025 | Salesforce Agentforce | ช่องคำอธิบายในแบบฟอร์มเว็บ | ส่งข้อมูลลูกค้าไปยังที่อยู่ภายนอก | Salesforce บังคับใช้รายการที่อยู่ที่เชื่อถือได้ |
นักวิจัยตามลำดับคือ PromptArmor, Invariant Labs, ทีมที่ได้รับการระบุชื่อในบันทึกช่องโหว่ของ Microsoft, SafeBreach, Zenity Labs, Brave และ Noma Labs กรณี Microsoft 365 Copilot อธิบายจากบันทึกช่องโหว่สาธารณะและเอกสารวิชาการ เพราะบทความต้นฉบับโหลดไม่ได้
มีสามข้อที่น่าสังเกต ผลิตภัณฑ์ทุกตัวมาจากบริษัทใหญ่ที่ระมัดระวัง เหยื่อไม่ต้องทำอะไรผิดปกติเลย แค่ขอให้สรุป ตอบรับคำเชิญ หรือได้รับอีเมล และนักวิจัยระบุว่าการแก้ไขหลายรายการเป็นเพียงบางส่วน
คำสั่งที่ซ่อนอยู่ซ่อนที่ไหน
ทุกข้อด้านล่างมาจากการเปิดเผยข้อใดข้อหนึ่งข้างต้นหรือจากแหล่งข้อมูลทางการ
- หน้าเว็บ ข้อความสีขาวบนพื้นหลังสีขาว ความคิดเห็นในโค้ดของหน้า ข้อความที่อยู่หลังแท็กสปอยเลอร์
- อีเมล ข้อความที่มองไม่เห็นในเนื้อหา หน้าความปลอดภัยของ Anthropic เตือนว่า "รายการสิ่งที่ต้องทำหรืออีเมลอาจมีข้อความที่มองไม่เห็น"
- คำเชิญในปฏิทิน อยู่ในชื่อกิจกรรม ซ่อนจนกว่าจะขยายดู
- เอกสารที่แชร์ ข้อความสีขาวขนาดหนึ่งพิกเซลในไฟล์ที่ส่งมาให้คุณตรวจ
- แบบฟอร์มเว็บ ช่อง "บอกเราเกี่ยวกับคำถามของคุณ" ที่ป้อนเข้าระบบลูกค้าของคุณ
- ช่องแชตและที่เก็บโค้ด ทุกที่ที่คนแปลกหน้าโพสต์ได้และผู้ช่วยของคุณอ่านได้
- รูปภาพ OWASP ระบุถึงคำสั่งที่ฝังในภาพซึ่งมาพร้อมข้อความที่ไม่เป็นอันตราย
- คำอธิบายเครื่องมือ Information Commissioner's Office เรียกสิ่งนี้ว่า "tool poisoning ซึ่งซ่อนอยู่ในเมทาดาทาของเครื่องมือที่เอเจนต์ AI ใช้งาน"
รูปแบบที่เห็นคือ สิ่งใดก็ตามที่ AI อ่านแทนคุณเป็นช่องทางเข้าได้ และคุณจะไม่เห็นข้อความนั้นด้วยตัวเอง
เหตุใดเอเจนต์ทำให้เดิมพันสูงขึ้น
แชตบอตที่ถูกหลอกให้คำตอบที่แย่ แต่เอเจนต์ที่ถูกหลอกลงมือทำสิ่งที่แย่ Simon Willison ตั้งชื่อส่วนผสมที่อันตรายนี้ในเดือนมิถุนายน 2025 คือ "การเข้าถึงข้อมูลส่วนตัวของคุณ" "การได้รับเนื้อหาที่ไม่น่าเชื่อถือ" และ "ความสามารถในการสื่อสารกับภายนอก" เขาเรียกว่า lethal trifecta (สามประสานอันตราย) ผู้ช่วยที่มีครบทั้งสามอย่างอาจถูกคนแปลกหน้าสั่งให้ค้นสิ่งส่วนตัวแล้วส่งออกไป
ลองย้อนดูตาราง ทุกการโจมตีมีครบทั้งสาม ฟีเจอร์สรุปอ่านข้อความส่วนตัวได้ อ่านข้อความของคนแปลกหน้า และแสดงลิงก์ได้ หากตัดไปเพียงข้อเดียว การโจมตีก็ล้มเหลว
เอกสารเดือนพฤษภาคม 2026 ของ National Cyber Security Centre เรื่อง agentic AI พูดถึงประเด็นเดียวกันสำหรับองค์กร: "หากเอเจนต์ได้รับสิทธิ์เกินจำเป็นหรือออกแบบไม่ดี ความล้มเหลวเพียงครั้งเดียวอาจกลายเป็นเหตุร้ายแรงได้อย่างรวดเร็ว" บทความอธิบายของเราเรื่อง เอเจนต์ที่ควบคุมคอมพิวเตอร์ ครอบคลุมสิ่งที่เครื่องมือเหล่านี้ทำได้ในตอนนี้
สิ่งที่ผู้พัฒนายอมรับเอง
นี่ไม่ใช่ปัญหาที่อุตสาหกรรมปิดบัง
- Anthropic ในงานวิจัยที่เผยแพร่เมื่อเดือนพฤศจิกายน 2025 เรียก prompt injection ว่า "ยังห่างไกลจากปัญหาที่แก้ได้แล้ว" และเขียนว่า "ไม่มีเบราว์เซอร์เอเจนต์ใดที่รอดพ้นจาก prompt injection" โดยเผยแพร่ตัวเลขของตนเอง: เมื่อเจอผู้โจมตีอัตโนมัติที่ไม่ลดละ โมเดลที่ดีที่สุดของบริษัทถูกหลอกได้ 1.4% ของครั้งเมื่อเปิดมาตรการป้องกัน และบริษัทระบุว่าแม้ 1% ก็ "ยังเป็นความเสี่ยงที่มีนัยสำคัญ"
- OpenAI ประธานเจ้าหน้าที่ความปลอดภัยสารสนเทศของบริษัทบรรยายในเดือนตุลาคม 2025 ว่าเป็น "ปัญหาความปลอดภัยแนวหน้าที่ยังแก้ไม่ได้"
- Microsoft ทีมตอบสนองด้านความปลอดภัยเขียนในเดือนกรกฎาคม 2025 ว่าแนวทางของตน "ไม่ได้พึ่งพาความสามารถของเราในการบล็อก prompt injection ทั้งหมด" และบทความด้านความปลอดภัยของ Microsoft ในเดือนพฤษภาคม 2026 พูดตรงกว่านั้น: "LLM ของคุณไม่ใช่เขตแดนด้านความปลอดภัย"
- Google อธิบายการป้องกันแบบหลายชั้นในเดือนมิถุนายน 2025: ตัวจำแนก การกรองลิงก์ และการขอให้ผู้ใช้ยืนยันการกระทำที่เสี่ยง
- National Cyber Security Centre แนะนำให้สงสัยผู้ขายรายใดก็ตามที่อ้างว่าหยุดมันได้
เมื่อผู้สร้างยอมรับว่ากุญแจแงะได้ ให้วางแผนบนสมมติฐานว่าสักวันมันจะถูกแงะ
9 วิธีป้องกันที่ธุรกิจขนาดเล็กใช้ได้ทันที
- ให้เอเจนต์เข้าถึงน้อยที่สุดที่ทำงานได้ National Cyber Security Centre บอกให้ให้เอเจนต์ "เพียงสิทธิ์ขั้นต่ำที่จำเป็น ในช่วงเวลาสั้นที่สุดเท่าที่ต้องใช้" ผู้ช่วยที่ร่างคำตอบไม่จำเป็นต้องส่งคำตอบ
- ทำลายสามประสาน อย่าให้ผู้ช่วยตัวเดียวอ่านข้อมูลส่วนตัว อ่านเนื้อหาของคนแปลกหน้า และส่งสิ่งต่างๆ ออกไปในงานเดียวกัน สรุปกล่องจดหมายในเซสชันหนึ่ง แล้วส่งเองจากอีกเซสชันหนึ่ง
- ให้คนอยู่ในวงจรสำหรับทุกอย่างที่สำคัญ OWASP แนะนำให้มนุษย์ตรวจสอบ "สำหรับการกระทำที่มีความเสี่ยงสูงหรือต้องใช้สิทธิ์พิเศษ" เช่น การชำระเงิน การลบ และทุกอย่างที่ส่งถึงลูกค้า
- ถือว่าสิ่งที่ AI อ่านเป็นสิ่งที่ไม่น่าเชื่อถือ หน้าเว็บ ไฟล์แนบ และอีเมลจากผู้ส่งที่ไม่รู้จักล้วนเป็นเนื้อหา ไม่ใช่คำสั่ง
- ถือว่าสิ่งที่ AI เขียนเป็นสิ่งที่ไม่น่าเชื่อถือด้วย อย่าคลิกลิงก์ในสรุปของ AI เพื่อ "ยืนยันตัวตนอีกครั้ง" นั่นคือการโจมตี Slack
- ใช้โปรไฟล์เบราว์เซอร์แยกต่างหากสำหรับงานของเอเจนต์ คำแนะนำด้านความปลอดภัยของ Anthropic เองคือโปรไฟล์ที่ไม่ได้ล็อกอินบัญชีธนาคาร สุขภาพ หรือหน่วยงานรัฐไว้
- เฝ้าดูมันทำงาน หากงานเริ่มเบี่ยงเบน เช่น การสรุปที่กลายเป็นการค้นไฟล์ของคุณ ให้หยุดทันที บันทึกสิ่งที่เอเจนต์อ่านและทำควรเก็บไว้
- เริ่มจากงานเสี่ยงต่ำ คำแนะนำของศูนย์คือ "เริ่มจากเล็กๆ ใช้เอเจนต์เฉพาะงานเสี่ยงต่ำ" ทำการค้นคว้าและร่างงานก่อนใบแจ้งหนี้และอีเมล
- เขียนไว้ในนโยบาย AI ของคุณ ใครเชื่อมต่อเครื่องมือใดกับบัญชีใดได้ และใครปิดมันได้ แม่แบบนโยบาย AI ของเรามีถ้อยคำให้
ไม่มีข้อใดต้องใช้ทีมรักษาความปลอดภัย เป็นนิสัยเดียวกับการไม่เปิดไฟล์แนบจากคนแปลกหน้า เพียงแต่ใช้กับผู้ช่วยรูปแบบใหม่
การตั้งค่าที่ควรเปลี่ยน
- โหมดอนุมัติ หน้าช่วยเหลือของ Anthropic ระบุว่า Claude in Chrome ตั้งค่าเป็น "Manually approve" (อนุมัติด้วยตนเอง) ได้ เพื่อให้คุณตรวจทุกการกระทำ และคุณให้หรือถอนสิทธิ์เข้าถึงเว็บไซต์เฉพาะได้
- การท่องเว็บแบบไม่ล็อกอิน ประธานเจ้าหน้าที่ความปลอดภัยของ OpenAI อธิบายโหมดที่ไม่ล็อกอินสำหรับเอเจนต์เบราว์เซอร์ Atlas ซึ่งเอเจนต์ทำงานโดยไม่มีบัญชีของคุณ ใช้โหมดนี้สำหรับค้นคว้าในเว็บไซต์ที่คุณไม่รู้จัก
- ตัวเชื่อมต่อ ที่เก็บไฟล์ กล่องจดหมาย และปฏิทินแต่ละตัวที่คุณเชื่อมต่อจะขยายขอบเขตที่คำสั่งที่ถูกแทรกเข้าถึงได้ เชื่อมต่อเท่าที่งานต้องการ แล้วยกเลิกการเชื่อมต่อ
- การอนุมัติอัตโนมัติ ตัวเลือก "อนุญาตเสมอ" ทุกแบบแลกความปลอดภัยกับความเร็ว การเปิดเผยในปี 2025 รายการหนึ่งระบุว่ามันซ่อนขั้นตอนที่คุณอยากเห็นที่สุดพอดี
วิธีใช้เอเจนต์ต่ออย่างปลอดภัย
ทั้งหมดนี้ไม่ใช่เหตุผลให้เลิกใช้ แต่เป็นเหตุผลให้เลือกเครื่องมือที่มีการกำกับดูแลและงานที่เหมาะสม ChatGPT, Claude, Gemini, Microsoft Copilot, Manus และ Muse ของ Meta ล้วนเจอปัญหาเดียวกัน Jobbit ก็เช่นกัน สิ่งที่คุณเลือกได้คือคุณมองเห็นและหยุดได้มากเพียงใด
- เฝ้าดูและเข้าควบคุม เบราว์เซอร์ของเอเจนต์ Jobbit มองเห็นได้ขณะทำงาน และคุณเข้าควบคุมได้ทุกเมื่อ คู่มือ เบราว์เซอร์ของเอเจนต์ ของเราแสดงวิธีทำ
- วางแผนก่อนลงมือ โหมด Plan แสดงขั้นตอนให้อนุมัติก่อนที่จะเริ่มทำสิ่งใด ตามที่อธิบายในคู่มือ การกำกับเอเจนต์ ของเรา
- เริ่มจากงานที่ไม่มีสามประสาน การสร้างเว็บไซต์ เขียนเอกสาร ค้นคว้าตลาด และทำสเปรดชีตเกี่ยวข้องกับข้อมูลส่วนตัวน้อยและไม่มีอะไรถูกส่งออกไปในนามของคุณ
- เก็บความลับไว้นอกแชต Projects มีที่เฉพาะสำหรับความลับ จึงไม่ต้องวางคีย์และรหัสผ่านลงในการสนทนา
- ส่งส่วนที่เสี่ยงให้คน ผู้เชี่ยวชาญที่ผ่านการตรวจสอบจากเครือข่ายมนุษย์ทำขั้นตอนที่ต้องใช้วิจารณญาณได้ โดยเงินถูกพักไว้ในบัญชีเอสโครว์
จุดยืนที่ตรงไปตรงมาคือจุดยืนเดียวกับที่ผู้พัฒนายึดถือ: ไม่มีเอเจนต์ใดรอดพ้น การกำกับดูแลและการจำกัดสิทธิ์เข้าถึงคือสิ่งที่ไม่ให้เอเจนต์ที่ถูกหลอกกลายเป็นเหตุการณ์ร้ายแรง
ภาพรวมในสหราชอาณาจักร
Information Commissioner's Office เผยแพร่ห้าขั้นตอนในเดือนพฤษภาคม 2026 เพื่อปกป้ององค์กรจากภัยคุกคามที่ใช้ AI: รู้ว่าคุณกำลังเผชิญอะไร ทำพื้นฐานให้ถูกต้องและป้องกันหลายชั้น จำกัดจุดเข้าถึง ปรับปรุงการตรวจจับและการตอบสนอง และปกป้องข้อมูลส่วนบุคคล โดยอธิบาย indirect prompt injection ว่าเป็นคำสั่งที่เป็นอันตราย "ฝังอยู่ในเนื้อหาภายนอกที่ระบบ AI ประมวลผล"
ขนาดของความเสี่ยงทั่วไปอยู่ใน Cyber Security Breaches Survey 2025/2026: 43% ของธุรกิจในสหราชอาณาจักรรายงานว่าถูกละเมิดหรือโจมตีในสิบสองเดือนที่ผ่านมา จากกลุ่มตัวอย่างธุรกิจ 2,112 ราย Prompt injection เป็นเพียงเส้นทางใหม่หนึ่งเส้นทางท่ามกลางเส้นทางเก่าจำนวนมาก คู่มือ กลโกง AI ที่เล็งเป้าธุรกิจขนาดเล็ก ของเราครอบคลุมเส้นทางอื่นๆ
อ่านต่อ
คำถามที่พบบ่อย
Prompt injection คืออะไรแบบเข้าใจง่าย
คือกรณีที่ถ้อยคำในสิ่งที่ AI อ่านถูกมองเป็นคำสั่ง AI แยกคำขอของคุณออกจากข้อความในอีเมล หน้าเว็บ หรือไฟล์ได้อย่างไม่น่าเชื่อถือ บรรทัดที่ซ่อนอยู่จึงเปลี่ยนสิ่งที่มันทำได้ OWASP จัดเป็นความเสี่ยงอันดับหนึ่งในรายการสำหรับแอปพลิเคชัน AI
Direct กับ indirect prompt injection ต่างกันอย่างไร
Direct injection พิมพ์โดยผู้ใช้ AI เพื่อให้มันฝ่าฝืนกฎของตัวเอง ส่วน indirect injection ถูกวางไว้ในเนื้อหาที่ AI ถูกขอให้อ่าน เช่นหน้าเว็บหรือเอกสาร และมุ่งเป้าไปที่ผู้ใช้ Indirect injection คือแบบที่คุกคามธุรกิจ
จะเกิดอะไรขึ้นถ้า AI เอเจนต์สรุปอีเมลที่มีคำสั่งซ่อนอยู่
มันอาจทำตามนั้น ในกรณีที่มีบันทึกไว้จากปี 2024 และ 2025 ผู้ช่วยที่ถูกขอให้สรุปไปค้นไฟล์ส่วนตัว เปิดเผยความลับ หรือส่งข้อมูลออกไป การโจมตีจะสำเร็จหรือไม่ขึ้นอยู่กับมาตรการป้องกันของผลิตภัณฑ์และสิ่งที่เอเจนต์เข้าถึงได้ ซึ่งเป็นเหตุผลที่การจำกัดสิทธิ์เข้าถึงสำคัญ
Prompt injection แก้ได้ไหม
ไม่ได้อย่างสมบูรณ์ จากหลักฐานปัจจุบัน National Cyber Security Centre ระบุว่าการโจมตีเหล่านี้อาจไม่มีวันถูกลดทอนได้อย่างสมบูรณ์ และ Anthropic, OpenAI และ Microsoft ล้วนกล่าวว่าปัญหานี้ยังแก้ไม่ได้ มาตรการป้องกันลดอัตราความสำเร็จ การจำกัดสิ่งที่เอเจนต์เข้าถึงได้จะจำกัดความเสียหาย
Prompt injection เหมือน jailbreaking หรือไม่
ทั้งสองทับซ้อนกัน โดยทั่วไป jailbreaking หมายถึงผู้ใช้โน้มน้าวให้ AI เพิกเฉยต่อกฎความปลอดภัยของมัน ส่วน prompt injection ครอบคลุมข้อมูลนำเข้าใดก็ตามที่เปลี่ยนพฤติกรรมของ AI ในทางที่ไม่ได้ตั้งใจ รวมถึงข้อความที่บุคคลที่สามวางไว้ Jailbreak เป็นแบบหนึ่งของ direct prompt injection
ฉันจะปกป้องธุรกิจจาก prompt injection ได้อย่างไร
ให้เครื่องมือ AI เข้าถึงน้อยที่สุดที่จำเป็น ให้คนอนุมัติการชำระเงินและข้อความขาออก อย่าให้ผู้ช่วยตัวเดียวอ่านข้อมูลส่วนตัว อ่านเนื้อหาของคนแปลกหน้า และส่งสิ่งต่างๆ ออกไปในงานเดียวกัน และใช้โปรไฟล์เบราว์เซอร์แยกสำหรับงานของเอเจนต์ เขียนกฎไว้ในนโยบาย AI
การใช้ AI เอเจนต์ปลอดภัยหรือไม่
ปลอดภัย หากมีการกำกับดูแลและเลือกงานที่เหมาะสม เริ่มจากงานที่เกี่ยวข้องกับข้อมูลส่วนตัวน้อย เช่น การค้นคว้า การร่างงาน และการสร้างเว็บไซต์ และใช้เครื่องมือที่ให้คุณเห็นและหยุดสิ่งที่มันทำได้ บน Jobbit คุณเฝ้าดูเอเจนต์ทำงานและเข้าควบคุมได้ และแผนฟรีให้ 100 เครดิตต่อวันโดยไม่ต้องใช้บัตร