Ano ang Prompt Injection? 7 Totoong Atake sa AI Agent
Ano ang prompt injection? Simpleng gabay kung paano nakukuha ng nakatagong teksto ang kontrol sa AI agent, 7 dokumentadong atake mula 2024 at 2025, at 9 na depensang magagamit mo.

Ang prompt injection (pag-iniksyon ng utos) ay kapag ang tekstong binabasa ng AI, sa isang email, web page o dokumento, ay itinuturing na utos at binabago ang ginagawa ng AI. Noong Disyembre 2025, sinabi ng National Cyber Security Centre (NCSC) ng UK na ang mga atakeng ito ay "maaaring hindi kailanman ganap na mapigilan", at sumasang-ayon ang bawat malaking vendor na hindi pa ito nalulutas. Ipinapaliwanag ng gabay na ito ang usapin sa simpleng salita, ipinapakita ang 7 dokumentadong atake, at nagbibigay ng 9 na depensang magagamit ng maliit na negosyo ngayon din.
Hinihiling mo sa AI assistant mo na ibuod ang mga email ngayong umaga. Ang isang mensahe, mula sa address na hindi mo kilala, ay may linyang hindi mo nakikita: puting teksto sa puting background na nag-uutos sa assistant na hanapin ang pinakabago mong mga invoice at ipadala sa ibang lugar. Hindi matukoy ng assistant ang pagkakaiba ng linyang iyon sa hiling mo. Parehong salita lang ang dalawa. Iyan ang prompt injection, at lalo itong mahalaga bawat buwan, dahil lumipat na ang mga tool mula sa pagsagot ng mga tanong tungo sa paggawa ng mga bagay: pagbabasa ng inbox, pagbubukas ng mga file, pag-click ng mga button sa browser. Ayon sa Cyber Security Breaches Survey ng gobyerno, na inilathala noong Abril 2026, 31% ng mga negosyo sa UK ang gumagamit, nag-aampon o nag-iisip gumamit ng AI, at 24% lamang sa mga iyon ang may anumang proseso para pamahalaan ang mga panganib nito sa seguridad.
Sa ibaba: kung paano namin sinuri ang gabay na ito, ang ideya sa simpleng salita, 7 totoong atake sa isang talahanayan, kung saan nagtatago ang mga nakatagong utos, kung bakit mas mataas ang taya sa mga agent, ang inaamin mismo ng mga vendor, 9 na depensa, mga setting na dapat baguhin, at kung paano patuloy na gumamit ng agent nang ligtas.
Mas madaling pagkatiwalaan ang agent na napapanood mo. Sa Jobbit, makikita mo ang browser ng agent habang gumagana ito at makokontrol mo ito anumang oras, at ipinapakita ng Plan mode ang mga hakbang bago tumakbo ang anuman. Libreng plan, 100 credits kada araw, walang card.
Paano namin sinuri ang gabay na ito
- Mga pangunahing source, binasa noong 13 Nobyembre 2026. Ang listahan ng OWASP ng mga panganib para sa mga AI application, ang National Cyber Security Centre, ang NIST (ang ahensya ng mga pamantayan ng Estados Unidos), ang Information Commissioner's Office (ICO), at mga security post mula sa Microsoft, Google at Anthropic.
- Bawat atake ay sinubaybayan hanggang sa mga mananaliksik na naglantad nito. Kung hindi ma-load ang orihinal na write-up, sinasabi iyon ng talahanayan.
- Depensa lamang. Inilalarawan ng gabay na ito kung paano gumagana ang mga atake sa antas na inilalathala ng mga opisyal na source. Walang laman itong gumaganang teksto ng atake.
- Ang mga sipi mula sa mga vendor ay sarili nilang mga salita, mula sa kanilang mga security blog at research page, hindi mula sa marketing.
- Walang pahayag na immune ang anumang produkto, kasama na ang amin.
Prompt injection sa simpleng salita
Inilalagay ng OWASP, ang grupong nasa likod ng pinakakilalang listahan ng mga panganib sa seguridad ng software, ang prompt injection sa unang puwesto ng listahan nito para sa mga AI application at binibigyang-kahulugan ito bilang isang kahinaang "nangyayari kapag binabago ng mga user prompt ang gawi o output ng LLM sa mga paraang hindi sinasadya". Hinahati nito ang problema sa dalawa.
- Direct prompt injection. Ang taong nagta-type ang umaatake. Sinusubukan nilang kumbinsihin ang AI na labagin ang mga patakaran nito. Karamihan dito ay problema ng vendor.
- Indirect prompt injection. Dumarating ang utos sa loob ng isang bagay na pinabasa sa AI. Inilalarawan ito ng OWASP bilang input "mula sa mga panlabas na source, tulad ng mga website o file". Ang taong gumagamit ng AI ang biktima. Ito ang problema mo.
Madaling sabihin ang ugat ng problema. Ipinaliliwanag ng NIST na "pinagsasama ng mga modelong ito ang data at instruction channel". Pinaghihiwalay ng karaniwang programa ang mga utos at ang nilalaman. Ang language model ay tumatanggap ng isang mahabang daloy ng teksto at ito mismo ang nagpapasya kung aling mga bahagi ang mahalaga.
Nagsimula ang pangalan noong 12 Setyembre 2022, nang isulat ng developer na si Simon Willison: "Iminumungkahi kong ang halatang pangalan nito ay prompt injection." Kahawig ito ng mas lumang atake sa mga database, at nagbababala ang National Cyber Security Centre na huwag lubhang palawakin ang paghahambing. May kilalang lunas ang database injection. Para sa mga language model, iminumungkahi ng centre na isipin ito bilang isang "inherently confusable deputy": isang katulong na may access mo na maaaring mapaniwalang magtrabaho para sa iba.
7 totoong atake sa isang sulyap
| Kailan inilantad | Produkto | Saan nagtago ang utos | Ano ang magagawa ng umaatake | Ano ang nagbago |
|---|---|---|---|---|
| Agosto 2024 | Slack AI | Isang mensahe sa pampublikong channel | Maipakita sa biktima ang isang pribadong lihim bilang link na kanyang i-click | Tinawag ng Slack na sinadya ang gawi, ayon sa mga mananaliksik |
| Mayo 2025 | Isang agent na nakakonekta sa GitHub | Isang issue sa pampublikong code repository | Mahila ang pribadong data ng repository papunta sa pampublikong lugar | Walang patch; pinayuhan ang mas makitid na mga pahintulot |
| Hunyo 2025 | Microsoft 365 Copilot | Isang email, walang kailangang i-click | Maibunyag ang impormasyon sa pamamagitan ng network | Inayos ng Microsoft, nakatala bilang CVE-2025-32711 |
| Agosto 2025 | Google Gemini | Ang pamagat ng isang imbitasyon sa kalendaryo | Magbura ng mga event, magpadala ng mga mensahe, kontrolin ang mga smart-home device | Nagdagdag ang Google ng mga kumpirmasyon at pag-filter |
| Agosto 2025 | ChatGPT na may mga nakakonektang file | Maliit na puting teksto sa isang shared na dokumento | Maghanap ng mga key sa nakakonektang drive at ilabas ang mga ito | Nagdagdag ang OpenAI ng pagsusuring sinabi ng mga mananaliksik na hindi sapat |
| Agosto 2025 | Comet browser ng Perplexity | Isang nakatagong komento sa isang web page | Basahin ang one-time code mula sa email at kunin ang kontrol ng isang account | Na-patch, pagkatapos ay iniulat na hindi lubusang naayos |
| Setyembre 2025 | Salesforce Agentforce | Ang description box ng isang web form | Magpadala ng mga record ng customer sa panlabas na address | Ipinatupad ng Salesforce ang listahan ng mga pinagkakatiwalaang address |
Ang mga mananaliksik, ayon sa pagkakasunod, ay ang PromptArmor, Invariant Labs, ang koponang kinilala sa vulnerability record ng Microsoft, SafeBreach, Zenity Labs, Brave at Noma Labs. Ang kaso ng Microsoft 365 Copilot ay inilalarawan mula sa pampublikong vulnerability record at isang akademikong papel, dahil hindi ma-load para sa amin ang orihinal na write-up.
Tatlong bagay ang kapansin-pansin. Ang bawat produkto ay mula sa malaki at maingat na kumpanya. Walang biktimang kinailangang gumawa ng kakaiba: humiling sila ng buod, tumanggap ng imbitasyon o nakatanggap ng email. At ilang ayos ay inilarawan ng mga mananaliksik bilang bahagyang lamang.
Saan nagtatago ang mga nakatagong utos
Ang bawat isa rito ay galing sa isa sa mga pagbubunyag sa itaas o sa isang opisyal na source.
- Mga web page. Puting teksto sa puting background, mga komento sa code ng page, teksto sa likod ng spoiler tag.
- Mga email. Di-nakikitang teksto sa katawan ng email. Nagbababala ang safety page ng Anthropic na "maaaring may di-nakikitang teksto ang isang to-do list o email".
- Mga imbitasyon sa kalendaryo. Sa pamagat ng event, hindi nakikita hangga't hindi ito pinalalawak.
- Mga shared na dokumento. Isang-pixel na puting teksto sa file na ipinadala sa iyo para suriin.
- Mga web form. Isang kahong "sabihin sa amin ang tungkol sa iyong katanungan" na nagpapakain sa customer system mo.
- Mga chat channel at code repository. Saanmang puwedeng mag-post ang estranghero at mababasa ng assistant mo.
- Mga larawan. Inililista ng OWASP ang utos na nakabaon sa isang larawang kasama ng walang-masamang teksto.
- Mga paglalarawan ng tool. Tinatawag ito ng Information Commissioner's Office na "tool poisoning, kung saan nakatago ito sa metadata ng mga tool na kinakausap ng isang AI agent".
Ang pattern ay: anumang binabasa ng AI para sa iyo ay isang pasukan, at hindi mo mismo makikita ang teksto.
Bakit mas mataas ang taya sa mga agent
Ang chatbot na nalinlang ay nagbibigay ng maling sagot. Ang agent na nalinlang ay gumagawa ng maling aksyon. Pinangalanan ni Simon Willison ang mapanganib na kombinasyon noong Hunyo 2025: "access sa iyong pribadong data", "pagkakalantad sa hindi mapagkakatiwalaang nilalaman" at "kakayahang makipag-ugnayan sa labas". Tinawag niya itong lethal trifecta (nakamamatay na tatlong-kombinasyon). Ang assistant na may tatlong ito ay maaaring utusan ng estranghero na maghanap ng pribado at ipadala sa labas.
Balikan ang talahanayan. Ang bawat atake ay may lahat ng tatlo. Nababasa ng summary feature ang mga pribadong mensahe, binasa nito ang mensahe ng estranghero, at kaya nitong magpakita ng link. Alisin ang alinman sa tatlo at mabibigo ang atake.
Ganito rin ang punto ng papel ng National Cyber Security Centre noong Mayo 2026 tungkol sa agentic AI para sa mga organisasyon: "Kung sobra ang pribilehiyo ng isang agent o mahina ang disenyo, ang isang pagkabigo ay mabilis na maaaring maging seryosong insidente." Tinatalakay ng aming paliwanag tungkol sa computer-use agents ang kaya nang gawin ng mga tool na ito ngayon.
Ang inaamin mismo ng mga vendor
Hindi ito problemang itinatago ng industriya.
- Anthropic, sa pananaliksik na inilathala noong Nobyembre 2025, ay tinawag ang prompt injection na "malayo sa nalutas na problema" at isinulat na "walang browser agent na immune sa prompt injection". Inilathala nito ang sarili nitong mga numero: laban sa patuloy na automated na umaatake, nalinlang ang pinakamahusay nitong modelo nang 1.4% ng panahon kapag naka-on ang mga safeguard, at sinabi nitong kahit ang 1% ay "nananatiling makabuluhang panganib".
- Inilarawan ng chief information security officer ng OpenAI noong Oktubre 2025 ito bilang "isang frontier, hindi pa nalulutas na problema sa seguridad".
- Isinulat ng security response team ng Microsoft noong Hulyo 2025 na ang diskarte nito ay "hindi umaasa sa kakayahan nating harangin ang lahat ng prompt injection". Mas tahasang sinabi ito ng isang security post ng Microsoft noong Mayo 2026: "ang LLM mo ay hindi security boundary."
- Inilarawan ng Google noong Hunyo 2025 ang patong-patong na depensa: mga classifier, pag-filter ng link at paghingi sa user na kumpirmahin ang mga mapanganib na aksyon.
- Pinapayuhan ng National Cyber Security Centre ang pagdududa sa sinumang vendor na nagsasabing napipigilan nito ito.
Kapag sinasabi ng mismong gumawa na maaaring pasukin ang kandado, magplano na darating ang araw na mangyayari iyon.
9 na depensang magagamit ng maliit na negosyo ngayon
- Ibigay sa agent ang pinakamaliit na access na sapat para sa trabaho. Sinasabi ng National Cyber Security Centre na bigyan ang mga agent ng "pinakamababang access lamang na kailangan nila, sa pinakamaikling panahong kailangan". Hindi kailangang magpadala ng mga reply ang assistant na nagdrdraft nito.
- Sirain ang trifecta. Huwag hayaang ang isang assistant ay magbasa ng pribadong data, magbasa ng nilalaman ng mga estranghero at magpadala ng mga bagay palabas, sa iisang gawain. Ibuod ang inbox sa isang session; magpadala ka mismo mula sa iba.
- Panatilihin ang tao sa proseso para sa anumang mahalaga. Inirerekomenda ng OWASP ang pagsusuri ng tao "para sa mga aksyong mataas ang panganib o may pribilehiyo". Mga bayad, pagbura, anumang ipinapadala sa customer.
- Ituring na hindi mapagkakatiwalaan ang binabasa ng AI. Ang web page, attachment at email mula sa hindi kilalang nagpadala ay pawang nilalaman, hindi kailanman utos.
- Ituring ding hindi mapagkakatiwalaan ang isinusulat ng AI. Huwag mag-click ng link sa AI summary para "mag-re-authenticate". Iyon ang atake sa Slack.
- Gumamit ng hiwalay na browser profile para sa trabaho ng agent. Ang sariling payo ng Anthropic sa kaligtasan ay profile na walang naka-sign in na banking, health o government account.
- Panoorin itong gumana. Kung lumihis ang gawain, tulad ng buod na nagiging paghahanap sa mga file mo, ihinto ito. Sulit itago ang mga log ng binasa at ginawa ng agent.
- Magsimula sa mga trabahong mababa ang panganib. Ang payo ng centre ay "magsimula sa maliit, gumamit ng mga agent para lamang sa mga gawaing mababa ang panganib". Pananaliksik at pagdrdraft bago ang mga invoice at email.
- Isulat ito sa AI policy mo. Sino ang puwedeng magkonekta ng aling tool sa aling account, at sino ang puwedeng mag-off nito. May wika para rito ang aming AI policy template.
Walang nangangailangan ng security team. Pareho lang ito ng ugali na hindi pagbubukas ng attachment mula sa estranghero, inilapat sa bagong uri ng katulong.
Mga setting na sulit baguhin
- Approval mode. Sinasabi ng mga help page ng Anthropic na maaaring itakda ang Claude in Chrome sa "Manually approve" (manu-manong aprubahan) para masuri mo ang bawat aksyon, at maaari mong ibigay o alisin ang access nito sa mga partikular na site.
- Signed-out browsing. Inilarawan ng security chief ng OpenAI ang logged-out mode para sa Atlas browser agent nito, kung saan gumagana ang agent nang walang mga account mo. Gamitin ito para sa pananaliksik sa mga site na hindi mo kilala.
- Mga connector. Bawat file store, mailbox at kalendaryong ikinokonekta mo ay nagpapalawak sa maaabot ng isang naiturok na utos. Ikonekta ang kailangan ng gawain, pagkatapos ay idiskonekta.
- Awtomatikong pag-apruba. Ang anumang opsyong "always allow" ay ipinagpapalit ang kaligtasan sa bilis. Isa sa mga pagbubunyag noong 2025 ang nagpansin na itinatago nito mismo ang hakbang na gusto mong makita.
Paano patuloy na gumamit ng agent nang ligtas
Walang dahilan dito para huminto. Dahilan ito para pumili ng mga tool na may superbisyon at makatwirang mga trabaho. Pareho ang problemang kinakaharap ng ChatGPT, Claude, Gemini, Microsoft Copilot, Manus at Muse ng Meta, at gayundin ng Jobbit. Ang mapipili mo ay kung gaano karami ang nakikita at napipigilan mo.
- Manood at pumalit. Nakikita ang browser ng Jobbit agent habang gumagana ito, at makokontrol mo ito anumang oras. Ipinapakita ng aming gabay sa agent browser kung paano.
- Magplano bago kumilos. Inilalatag ng Plan mode ang mga hakbang para sa pag-apruba bago tumakbo ang anuman, gaya ng ipinaliwanag sa aming gabay sa pagpatnubay sa agent.
- Magsimula sa trabahong walang trifecta. Ang pagbuo ng website, pagsulat ng dokumento, pagsasaliksik ng merkado at paggawa ng spreadsheet ay may kaunting pribadong data at walang ipinapadala sa ngalan mo.
- Ilayo ang mga lihim sa chat. May nakalaang lugar para sa mga lihim ang mga Project, kaya hindi na kailangang i-paste ang mga key at password sa usapan.
- Ibigay sa tao ang mapanganib na bahagi. Ang isang sinuring propesyonal mula sa human network ay makakagawa ng hakbang na nangangailangan ng pagpapasya, na ang bayad ay nakahawak sa escrow.
Ang tapat na posisyon ay ang posisyon ng mga vendor: walang agent na immune. Ang superbisyon at limitadong access ang pumipigil para hindi maging insidente ang nalinlang na agent.
Ang larawan sa UK
Naglathala ang Information Commissioner's Office noong Mayo 2026 ng limang hakbang para protektahan ang organisasyon laban sa mga banta na pinapagana ng AI: alamin ang kinakaharap mo, ayusin ang mga pangunahing bagay at patong-patungin ang mga depensa, higpitan ang mga access point, pagbutihin ang pagtuklas at pagtugon, at protektahan ang personal na data. Inilalarawan nito ang indirect prompt injection bilang mga mapaminsalang utos na "nakabaon sa panlabas na nilalamang pinoproseso ng isang AI system".
Makikita ang sukat ng karaniwang panganib sa Cyber Security Breaches Survey 2025/2026: 43% ng mga negosyo sa UK ang nag-ulat ng paglabag o atake sa nakaraang labindalawang buwan, mula sa sample na 2,112 negosyo. Ang prompt injection ay isang bagong ruta sa gitna ng maraming luma. Tinatalakay ng aming gabay sa mga AI scam na tumatarget sa maliliit na negosyo ang iba pa.
Basahin sunod
- Ligtas Bang Gumamit ng AI? Simpleng Gabay
- Paano Sumulat ng mga Prompt para sa AI Agent
- Bakit Nag-iimbento ng Bagay ang AI
Mga madalas itanong
Ano ang prompt injection sa simpleng salita?
Ito ay kapag ang mga salita sa loob ng isang bagay na binabasa ng AI ay itinuturing na utos. Hindi mapagkakatiwalaang matukoy ng AI ang pagkakaiba ng hiling mo at ng teksto sa email, web page o file, kaya ang isang nakatagong linya ay maaaring magbago ng ginagawa nito. Inilalagay ito ng OWASP bilang unang panganib sa listahan nito para sa mga AI application.
Ano ang pagkakaiba ng direct at indirect prompt injection?
Ang direct injection ay tina-type ng taong gumagamit ng AI, para paglabagin ito sa mga patakaran nito. Ang indirect injection ay itinatanim sa nilalamang pinababasa sa AI, tulad ng web page o dokumento, at ang target ay ang taong gumagamit nito. Ang indirect injection ang nagbabanta sa negosyo.
Ano ang mangyayari kung ibuod ng AI agent ang email na may nakatagong utos?
Maaari nitong sundin ang mga iyon. Sa mga dokumentadong kaso mula 2024 at 2025, ang mga assistant na hiniling magbuod ay nagpatuloy na maghanap ng mga pribadong file, magbunyag ng mga lihim o magpadala ng data palabas. Nakasalalay ang tagumpay nito sa mga safeguard ng produkto at sa kung ano ang may access ang agent, kaya mahalaga ang limitadong access.
Maaayos ba nang buo ang prompt injection?
Hindi nang lubusan, ayon sa kasalukuyang ebidensya. Sinasabi ng National Cyber Security Centre na ang mga atakeng ito ay maaaring hindi kailanman ganap na mapigilan, at sinabi ng Anthropic, OpenAI at Microsoft na hindi pa nalulutas ang problema. Binabawasan ng mga safeguard ang rate ng tagumpay. Ang paglilimita sa maaabot ng agent ay naglilimita sa pinsala.
Pareho ba ang prompt injection at jailbreaking?
Nagsasapawan ang mga ito. Karaniwang tumutukoy ang jailbreaking sa user na kinukumbinsi ang AI na balewalain ang mga safety rule nito. Sakop ng prompt injection ang anumang input na nagbabago sa gawi ng AI sa mga paraang hindi sinasadya, kasama ang tekstong itinanim ng ikatlong panig. Ang jailbreak ay isang uri ng direct prompt injection.
Paano ko poprotektahan ang negosyo ko laban sa prompt injection?
Ibigay sa mga AI tool ang pinakamaliit na access na kailangan nila, panatilihing tao ang nag-aapruba ng mga bayad at palabas na mensahe, huwag hayaang ang isang assistant ay magbasa ng pribadong data, magbasa ng nilalaman ng mga estranghero at magpadala ng mga bagay palabas sa iisang gawain, at gumamit ng hiwalay na browser profile para sa trabaho ng agent. Isulat ang mga patakaran sa AI policy.
Ligtas bang gumamit ng AI agent?
Oo, kung may superbisyon at tamang mga trabaho. Magsimula sa trabahong may kaunting pribadong data, tulad ng pananaliksik, pagdrdraft at pagbuo ng website, at gumamit ng tool na hinahayaan kang makita at pigilan ang ginagawa nito. Sa Jobbit, mapapanood mo ang agent na gumagana at makokontrol mo ito, at ang libreng plan ay nagbibigay ng 100 credits kada araw na walang card.