Apa Itu Prompt Injection? 7 Serangan Nyata pada Agen AI
Apa itu prompt injection? Panduan sederhana tentang cara teks tersembunyi membajak agen AI, 7 serangan terdokumentasi dari 2024 dan 2025, serta 9 pertahanan yang bisa Anda pakai.

Prompt injection (penyuntikan perintah) terjadi ketika teks yang dibaca AI, di dalam email, halaman web, atau dokumen, dianggap sebagai instruksi dan mengubah apa yang dilakukan AI tersebut. National Cyber Security Centre (NCSC) Inggris Raya menyatakan pada Desember 2025 bahwa serangan semacam ini "mungkin tidak akan pernah bisa sepenuhnya dimitigasi", dan setiap vendor besar sepakat bahwa masalah ini belum terpecahkan. Panduan ini menjelaskannya dengan bahasa sederhana, menunjukkan 7 serangan terdokumentasi, dan memberi 9 pertahanan yang bisa diterapkan usaha kecil hari ini.
Anda meminta asisten AI merangkum email pagi ini. Satu pesan, dari alamat yang tidak Anda kenal, memuat satu baris yang tidak pernah Anda lihat: teks putih di latar putih yang menyuruh asisten mencari faktur terbaru Anda dan mengirimkannya ke tempat lain. Asisten tidak bisa membedakan baris itu dari permintaan Anda. Keduanya hanyalah kata-kata. Itulah prompt injection, dan masalahnya makin penting setiap bulan, karena perangkat ini telah berpindah dari menjawab pertanyaan ke melakukan tindakan: membaca kotak masuk, membuka berkas, mengklik tombol di browser. Cyber Security Breaches Survey dari pemerintah, yang terbit pada April 2026, menemukan 31% bisnis di Inggris Raya menggunakan, mengadopsi, atau mempertimbangkan AI, dan hanya 24% dari mereka yang memiliki proses apa pun untuk mengelola risiko keamanannya.
Berikut isinya: cara kami memeriksa panduan ini, gagasannya dalam bahasa sederhana, 7 serangan nyata dalam tabel, tempat instruksi tersembunyi bersembunyi, mengapa agen menaikkan taruhannya, apa yang diakui vendor sendiri, 9 pertahanan, pengaturan yang layak diubah, dan cara tetap memakai agen dengan aman.
Agen yang bisa Anda awasi lebih mudah dipercaya. Di Jobbit Anda bisa melihat browser agen saat bekerja dan mengambil alih kapan saja, dan mode Plan menampilkan langkah-langkahnya sebelum apa pun dijalankan. Paket gratis, 100 kredit sehari, tanpa kartu.
Cara kami memeriksa panduan ini
- Sumber primer, dibaca pada 13 November 2026. Daftar risiko OWASP untuk aplikasi AI, National Cyber Security Centre, badan standar Amerika Serikat NIST, Information Commissioner's Office (ICO), serta tulisan keamanan dari Microsoft, Google, dan Anthropic.
- Setiap serangan dilacak ke peneliti yang mengungkapkannya. Jika tulisan aslinya tidak bisa dimuat, tabel menyebutkannya.
- Hanya pertahanan. Panduan ini menjelaskan cara kerja serangan pada tingkat yang diterbitkan sumber resmi. Tidak ada teks serangan yang berfungsi di dalamnya.
- Kutipan vendor adalah kata-kata vendor sendiri, dari blog keamanan dan halaman riset mereka, bukan dari materi pemasaran.
- Tidak ada klaim bahwa produk apa pun kebal, termasuk produk kami.
Prompt injection dalam bahasa sederhana
OWASP, lembaga di balik daftar risiko keamanan perangkat lunak yang paling dikenal, menempatkan prompt injection di urutan pertama pada daftarnya untuk aplikasi AI dan mendefinisikannya sebagai kerentanan yang "terjadi ketika prompt pengguna mengubah perilaku atau keluaran LLM dengan cara yang tidak dimaksudkan". OWASP membagi masalah ini menjadi dua.
- Direct prompt injection (penyuntikan langsung). Orang yang mengetik adalah penyerangnya. Ia mencoba membujuk AI agar melanggar aturannya. Ini sebagian besar masalah vendor.
- Indirect prompt injection (penyuntikan tidak langsung). Instruksi datang di dalam sesuatu yang diminta untuk dibaca AI. OWASP menggambarkannya sebagai masukan "dari sumber eksternal, seperti situs web atau berkas". Orang yang memakai AI adalah korbannya. Ini masalah Anda.
Akar masalahnya mudah dinyatakan. NIST menjelaskan bahwa model-model ini "menggabungkan saluran data dan saluran instruksi". Program biasa memisahkan perintah dari isi. Model bahasa menerima satu aliran teks panjang dan memutuskan sendiri bagian mana yang penting.
Namanya berasal dari 12 September 2022, ketika pengembang Simon Willison menulis: "Saya mengusulkan bahwa nama yang jelas untuk ini adalah prompt injection." Nama itu menggemakan serangan lama pada basis data, dan National Cyber Security Centre mengingatkan agar perbandingan itu tidak ditarik terlalu jauh. Injeksi basis data punya solusi yang dikenal. Untuk model bahasa, lembaga itu menyarankan membayangkan "inherently confusable deputy" (wakil yang pada dasarnya mudah dibingungkan): pembantu dengan akses Anda yang bisa dibujuk bekerja untuk orang lain.
7 serangan nyata sekilas
| Waktu diungkap | Produk | Tempat instruksi bersembunyi | Yang bisa dilakukan penyerang | Apa yang berubah |
|---|---|---|---|---|
| Agustus 2024 | Slack AI | Pesan di kanal publik | Membuat rahasia pribadi ditampilkan kepada korban sebagai tautan untuk diklik | Slack menyebut perilaku itu disengaja, menurut para peneliti |
| Mei 2025 | Agen yang terhubung ke GitHub | Sebuah issue di repositori kode publik | Menarik data repositori pribadi ke tempat publik | Tidak ada tambalan; disarankan izin yang lebih sempit |
| Juni 2025 | Microsoft 365 Copilot | Sebuah email, tanpa perlu klik | Mengungkap informasi melalui jaringan | Diperbaiki oleh Microsoft, tercatat sebagai CVE-2025-32711 |
| Agustus 2025 | Google Gemini | Judul undangan kalender | Menghapus acara, mengirim pesan, mengendalikan perangkat rumah pintar | Google menambahkan konfirmasi dan penyaringan |
| Agustus 2025 | ChatGPT dengan berkas terhubung | Teks putih kecil di dokumen bersama | Mencari kunci di drive terhubung dan membocorkannya | OpenAI menambahkan pemeriksaan yang menurut para peneliti belum cukup |
| Agustus 2025 | Browser Comet milik Perplexity | Komentar tersembunyi di halaman web | Membaca kode sekali pakai dari email dan mengambil alih akun | Ditambal, lalu dilaporkan belum sepenuhnya diperbaiki |
| September 2025 | Salesforce Agentforce | Kotak deskripsi pada formulir web | Mengirim catatan pelanggan ke alamat luar | Salesforce menerapkan daftar alamat tepercaya |
Para penelitinya, berurutan, adalah PromptArmor, Invariant Labs, tim yang tercantum pada catatan kerentanan Microsoft, SafeBreach, Zenity Labs, Brave, dan Noma Labs. Kasus Microsoft 365 Copilot dijelaskan dari catatan kerentanan publik dan sebuah makalah akademik, karena tulisan aslinya tidak bisa dimuat bagi kami.
Tiga hal menonjol. Setiap produk berasal dari perusahaan besar yang berhati-hati. Tidak satu pun korban harus melakukan sesuatu yang tidak biasa: mereka meminta ringkasan, menerima undangan, atau menerima email. Dan beberapa perbaikan digambarkan para peneliti sebagai sebagian saja.
Tempat instruksi tersembunyi bersembunyi
Masing-masing berasal dari salah satu pengungkapan di atas atau dari sumber resmi.
- Halaman web. Teks putih di latar putih, komentar dalam kode halaman, teks di balik tag spoiler.
- Email. Teks tak terlihat di badan email. Halaman keselamatan Anthropic memperingatkan bahwa "daftar tugas atau email mungkin berisi teks tak terlihat".
- Undangan kalender. Di judul acara, tidak terlihat sampai diperluas.
- Dokumen bersama. Teks putih satu piksel di berkas yang dikirim untuk Anda tinjau.
- Formulir web. Kotak "ceritakan kebutuhan Anda" yang terhubung ke sistem pelanggan Anda.
- Kanal obrolan dan repositori kode. Di mana saja orang asing bisa memposting dan asisten Anda bisa membaca.
- Gambar. OWASP mencantumkan instruksi yang tertanam dalam gambar yang menyertai teks yang tampak tidak berbahaya.
- Deskripsi alat. Information Commissioner's Office menyebutnya "tool poisoning, di mana ini disembunyikan dalam metadata alat yang berinteraksi dengan agen AI".
Polanya: apa pun yang dibaca AI atas nama Anda adalah pintu masuk, dan Anda sendiri tidak akan melihat teksnya.
Mengapa agen menaikkan taruhannya
Chatbot yang tertipu memberi jawaban buruk. Agen yang tertipu melakukan tindakan buruk. Simon Willison menamai kombinasi berbahaya itu pada Juni 2025: "akses ke data pribadi Anda", "paparan terhadap konten tidak tepercaya", dan "kemampuan berkomunikasi ke luar". Ia menyebutnya lethal trifecta (tiga serangkai mematikan). Asisten yang memiliki ketiganya bisa diperintah orang asing untuk menemukan sesuatu yang pribadi dan mengirimkannya keluar.
Lihat kembali tabel. Setiap serangan memiliki ketiganya. Fitur ringkasan bisa membaca pesan pribadi, membaca pesan orang asing, dan bisa menampilkan tautan. Hilangkan salah satu dari ketiganya dan serangan gagal.
Makalah National Cyber Security Centre pada Mei 2026 tentang AI agentik menyampaikan hal yang sama untuk organisasi: "Jika agen diberi hak akses berlebih atau dirancang buruk, satu kegagalan bisa dengan cepat menjadi insiden serius." Penjelasan kami tentang agen computer-use membahas apa yang kini bisa dilakukan perangkat ini.
Apa yang diakui vendor sendiri
Ini bukan masalah yang disembunyikan industri.
- Anthropic, dalam riset yang terbit pada November 2025, menyebut prompt injection "masih jauh dari masalah yang terpecahkan" dan menulis bahwa "tidak ada agen browser yang kebal terhadap prompt injection". Anthropic menerbitkan angkanya sendiri: terhadap penyerang otomatis yang gigih, model terbaiknya tertipu 1,4% dari waktu dengan pengaman aktif, dan ia mengatakan bahwa bahkan 1% "tetap merupakan risiko yang berarti".
- Chief information security officer OpenAI menggambarkannya pada Oktober 2025 sebagai "masalah keamanan di garis depan yang belum terpecahkan".
- Tim respons keamanan Microsoft menulis pada Juli 2025 bahwa pendekatannya "tidak bergantung pada kemampuan kami memblokir semua prompt injection". Sebuah tulisan keamanan Microsoft pada Mei 2026 menyatakannya lebih tegas: "LLM Anda bukan batas keamanan."
- Google menjelaskan pertahanan berlapis pada Juni 2025: pengklasifikasi, penyaringan tautan, dan meminta pengguna mengonfirmasi tindakan berisiko.
- National Cyber Security Centre menyarankan sikap skeptis terhadap vendor mana pun yang mengklaim bisa menghentikannya.
Ketika para pembuatnya sendiri mengatakan kuncinya bisa dibobol, rencanakan dengan asumsi bahwa suatu hari akan terbobol.
9 pertahanan yang bisa dipakai usaha kecil hari ini
- Beri agen akses paling sedikit yang cukup untuk pekerjaannya. National Cyber Security Centre menyarankan memberi agen "hanya akses minimum yang mereka perlukan, untuk waktu sesingkat mungkin". Asisten yang menyusun draf balasan tidak perlu mengirimnya.
- Putus trifecta-nya. Jangan biarkan satu asisten membaca data pribadi, membaca konten orang asing, dan mengirim sesuatu keluar dalam tugas yang sama. Rangkum kotak masuk di satu sesi; kirim dari sesi lain, oleh Anda sendiri.
- Libatkan manusia untuk hal yang penting. OWASP merekomendasikan peninjauan manusia "untuk tindakan berisiko tinggi atau berhak istimewa". Pembayaran, penghapusan, apa pun yang dikirim ke pelanggan.
- Perlakukan apa yang dibaca AI sebagai tidak tepercaya. Halaman web, lampiran, dan email dari pengirim tak dikenal semuanya adalah konten, bukan perintah.
- Perlakukan apa yang ditulis AI juga sebagai tidak tepercaya. Jangan klik tautan di ringkasan AI untuk "mengautentikasi ulang". Itulah serangan Slack.
- Pakai profil browser terpisah untuk pekerjaan agen. Saran keselamatan Anthropic sendiri adalah profil tanpa akun perbankan, kesehatan, atau pemerintah yang sedang masuk.
- Awasi saat bekerja. Jika tugas menyimpang, misalnya ringkasan yang berubah menjadi pencarian berkas Anda, hentikan. Log tentang apa yang dibaca dan dilakukan agen layak disimpan.
- Mulai dari pekerjaan berisiko rendah. Saran lembaga itu adalah "mulai kecil, pakai agen hanya untuk tugas berisiko rendah". Riset dan penyusunan draf sebelum faktur dan email.
- Tuliskan dalam kebijakan AI Anda. Siapa yang boleh menghubungkan alat mana ke akun mana, dan siapa yang bisa mematikannya. Templat kebijakan AI kami memuat kata-katanya.
Tidak satu pun memerlukan tim keamanan. Ini kebiasaan yang sama seperti tidak membuka lampiran dari orang asing, diterapkan pada jenis pembantu baru.
Pengaturan yang layak diubah
- Mode persetujuan. Halaman bantuan Anthropic menyebutkan Claude in Chrome dapat diatur ke "Manually approve" (setujui secara manual) sehingga Anda meninjau setiap tindakan, dan Anda dapat memberi atau mencabut aksesnya ke situs tertentu.
- Menjelajah tanpa masuk akun. Kepala keamanan OpenAI menggambarkan mode tanpa login untuk agen browser Atlas, di mana agen bekerja tanpa akun Anda. Pakai untuk riset di situs yang tidak Anda kenal.
- Konektor. Setiap penyimpanan berkas, kotak surat, dan kalender yang Anda hubungkan memperluas jangkauan instruksi yang disuntikkan. Hubungkan yang dibutuhkan tugas, lalu putuskan.
- Persetujuan otomatis. Opsi "selalu izinkan" apa pun menukar keamanan dengan kecepatan. Salah satu pengungkapan 2025 mencatat bahwa opsi itu menyembunyikan tepat langkah yang ingin Anda lihat.
Cara tetap memakai agen dengan aman
Semua ini bukan alasan untuk berhenti. Ini alasan untuk memilih alat yang diawasi dan pekerjaan yang masuk akal. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus, dan Muse milik Meta semuanya menghadapi masalah yang sama, begitu pula Jobbit. Yang bisa Anda pilih adalah seberapa banyak yang bisa Anda lihat dan hentikan.
- Awasi dan ambil alih. Browser agen Jobbit terlihat saat bekerja, dan Anda bisa mengambil kendali kapan saja. Panduan kami tentang browser agen menunjukkan caranya.
- Rencanakan sebelum bertindak. Mode Plan memaparkan langkah-langkah untuk disetujui sebelum apa pun dijalankan, seperti dijelaskan dalam panduan kami tentang mengarahkan agen.
- Mulai dengan pekerjaan tanpa trifecta. Membangun situs web, menulis dokumen, meriset pasar, dan membuat spreadsheet melibatkan sedikit data pribadi dan tidak ada yang dikirim atas nama Anda.
- Jauhkan rahasia dari obrolan. Proyek menyertakan tempat khusus untuk rahasia, sehingga kunci dan kata sandi tidak perlu ditempel ke percakapan.
- Serahkan bagian berisiko kepada manusia. Profesional terverifikasi dari jaringan manusia bisa mengerjakan langkah yang membutuhkan pertimbangan, dengan pembayaran ditahan dalam escrow.
Posisi yang jujur adalah posisi yang diambil para vendor: tidak ada agen yang kebal. Pengawasan dan akses terbatas yang mencegah agen yang tertipu menjadi insiden.
Gambaran di Inggris Raya
Information Commissioner's Office menerbitkan lima langkah pada Mei 2026 untuk melindungi organisasi dari ancaman bertenaga AI: pahami apa yang Anda hadapi, kuasai dasar-dasarnya dan lapisi pertahanan Anda, batasi titik akses, tingkatkan deteksi dan respons, dan lindungi data pribadi. ICO menggambarkan indirect prompt injection sebagai instruksi jahat yang "tertanam dalam konten eksternal yang diproses sistem AI".
Skala risiko biasa ada dalam Cyber Security Breaches Survey 2025/2026: 43% bisnis di Inggris Raya melaporkan pelanggaran atau serangan dalam dua belas bulan sebelumnya, dari sampel 2.112 bisnis. Prompt injection hanyalah satu jalur baru di antara banyak jalur lama. Panduan kami tentang penipuan AI yang menyasar usaha kecil membahas jalur lainnya.
Baca selanjutnya
- Apakah AI Aman Dipakai? Panduan Sederhana
- Cara Menulis Prompt untuk Agen AI
- Mengapa AI Mengarang Jawaban
Pertanyaan yang sering diajukan
Apa itu prompt injection secara sederhana?
Ini terjadi ketika kata-kata di dalam sesuatu yang dibaca AI diperlakukan sebagai instruksi. AI tidak bisa dengan andal membedakan permintaan Anda dari teks di email, halaman web, atau berkas, sehingga satu baris tersembunyi bisa mengubah apa yang dilakukannya. OWASP menempatkannya sebagai risiko pertama pada daftarnya untuk aplikasi AI.
Apa beda direct dan indirect prompt injection?
Direct injection diketik oleh orang yang memakai AI, untuk membuatnya melanggar aturan. Indirect injection ditanam dalam konten yang diminta untuk dibaca AI, seperti halaman web atau dokumen, dan menyasar orang yang memakainya. Indirect injection-lah yang mengancam bisnis.
Apa yang terjadi jika agen AI merangkum email dengan instruksi tersembunyi?
Agen mungkin mengikutinya. Dalam kasus terdokumentasi dari 2024 dan 2025, asisten yang diminta merangkum malah mencari berkas pribadi, membuka rahasia, atau mengirim data keluar. Berhasil atau tidaknya bergantung pada pengaman produk dan pada apa yang bisa diakses agen, itulah sebabnya akses terbatas penting.
Bisakah prompt injection diperbaiki?
Tidak sepenuhnya, berdasarkan bukti saat ini. National Cyber Security Centre mengatakan serangan ini mungkin tidak akan pernah bisa sepenuhnya dimitigasi, dan Anthropic, OpenAI, serta Microsoft semuanya mengatakan masalah ini belum terpecahkan. Pengaman menurunkan tingkat keberhasilan. Membatasi apa yang bisa dijangkau agen membatasi kerusakan.
Apakah prompt injection sama dengan jailbreaking?
Keduanya beririsan. Jailbreaking biasanya berarti pengguna membujuk AI mengabaikan aturan keselamatannya. Prompt injection mencakup semua masukan yang mengubah perilaku AI dengan cara yang tidak dimaksudkan, termasuk teks yang ditanam pihak ketiga. Jailbreak adalah salah satu jenis direct prompt injection.
Bagaimana melindungi bisnis saya dari prompt injection?
Beri alat AI akses paling sedikit yang mereka perlukan, pastikan ada orang yang menyetujui pembayaran dan pesan keluar, jangan biarkan satu asisten membaca data pribadi, membaca konten orang asing, dan mengirim sesuatu keluar dalam tugas yang sama, dan pakai profil browser terpisah untuk pekerjaan agen. Tuliskan aturannya dalam kebijakan AI.
Apakah aman memakai agen AI sama sekali?
Ya, dengan pengawasan dan pekerjaan yang tepat. Mulailah dengan pekerjaan yang melibatkan sedikit data pribadi, seperti riset, penyusunan draf, dan membangun situs web, dan pakai alat yang memungkinkan Anda melihat dan menghentikan apa yang dilakukannya. Di Jobbit Anda bisa mengawasi agen bekerja dan mengambil kendali, dan paket gratis memberi 100 kredit sehari tanpa kartu.