Preparing your workspace
Jobbit
Rehberler10 dk okuma

Prompt Injection Nedir? Yapay Zekâ Ajanlarına 7 Gerçek Saldırı

Prompt injection nedir? Gizli metnin bir yapay zekâ ajanını nasıl ele geçirdiğini, 2024 ve 2025'te belgelenen 7 saldırıyı ve uygulayabileceğiniz 9 savunmayı sade bir dille anlatan rehber.

Prompt Injection Nedir? Yapay Zekâ Ajanlarına 7 Gerçek Saldırı
Şu dilde oku:

Prompt injection (istem enjeksiyonu), bir yapay zekânın okuduğu metnin (bir e-posta, web sayfası ya da belge) talimat olarak algılanıp yapay zekânın davranışını değiştirmesidir. Birleşik Krallık'ın National Cyber Security Centre kurumu (NCSC) Aralık 2025'te bu saldırıların "hiçbir zaman tamamen önlenemeyebileceğini" söyledi ve büyük satıcıların hepsi sorunun çözülmediği konusunda hemfikir. Bu rehber konuyu sade bir dille açıklıyor, belgelenmiş 7 saldırıyı gösteriyor ve küçük bir işletmenin bugün uygulayabileceği 9 savunma sunuyor.

Yapay zekâ asistanınızdan bu sabahki e-postaları özetlemesini istiyorsunuz. Tanımadığınız bir adresten gelen bir mesajda hiç görmediğiniz bir satır var: beyaz zemin üzerine beyaz yazı, asistana son faturalarınızı bulup başka bir yere göndermesini söylüyor. Asistan bu satırı sizin isteğinizden ayırt edemez. İkisi de yalnızca kelimedir. İşte prompt injection budur ve her ay daha önemli hale geliyor, çünkü araçlar soruları yanıtlamaktan iş yapmaya geçti: gelen kutusunu okuyor, dosyaları açıyor, tarayıcıda düğmelere tıklıyor. Hükümetin Nisan 2026'da yayımlanan Cyber Security Breaches Survey araştırması, Birleşik Krallık'taki işletmelerin %31'inin yapay zekâyı kullandığını, benimsediğini ya da değerlendirdiğini, bunların yalnızca %24'ünün güvenlik risklerini yönetmek için herhangi bir sürece sahip olduğunu ortaya koydu.

Aşağıda şunlar var: bu rehberi nasıl doğruladık, konunun sade anlatımı, tabloda 7 gerçek saldırı, gizli talimatların nerelere saklandığı, ajanlar neden riski artırıyor, satıcıların kendi itirafları, 9 savunma, değiştirmeye değer ayarlar ve bir ajanı güvenle kullanmaya devam etmenin yolu.

İzleyebildiğiniz bir ajana güvenmek daha kolaydır. Jobbit üzerinde ajanın tarayıcısını çalışırken görebilir, istediğiniz anda kontrolü devralabilirsiniz; Plan modu da hiçbir şey çalışmadan önce adımları gösterir. Ücretsiz plan, günde 100 kredi, kart gerekmez.

Bu rehberi nasıl doğruladık

  1. 13 Kasım 2026'da okunan birincil kaynaklar. OWASP'ın yapay zekâ uygulamaları risk listesi, National Cyber Security Centre, Amerika Birleşik Devletleri standart kuruluşu NIST, Information Commissioner's Office ve Microsoft, Google ile Anthropic'in güvenlik yazıları.
  2. Her saldırı, onu açıklayan araştırmacılara kadar izlendi. Özgün yazı açılmadığında tablo bunu belirtiyor.
  3. Yalnızca savunma. Bu rehber saldırıların nasıl işlediğini resmî kaynakların yayımladığı düzeyde anlatır. Çalışan hiçbir saldırı metni içermez.
  4. Satıcılardan yapılan alıntılar satıcıların kendi sözleridir, pazarlama metinlerinden değil, güvenlik bloglarından ve araştırma sayfalarından alınmıştır.
  5. Hiçbir ürünün bağışık olduğu iddia edilmez, bizimki dahil.

Prompt injection sade bir dille

Yazılım güvenliği risklerinin en bilinen listesinin arkasındaki kuruluş olan OWASP, yapay zekâ uygulamaları listesinde prompt injection'ı birinci sıraya koyar ve şöyle tanımlar: "kullanıcı istemlerinin LLM'in davranışını ya da çıktısını istenmeyen biçimlerde değiştirdiği" bir güvenlik açığı. Sorunu ikiye ayırır.

  • Doğrudan prompt injection. Yazan kişi saldırgandır. Yapay zekâyı kurallarından vazgeçirmeye çalışır. Bu çoğunlukla satıcının sorunudur.
  • Dolaylı prompt injection. Talimat, yapay zekâdan okuması istenen bir şeyin içinde gelir. OWASP bunu "web siteleri ya da dosyalar gibi dış kaynaklardan" gelen girdi olarak tanımlar. Yapay zekâyı kullanan kişi mağdurdur. Bu sizin sorununuzdur.

Temel neden söylemesi kolay. NIST, bu modellerin "veri ve talimat kanallarını birleştirdiğini" açıklar. Normal bir program komutları ve içeriği ayrı tutar. Bir dil modeli ise tek bir uzun metin akışı alır ve hangi bölümlerin önemli olduğuna kendisi karar verir.

Adın kökeni, geliştirici Simon Willison'ın şunu yazdığı 12 Eylül 2022'ye dayanır: "Bunun için bariz ismin prompt injection olduğunu öneriyorum." Ad, veri tabanlarına yönelik eski bir saldırıyı andırır ve National Cyber Security Centre benzetmeyi fazla ileri götürmemeyi önerir. Veri tabanı enjeksiyonunun bilinen bir çözümü vardır. Dil modelleri için kurum, "doğası gereği kolayca kafası karışan bir vekil" (inherently confusable deputy) düşünmeyi önerir: sizin erişiminize sahip olan ve başkası adına çalışmaya ikna edilebilen bir yardımcı.

Bir bakışta 7 gerçek saldırı

Açıklandığı tarihÜrünTalimat nerede saklandıSaldırgan ne yapabildiNe değişti
Ağustos 2024Slack AIHerkese açık bir kanaldaki mesajÖzel bir sırrın, kurbana tıklaması için bir bağlantı olarak gösterilmesini sağlamakAraştırmacılara göre Slack bu davranışı amaçlanan davranış olarak niteledi
Mayıs 2025GitHub'a bağlı bir ajanHerkese açık bir kod deposundaki bir issueÖzel depo verilerini herkese açık bir yere çekmekYama yok; daha dar izinler önerildi
Haziran 2025Microsoft 365 CopilotTıklama gerektirmeyen bir e-postaBir ağ üzerinden bilgi sızdırmakMicrosoft tarafından düzeltildi, CVE-2025-32711 olarak izleniyor
Ağustos 2025Google GeminiBir takvim davetinin başlığıEtkinlikleri silmek, mesaj göndermek, akıllı ev cihazlarını kontrol etmekGoogle onay adımları ve filtreleme ekledi
Ağustos 2025Bağlı dosyaları olan ChatGPTPaylaşılan bir belgedeki minik beyaz yazıBağlı bir sürücüde anahtar aramak ve bunları sızdırmakOpenAI, araştırmacıların yetersiz bulduğu bir kontrol ekledi
Ağustos 2025Perplexity'nin Comet tarayıcısıBir web sayfasındaki gizli yorumE-postadan tek kullanımlık bir kod okuyup bir hesabı ele geçirmekYamalandı, ardından tam olarak düzeltilmediği bildirildi
Eylül 2025Salesforce AgentforceBir web formundaki açıklama kutusuMüşteri kayıtlarını dış bir adrese göndermekSalesforce güvenilir adres listesi uygulamaya koydu

Araştırmacılar sırasıyla PromptArmor, Invariant Labs, Microsoft güvenlik açığı kaydında adı geçen ekip, SafeBreach, Zenity Labs, Brave ve Noma Labs'tı. Microsoft 365 Copilot vakası, özgün yazı bizim için açılmadığından kamuya açık güvenlik açığı kaydına ve akademik bir makaleye dayanılarak anlatılmıştır.

Üç şey öne çıkıyor. Her ürün büyük ve özenli bir şirketten. Mağdurların hiçbiri alışılmadık bir şey yapmak zorunda kalmadı: özet istediler, bir davet kabul ettiler ya da bir e-posta aldılar. Ve çeşitli düzeltmeleri araştırmacılar kısmi olarak niteledi.

Gizli talimatların saklandığı yerler

Bunların her biri yukarıdaki açıklamalardan birinden ya da resmî bir kaynaktan gelir.

  • Web sayfaları. Beyaz zemin üzerine beyaz yazı, sayfa kodundaki yorumlar, bir spoiler etiketinin arkasındaki metin.
  • E-postalar. Gövdedeki görünmez metin. Anthropic'in güvenlik sayfası "bir yapılacaklar listesinin ya da e-postanın görünmez metin içerebileceği" konusunda uyarır.
  • Takvim davetleri. Etkinlik başlığında, genişletilene kadar gözden uzak.
  • Paylaşılan belgeler. İncelemeniz için gönderilen bir dosyadaki bir piksellik beyaz yazı.
  • Web formları. Müşteri sisteminizi besleyen bir "talebinizi bize anlatın" kutusu.
  • Sohbet kanalları ve kod depoları. Bir yabancının yazabildiği ve asistanınızın okuyabildiği her yer.
  • Görseller. OWASP, zararsız metne eşlik eden bir resme gömülü talimatı listeler.
  • Araç açıklamaları. Information Commissioner's Office (ICO) bunu "bir yapay zekâ ajanının etkileşime girdiği araçların meta verilerine gizlenen araç zehirleme" olarak adlandırır.

Örüntü şu: yapay zekânızın sizin adınıza okuduğu her şey bir giriş kapısıdır ve metni kendiniz görmezsiniz.

Ajanlar riski neden artırıyor

Kandırılan bir sohbet botu kötü bir yanıt verir. Kandırılan bir ajan kötü bir eylem gerçekleştirir. Simon Willison tehlikeli birleşimi Haziran 2025'te adlandırdı: "özel verilerinize erişim", "güvenilmeyen içeriğe maruz kalma" ve "dışarıyla iletişim kurma yeteneği". Buna ölümcül üçlü (lethal trifecta) dedi. Üçüne de sahip bir asistana bir yabancı özel bir şeyi bulup dışarı göndermesini söyleyebilir.

Tabloya geri bakın. Her saldırıda üçü de vardı. Özet özelliği özel mesajları okuyabiliyordu, bir yabancının mesajını okudu ve bir bağlantı gösterebiliyordu. Üçünden herhangi birini çıkarırsanız saldırı başarısız olur.

National Cyber Security Centre'ın Mayıs 2026 tarihli ajan tabanlı yapay zekâ raporu aynı noktayı kuruluşlar için vurgular: "Bir ajan aşırı yetkili ya da kötü tasarlanmışsa, tek bir hata hızla ciddi bir olaya dönüşebilir." Bilgisayar kullanan ajanlar hakkındaki açıklamamız bu araçların artık neler yapabildiğini anlatıyor.

Satıcıların kendi itirafları

Bu, sektörün gizlediği bir sorun değil.

  • Anthropic, Kasım 2025'te yayımladığı araştırmada prompt injection'a "çözülmüş bir sorundan çok uzak" dedi ve "hiçbir tarayıcı ajanının prompt injection'a karşı bağışık olmadığını" yazdı. Kendi rakamlarını da yayımladı: ısrarcı otomatik bir saldırgana karşı, güvenlik önlemleri açıkken en iyi modeli zamanın %1,4'ünde kandırıldı ve %1'in bile "hâlâ anlamlı bir risk oluşturduğunu" söyledi.
  • OpenAI'ın baş bilgi güvenliği sorumlusu bunu Ekim 2025'te "öncü, çözülmemiş bir güvenlik sorunu" olarak tanımladı.
  • Microsoft'un güvenlik müdahale ekibi Temmuz 2025'te yaklaşımının "tüm prompt injection'ları engelleme yeteneğimize dayanmadığını" yazdı. Mayıs 2026'daki bir Microsoft güvenlik yazısı daha açık konuştu: "LLM'iniz bir güvenlik sınırı değildir."
  • Google, Haziran 2025'te katmanlı bir savunmayı anlattı: sınıflandırıcılar, bağlantı filtreleme ve kullanıcıdan riskli eylemleri onaylamasını isteme.
  • National Cyber Security Centre, bunu durdurduğunu iddia eden her satıcıya şüpheyle yaklaşmayı önerir.

Yapımcılar kilidin açılabileceğini söylüyorsa, bir gün açılacağını varsayarak plan yapın.

Küçük bir işletmenin bugün kullanabileceği 9 savunma

  1. Ajana işi görecek en az erişimi verin. National Cyber Security Centre, ajanlara "yalnızca gereken en kısa süre için gereken asgari erişimin" verilmesini söyler. Yanıt taslağı hazırlayan bir asistanın bunları göndermesi gerekmez.
  2. Üçlüyü kırın. Tek bir asistanın aynı görevde hem özel veriyi okumasına, hem yabancıların içeriğini okumasına, hem de dışarıya bir şey göndermesine izin vermeyin. Gelen kutusunu bir oturumda özetleyin; göndermeyi başka bir oturumda kendiniz yapın.
  3. Önemli her şey için döngüde bir insan tutun. OWASP, "yüksek riskli ya da ayrıcalıklı eylemler" için insan incelemesini önerir. Ödemeler, silme işlemleri, bir müşteriye gönderilen her şey.
  4. Yapay zekânın okuduğuna güvenilmez gözüyle bakın. Bir web sayfası, bir ek ve tanımadığınız birinden gelen bir e-posta içeriktir, asla komut değildir.
  5. Yapay zekânın yazdığına da güvenilmez gözüyle bakın. Bir yapay zekâ özetindeki "yeniden kimlik doğrulama" bağlantısına tıklamayın. Slack saldırısı buydu.
  6. Ajan işi için ayrı bir tarayıcı profili kullanın. Anthropic'in kendi güvenlik tavsiyesi, hiçbir bankacılık, sağlık ya da devlet hesabının açık olmadığı bir profildir.
  7. Çalışırken izleyin. Görev sapıyorsa, örneğin bir özet dosyalarınızda aramaya dönüşüyorsa, durdurun. Ajanın ne okuduğunu ve ne yaptığını gösteren kayıtları saklamaya değer.
  8. Düşük riskli işlerle başlayın. Kurumun tavsiyesi "küçük başlayın, ajanları yalnızca düşük riskli görevlerde kullanın" şeklindedir. Faturalardan ve e-postadan önce araştırma ve taslak hazırlama.
  9. Yapay zekâ politikanıza yazın. Hangi aracı kimin hangi hesaba bağlayabileceği ve kimin kapatabileceği. Yapay zekâ politikası şablonumuzda ifadeler hazır.

Bunların hiçbiri bir güvenlik ekibi gerektirmez. Bunlar, bir yabancıdan gelen eki açmama alışkanlığının aynısıdır; yalnızca yeni bir tür yardımcıya uygulanır.

Değiştirmeye değer ayarlar

  • Onay modu. Anthropic'in yardım sayfaları, Claude in Chrome'un her eylemi sizin incelemeniz için "Manually approve" (elle onayla) olarak ayarlanabileceğini ve belirli sitelere erişimini verebileceğinizi ya da kaldırabileceğinizi belirtir.
  • Oturumsuz gezinme. OpenAI'ın güvenlik sorumlusu, Atlas tarayıcı ajanı için ajanın hesaplarınız olmadan çalıştığı, oturumu kapalı bir mod tanımladı. Tanımadığınız sitelerdeki araştırmalar için kullanın.
  • Bağlayıcılar. Bağladığınız her dosya deposu, posta kutusu ve takvim, enjekte edilmiş bir talimatın ulaşabileceği alanı genişletir. Görevin gerektirdiğini bağlayın, sonra bağlantıyı kesin.
  • Otomatik onay. Her "her zaman izin ver" seçeneği güvenliği hızla takas eder. 2025'teki açıklamalardan biri, tam da görmek isteyeceğiniz adımı gizlediğini belirtmişti.

Bir ajanı güvenle kullanmaya devam etmek

Bunların hiçbiri vazgeçmek için bir neden değil. Denetlenen araçları ve makul işleri seçmek için bir neden. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus ve Meta'nın Muse'u aynı sorunla karşı karşıya, Jobbit de öyle. Seçebileceğiniz şey, ne kadarını görüp durdurabildiğinizdir.

  • İzleyin ve devralın. Bir Jobbit ajanının tarayıcısı çalışırken görülebilir ve istediğiniz anda kontrolü devralabilirsiniz. Ajan tarayıcısı rehberimiz nasıl yapıldığını gösteriyor.
  • Harekete geçmeden önce planlayın. Plan modu, hiçbir şey çalışmadan önce adımları onayınıza sunar; bir ajanı yönlendirme rehberimizde anlatıldığı gibi.
  • Üçlüsü olmayan işlerle başlayın. Web sitesi kurmak, belge yazmak, pazar araştırması yapmak ve elektronik tablo hazırlamak az özel veri içerir ve sizin adınıza hiçbir şey gönderilmez.
  • Sırları sohbetin dışında tutun. Projeler sırlar için ayrılmış bir alan içerir, böylece anahtarların ve parolaların bir konuşmaya yapıştırılması gerekmez.
  • Riskli kısmı bir insana bırakın. İnsan ağından denetlenmiş bir profesyonel, ödeme emanette tutularak yargı gerektiren adımı yapabilir.

Dürüst durum, satıcıların benimsediği durumdur: hiçbir ajan bağışık değil. Kandırılan bir ajanın olaya dönüşmesini engelleyen şey denetim ve sınırlı erişimdir.

Birleşik Krallık tablosu

Information Commissioner's Office, Mayıs 2026'da bir kuruluşu yapay zekâ destekli tehditlerden korumak için beş adım yayımladı: karşınızdakini bilin, temelleri doğru kurun ve savunmalarınızı katmanlayın, erişim noktalarını kısıtlayın, tespiti ve müdahaleyi geliştirin, kişisel verileri koruyun. Dolaylı prompt injection'ı "bir yapay zekâ sisteminin işlediği dış içeriğe gömülü" kötü amaçlı talimatlar olarak tanımlar.

Sıradan riskin ölçeği Cyber Security Breaches Survey 2025/2026'da görülüyor: 2.112 işletmelik bir örneklemde Birleşik Krallık işletmelerinin %43'ü önceki on iki ayda bir ihlal ya da saldırı bildirdi. Prompt injection, birçok eski yolun yanında yeni bir yoldur. Küçük işletmeleri hedefleyen yapay zekâ dolandırıcılıkları rehberimiz diğerlerini ele alıyor.

Sıradaki okuma

Sıkça sorulan sorular

Prompt injection basit terimlerle nedir?

Bir yapay zekânın okuduğu şeyin içindeki kelimelerin talimat olarak ele alınmasıdır. Yapay zekâ, sizin isteğinizi bir e-postadaki, web sayfasındaki ya da dosyadaki metinden güvenilir biçimde ayıramaz; bu yüzden gizli bir satır yaptığı işi değiştirebilir. OWASP bunu yapay zekâ uygulamaları listesinde birinci risk olarak sıralar.

Doğrudan ve dolaylı prompt injection arasındaki fark nedir?

Doğrudan enjeksiyonu yapay zekâyı kullanan kişi, kurallarını çiğnetmek için yazar. Dolaylı enjeksiyon ise yapay zekâdan okuması istenen içeriğe, örneğin bir web sayfasına ya da belgeye yerleştirilir ve onu kullanan kişiyi hedefler. Bir işletmeyi tehdit eden dolaylı enjeksiyondur.

Bir yapay zekâ ajanı gizli talimatlar içeren bir e-postayı özetlerse ne olur?

Talimatları izleyebilir. 2024 ve 2025'ten belgelenmiş vakalarda, özet istenen asistanlar özel dosyalarda arama yapmaya, sırları ifşa etmeye ya da veri göndermeye devam etti. Başarılı olup olmaması ürünün güvenlik önlemlerine ve ajanın neye erişebildiğine bağlıdır; bu yüzden sınırlı erişim önemlidir.

Prompt injection tamamen çözülebilir mi?

Mevcut kanıtlara göre hayır. National Cyber Security Centre bu saldırıların hiçbir zaman tamamen önlenemeyebileceğini söylüyor; Anthropic, OpenAI ve Microsoft da sorunun çözülmediğini belirtti. Güvenlik önlemleri başarı oranını düşürür. Ajanın erişebildiklerini sınırlamak zararı sınırlar.

Prompt injection ile jailbreak aynı şey mi?

Kesişirler. Jailbreak genellikle bir kullanıcının yapay zekâyı güvenlik kurallarını yok saymaya ikna etmesi anlamına gelir. Prompt injection ise, üçüncü bir tarafça yerleştirilen metin dahil, yapay zekânın davranışını istenmeyen biçimlerde değiştiren her girdiyi kapsar. Jailbreak, bir tür doğrudan prompt injection'dır.

İşletmemi prompt injection'dan nasıl korurum?

Yapay zekâ araçlarına ihtiyaç duydukları en az erişimi verin, ödemeleri ve giden mesajları bir kişinin onaylamasını sağlayın, tek bir asistanın aynı görevde hem özel veriyi okumasına, hem yabancıların içeriğini okumasına, hem de dışarıya bir şey göndermesine asla izin vermeyin ve ajan işi için ayrı bir tarayıcı profili kullanın. Kuralları bir yapay zekâ politikasına yazın.

Bir yapay zekâ ajanını kullanmak hiç güvenli mi?

Evet, denetimle ve doğru işlerle. Araştırma, taslak hazırlama ve web sitesi kurma gibi az özel veri içeren işlerle başlayın ve yaptıklarını görüp durdurmanıza izin veren bir araç kullanın. Jobbit üzerinde ajanın çalışmasını izleyebilir ve kontrolü devralabilirsiniz; ücretsiz plan günde 100 kredi verir, kart gerekmez.

İlgili rehberler