Was ist Prompt Injection? 7 echte Angriffe auf KI-Agenten erklärt
Was ist Prompt Injection? Ein verständlicher Leitfaden: wie versteckter Text einen KI-Agenten kapert, 7 dokumentierte Angriffe aus 2024 und 2025 und 9 Schutzmaßnahmen, die Sie nutzen können.

Prompt Injection (englisch „prompt injection“) liegt vor, wenn Text, den eine KI liest, etwa in einer E-Mail, auf einer Webseite oder in einem Dokument, als Anweisung aufgefasst wird und das Verhalten der KI verändert. Das britische National Cyber Security Centre (NCSC) erklärte im Dezember 2025, solche Angriffe ließen sich „möglicherweise nie vollständig entschärfen“, und alle großen Anbieter räumen ein, dass das Problem ungelöst ist. Dieser Leitfaden erklärt es verständlich, zeigt 7 dokumentierte Angriffe und nennt 9 Schutzmaßnahmen, die ein kleines Unternehmen heute umsetzen kann.
Sie bitten Ihren KI-Assistenten, die E-Mails von heute Morgen zusammenzufassen. Eine Nachricht von einer Ihnen unbekannten Adresse enthält eine Zeile, die Sie nie zu sehen bekommen: weißer Text auf weißem Hintergrund, der den Assistenten anweist, Ihre neuesten Rechnungen zu suchen und anderswohin zu schicken. Der Assistent kann diese Zeile nicht von Ihrer Anfrage unterscheiden. Beides sind nur Wörter. Das ist Prompt Injection, und sie wird mit jedem Monat wichtiger, weil die Werkzeuge nicht mehr nur Fragen beantworten, sondern Dinge tun: das Postfach lesen, Dateien öffnen, im Browser Schaltflächen anklicken. Die Cyber Security Breaches Survey der britischen Regierung vom April 2026 ergab, dass 31% der britischen Unternehmen KI nutzen, einführen oder erwägen, und nur 24% davon hatten überhaupt einen Prozess zum Umgang mit den Sicherheitsrisiken.
Im Folgenden: wie wir diesen Leitfaden geprüft haben, die Idee in einfachen Worten, 7 echte Angriffe in einer Tabelle, wo sich versteckte Anweisungen verbergen, warum Agenten den Einsatz erhöhen, was die Anbieter selbst zugeben, 9 Schutzmaßnahmen, lohnende Einstellungen und wie Sie einen Agenten weiterhin sicher nutzen.
Einem Agenten, den Sie beobachten können, vertraut man leichter. Bei Jobbit sehen Sie den Browser des Agenten bei der Arbeit und können jederzeit übernehmen, und der Plan-Modus zeigt die Schritte, bevor etwas läuft. Kostenloser Tarif, 100 Credits pro Tag, keine Karte.
Wie wir diesen Leitfaden geprüft haben
- Primärquellen, gelesen am 13. November 2026. Die OWASP-Risikoliste für KI-Anwendungen, das National Cyber Security Centre, die US-Normungsbehörde NIST, das Information Commissioner's Office (ICO, die britische Datenschutzbehörde) sowie Sicherheitsbeiträge von Microsoft, Google und Anthropic.
- Jeder Angriff wurde zu den Forschern zurückverfolgt, die ihn gemeldet haben. Wo sich die ursprüngliche Veröffentlichung nicht laden ließ, steht das in der Tabelle.
- Nur Abwehr. Dieser Leitfaden beschreibt die Funktionsweise der Angriffe auf dem Niveau, das offizielle Quellen veröffentlichen. Er enthält keinen funktionierenden Angriffstext.
- Zitate von Anbietern sind deren eigene Worte, aus ihren Sicherheitsblogs und Forschungsseiten, nicht aus Marketingtexten.
- Keine Behauptung, ein Produkt sei immun, auch unseres nicht.
Prompt Injection in einfachen Worten
OWASP, die Organisation hinter der bekanntesten Liste von Softwaresicherheitsrisiken, führt Prompt Injection an erster Stelle ihrer Liste für KI-Anwendungen und definiert sie so: eine Schwachstelle, die „auftritt, wenn Nutzereingaben das Verhalten oder die Ausgabe des LLM auf unbeabsichtigte Weise verändern“. Das Problem wird in zwei Teile gegliedert.
- Direkte Prompt Injection. Die tippende Person ist der Angreifer. Sie versucht, die KI von ihren Regeln abzubringen. Das ist überwiegend das Problem des Anbieters.
- Indirekte Prompt Injection. Die Anweisung steckt in etwas, das die KI lesen soll. OWASP beschreibt sie als Eingabe „aus externen Quellen, etwa Websites oder Dateien“. Die Person, die die KI nutzt, ist das Opfer. Das ist Ihr Problem.
Die Ursache lässt sich einfach benennen. NIST erklärt, diese Modelle „vereinen den Daten- und den Anweisungskanal“. Ein normales Programm hält Befehle und Inhalte getrennt. Ein Sprachmodell erhält einen langen Textstrom und entscheidet selbst, welche Teile zählen.
Der Name stammt vom 12. September 2022, als der Entwickler Simon Willison schrieb: „Ich schlage vor, dass der naheliegende Name dafür Prompt Injection ist.“ Er erinnert an einen älteren Angriff auf Datenbanken, und das National Cyber Security Centre warnt davor, den Vergleich zu weit zu treiben. Für Datenbank-Injection gibt es eine bekannte Lösung. Für Sprachmodelle schlägt das Zentrum vor, an einen „inherently confusable deputy“ (einen von Natur aus leicht zu verwirrenden Stellvertreter) zu denken: einen Helfer mit Ihrem Zugriff, der dazu gebracht werden kann, für jemand anderen zu arbeiten.
7 echte Angriffe auf einen Blick
| Zeitpunkt der Offenlegung | Produkt | Wo sich die Anweisung versteckte | Was ein Angreifer tun konnte | Was sich geändert hat |
|---|---|---|---|---|
| August 2024 | Slack AI | Eine Nachricht in einem öffentlichen Kanal | Ein privates Geheimnis als Link anzeigen lassen, den das Opfer anklickt | Slack bezeichnete das Verhalten laut den Forschern als beabsichtigt |
| Mai 2025 | Ein mit GitHub verbundener Agent | Ein Issue in einem öffentlichen Code-Repository | Daten aus privaten Repositories an einen öffentlichen Ort ziehen | Kein Patch; engere Berechtigungen empfohlen |
| Juni 2025 | Microsoft 365 Copilot | Eine E-Mail, ganz ohne Klick | Informationen über ein Netzwerk preisgeben | Von Microsoft behoben, geführt als CVE-2025-32711 |
| August 2025 | Google Gemini | Der Titel einer Kalendereinladung | Termine löschen, Nachrichten senden, Smart-Home-Geräte steuern | Google ergänzte Bestätigungen und Filterung |
| August 2025 | ChatGPT mit verbundenen Dateien | Winziger weißer Text in einem geteilten Dokument | Ein verbundenes Laufwerk nach Schlüsseln durchsuchen und sie abfließen lassen | OpenAI ergänzte eine Prüfung, die laut den Forschern nicht ausreichte |
| August 2025 | Comet-Browser von Perplexity | Ein versteckter Kommentar auf einer Webseite | Einen Einmalcode aus der E-Mail lesen und ein Konto übernehmen | Gepatcht, danach als nicht vollständig behoben gemeldet |
| September 2025 | Salesforce Agentforce | Das Beschreibungsfeld eines Webformulars | Kundendaten an eine externe Adresse senden | Salesforce erzwang eine Liste vertrauenswürdiger Adressen |
Die Forscher waren der Reihe nach PromptArmor, Invariant Labs, das im Schwachstelleneintrag von Microsoft genannte Team, SafeBreach, Zenity Labs, Brave und Noma Labs. Der Fall Microsoft 365 Copilot wird anhand des öffentlichen Schwachstelleneintrags und einer wissenschaftlichen Arbeit beschrieben, weil sich die ursprüngliche Veröffentlichung für uns nicht laden ließ.
Drei Dinge fallen auf. Jedes Produkt stammt von einem großen, sorgfältigen Unternehmen. Keines der Opfer musste etwas Ungewöhnliches tun: Sie baten um eine Zusammenfassung, nahmen eine Einladung an oder erhielten eine E-Mail. Und mehrere Korrekturen bezeichneten die Forscher als nur teilweise wirksam.
Wo sich die versteckten Anweisungen verbergen
Jedes dieser Beispiele stammt aus einer der obigen Offenlegungen oder aus einer offiziellen Quelle.
- Webseiten. Weißer Text auf weißem Hintergrund, Kommentare im Seitencode, Text hinter einem Spoiler-Tag.
- E-Mails. Unsichtbarer Text im Nachrichtentext. Die Sicherheitsseite von Anthropic warnt: „Eine To-do-Liste oder E-Mail kann unsichtbaren Text enthalten.“
- Kalendereinladungen. Im Titel des Termins, unsichtbar, bis er aufgeklappt wird.
- Geteilte Dokumente. Weißer Text in einem Pixel Größe in einer Datei, die Sie zur Prüfung erhalten haben.
- Webformulare. Ein Feld „Erzählen Sie uns von Ihrer Anfrage“, das Ihr Kundensystem speist.
- Chat-Kanäle und Code-Repositories. Überall, wo ein Fremder etwas posten kann und Ihr Assistent es lesen kann.
- Bilder. OWASP nennt eine in ein Bild eingebettete Anweisung, die einen harmlosen Text begleitet.
- Werkzeugbeschreibungen. Das Information Commissioner's Office nennt dies „Tool Poisoning, bei dem dies in den Metadaten von Werkzeugen versteckt ist, mit denen ein KI-Agent interagiert“.
Das Muster: Alles, was Ihre KI in Ihrem Auftrag liest, ist ein Einfallstor, und den Text sehen Sie selbst nicht.
Warum Agenten den Einsatz erhöhen
Ein getäuschter Chatbot liefert eine schlechte Antwort. Ein getäuschter Agent führt eine schlechte Handlung aus. Simon Willison benannte die gefährliche Kombination im Juni 2025: „Zugriff auf Ihre privaten Daten“, „Kontakt mit nicht vertrauenswürdigen Inhalten“ und „die Fähigkeit, nach außen zu kommunizieren“. Er nannte sie die „lethal trifecta“ (tödliche Dreierkombination). Einem Assistenten mit allen dreien kann ein Fremder auftragen, etwas Privates zu finden und nach außen zu schicken.
Blicken Sie auf die Tabelle zurück. Jeder Angriff hatte alle drei. Die Zusammenfassungsfunktion konnte private Nachrichten lesen, sie las die Nachricht eines Fremden, und sie konnte einen Link anzeigen. Entfällt eines der drei, scheitert der Angriff.
Das Papier des National Cyber Security Centre zu agentischer KI vom Mai 2026 macht dieselbe Aussage für Organisationen: „Wenn ein Agent überprivilegiert oder schlecht konzipiert ist, kann ein einzelnes Versagen schnell zu einem ernsten Vorfall werden.“ Unser Erklärartikel zu Computer-Use-Agenten zeigt, was diese Werkzeuge inzwischen können.
Was die Anbieter selbst zugeben
Die Branche verheimlicht dieses Problem nicht.
- Anthropic bezeichnete Prompt Injection in einer im November 2025 veröffentlichten Studie als „weit von einem gelösten Problem entfernt“ und schrieb, „kein Browser-Agent ist immun gegen Prompt Injection“. Das Unternehmen veröffentlichte eigene Zahlen: Gegen einen hartnäckigen automatisierten Angreifer wurde sein bestes Modell mit aktivierten Schutzmaßnahmen in 1.4% der Fälle getäuscht, und selbst 1% „stellt immer noch ein bedeutsames Risiko dar“.
- OpenAIs Chief Information Security Officer beschrieb es im Oktober 2025 als „ein ungelöstes Sicherheitsproblem an der Spitze der Entwicklung“.
- Das Security Response Team von Microsoft schrieb im Juli 2025, sein Ansatz „hängt nicht davon ab, dass wir alle Prompt Injections blockieren können“. Ein Sicherheitsbeitrag von Microsoft im Mai 2026 formulierte es noch deutlicher: „Ihr LLM ist keine Sicherheitsgrenze.“
- Google beschrieb im Juni 2025 eine mehrschichtige Verteidigung: Klassifikatoren, Link-Filterung und die Bitte an den Nutzer, riskante Aktionen zu bestätigen.
- Das National Cyber Security Centre rät zur Skepsis gegenüber jedem Anbieter, der behauptet, es zu verhindern.
Wenn die Hersteller sagen, das Schloss lasse sich knacken, sollten Sie davon ausgehen, dass es eines Tages passiert.
9 Schutzmaßnahmen, die ein kleines Unternehmen heute nutzen kann
- Geben Sie dem Agenten den geringsten Zugriff, mit dem er die Aufgabe erledigt. Das National Cyber Security Centre rät, Agenten „nur den minimal nötigen Zugriff für den kürzest nötigen Zeitraum“ zu geben. Ein Assistent, der Antworten entwirft, muss sie nicht versenden.
- Durchbrechen Sie die Dreierkombination. Lassen Sie einen Assistenten nicht in derselben Aufgabe private Daten lesen, Inhalte von Fremden lesen und Dinge nach außen senden. Fassen Sie das Postfach in einer Sitzung zusammen und versenden Sie selbst in einer anderen.
- Lassen Sie bei allem Wichtigen einen Menschen mitentscheiden. OWASP empfiehlt menschliche Prüfung „bei Aktionen mit hohem Risiko oder besonderen Rechten“. Zahlungen, Löschungen, alles, was an einen Kunden geht.
- Behandeln Sie das, was die KI liest, als nicht vertrauenswürdig. Eine Webseite, ein Anhang und eine E-Mail eines unbekannten Absenders sind alle Inhalt, niemals Befehle.
- Behandeln Sie auch das, was die KI schreibt, als nicht vertrauenswürdig. Klicken Sie in einer KI-Zusammenfassung nicht auf einen Link zur „erneuten Authentifizierung“. Das war der Slack-Angriff.
- Nutzen Sie für Agentenarbeit ein eigenes Browserprofil. Der Sicherheitsrat von Anthropic selbst lautet: ein Profil, in dem keine Bank-, Gesundheits- oder Behördenkonten angemeldet sind.
- Schauen Sie zu, wie er arbeitet. Wenn die Aufgabe abdriftet, etwa eine Zusammenfassung, die zur Durchsuchung Ihrer Dateien wird, stoppen Sie ihn. Protokolle darüber, was der Agent gelesen und getan hat, lohnt es sich aufzubewahren.
- Beginnen Sie mit Aufgaben mit geringem Risiko. Der Rat des Zentrums lautet: „klein anfangen, Agenten nur für risikoarme Aufgaben nutzen“. Recherche und Entwürfe vor Rechnungen und E-Mails.
- Schreiben Sie es in Ihre KI-Richtlinie. Wer welches Werkzeug mit welchem Konto verbinden darf und wer es abschalten kann. Unsere Vorlage für eine KI-Richtlinie enthält die Formulierungen.
Keine dieser Maßnahmen braucht ein Sicherheitsteam. Es sind dieselben Gewohnheiten wie das Nichtöffnen eines Anhangs von einem Fremden, angewandt auf eine neue Art von Helfer.
Einstellungen, die sich zu ändern lohnen
- Freigabemodus. Laut den Hilfeseiten von Anthropic lässt sich Claude in Chrome auf „Manually approve“ (manuell freigeben) stellen, sodass Sie jede Aktion prüfen, und Sie können den Zugriff auf bestimmte Websites erteilen oder entziehen.
- Abgemeldetes Surfen. Der Sicherheitschef von OpenAI beschrieb einen abgemeldeten Modus für den Browser-Agenten Atlas, in dem der Agent ohne Ihre Konten arbeitet. Nutzen Sie ihn für Recherchen auf Websites, die Sie nicht kennen.
- Konnektoren. Jeder Dateispeicher, jedes Postfach und jeder Kalender, den Sie verbinden, erweitert, was eine eingeschleuste Anweisung erreichen kann. Verbinden Sie, was die Aufgabe braucht, und trennen Sie danach wieder.
- Automatische Freigabe. Jede Option „immer erlauben“ tauscht Sicherheit gegen Tempo. Eine der Offenlegungen von 2025 hielt fest, dass sie genau den Schritt verbirgt, den Sie sehen möchten.
So nutzen Sie weiterhin sicher einen Agenten
Nichts davon ist ein Grund aufzuhören. Es ist ein Grund, beaufsichtigte Werkzeuge und sinnvolle Aufgaben zu wählen. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus und Muse von Meta stehen alle vor demselben Problem, und Jobbit ebenso. Wählen können Sie, wie viel Sie sehen und stoppen können.
- Zuschauen und übernehmen. Der Browser eines Jobbit-Agenten ist bei der Arbeit sichtbar, und Sie können jederzeit die Kontrolle übernehmen. Unser Leitfaden zum Agenten-Browser zeigt, wie.
- Planen, bevor er handelt. Der Plan-Modus legt die Schritte zur Freigabe vor, bevor etwas läuft, wie in unserem Leitfaden zum Steuern eines Agenten erklärt.
- Beginnen Sie mit Arbeit ohne Dreierkombination. Eine Website bauen, ein Dokument schreiben, einen Markt recherchieren und eine Tabelle erstellen enthalten kaum private Daten und nichts, was in Ihrem Namen versendet wird.
- Halten Sie Geheimnisse aus dem Chat heraus. Projekte enthalten einen eigenen Ort für Geheimnisse, sodass Schlüssel und Passwörter nicht in eine Unterhaltung eingefügt werden müssen.
- Geben Sie den riskanten Teil an einen Menschen. Eine geprüfte Fachkraft aus dem menschlichen Netzwerk kann den Schritt übernehmen, der Urteilsvermögen erfordert, mit treuhänderisch verwahrter Zahlung (Escrow).
Die ehrliche Haltung ist die der Anbieter: Kein Agent ist immun. Aufsicht und begrenzter Zugriff verhindern, dass ein getäuschter Agent zum Vorfall wird.
Die Lage in Großbritannien
Das Information Commissioner's Office veröffentlichte im Mai 2026 fünf Schritte, um eine Organisation vor KI-gestützten Bedrohungen zu schützen: wissen, womit man es zu tun hat, die Grundlagen richtig umsetzen und die Abwehr in Schichten aufbauen, Zugangspunkte beschränken, Erkennung und Reaktion verbessern und personenbezogene Daten schützen. Indirekte Prompt Injection beschreibt es als bösartige Anweisungen, die „in externe Inhalte eingebettet sind, die ein KI-System verarbeitet“.
Das Ausmaß des gewöhnlichen Risikos zeigt die Cyber Security Breaches Survey 2025/2026: 43% der britischen Unternehmen meldeten in den vorangegangenen zwölf Monaten eine Sicherheitsverletzung oder einen Angriff, bei einer Stichprobe von 2,112 Unternehmen. Prompt Injection ist ein neuer Weg unter vielen alten. Unser Leitfaden zu KI-Betrug gegen kleine Unternehmen behandelt die übrigen.
Weiterlesen
- Ist KI sicher zu nutzen? Ein verständlicher Leitfaden
- So schreiben Sie Prompts für KI-Agenten
- Warum KI Dinge erfindet
Häufig gestellte Fragen
Was ist Prompt Injection in einfachen Worten?
Es ist der Fall, dass Wörter in etwas, das eine KI liest, als Anweisung behandelt werden. Die KI kann Ihre Anfrage nicht zuverlässig von Text in einer E-Mail, auf einer Webseite oder in einer Datei unterscheiden, sodass eine versteckte Zeile ihr Verhalten ändern kann. OWASP führt sie als erstes Risiko auf seiner Liste für KI-Anwendungen.
Was ist der Unterschied zwischen direkter und indirekter Prompt Injection?
Die direkte Injection tippt die Person, die die KI nutzt, um sie dazu zu bringen, ihre Regeln zu brechen. Die indirekte Injection wird in Inhalten platziert, die die KI lesen soll, etwa einer Webseite oder einem Dokument, und zielt auf die Person, die sie nutzt. Die indirekte Injection ist diejenige, die ein Unternehmen bedroht.
Was passiert, wenn ein KI-Agent eine E-Mail mit versteckten Anweisungen zusammenfasst?
Er befolgt sie möglicherweise. In dokumentierten Fällen aus 2024 und 2025 durchsuchten Assistenten, die um eine Zusammenfassung gebeten wurden, anschließend private Dateien, legten Geheimnisse offen oder sendeten Daten nach außen. Ob es gelingt, hängt von den Schutzmaßnahmen des Produkts und vom Zugriff des Agenten ab, weshalb begrenzter Zugriff wichtig ist.
Lässt sich Prompt Injection beheben?
Nach aktueller Beweislage nicht vollständig. Das National Cyber Security Centre sagt, solche Angriffe ließen sich möglicherweise nie vollständig entschärfen, und Anthropic, OpenAI und Microsoft haben alle erklärt, das Problem sei ungelöst. Schutzmaßnahmen senken die Erfolgsquote. Wer begrenzt, was der Agent erreichen kann, begrenzt den Schaden.
Ist Prompt Injection dasselbe wie Jailbreaking?
Sie überschneiden sich. Jailbreaking bedeutet meist, dass ein Nutzer die KI überredet, ihre Sicherheitsregeln zu ignorieren. Prompt Injection umfasst jede Eingabe, die das Verhalten der KI unbeabsichtigt verändert, einschließlich von Dritten platziertem Text. Ein Jailbreak ist eine Art direkter Prompt Injection.
Wie schütze ich mein Unternehmen vor Prompt Injection?
Geben Sie KI-Werkzeugen den geringsten nötigen Zugriff, lassen Sie einen Menschen Zahlungen und ausgehende Nachrichten freigeben, lassen Sie nie einen Assistenten in derselben Aufgabe private Daten lesen, Inhalte von Fremden lesen und Dinge nach außen senden, und nutzen Sie für Agentenarbeit ein eigenes Browserprofil. Halten Sie die Regeln in einer KI-Richtlinie fest.
Ist es überhaupt sicher, einen KI-Agenten zu nutzen?
Ja, mit Aufsicht und den richtigen Aufgaben. Beginnen Sie mit Arbeit, die wenig private Daten berührt, etwa Recherche, Entwürfe und den Bau einer Website, und nutzen Sie ein Werkzeug, mit dem Sie sehen und stoppen können, was es tut. Bei Jobbit können Sie dem Agenten bei der Arbeit zusehen und die Kontrolle übernehmen, und der kostenlose Tarif bietet 100 Credits pro Tag ohne Karte.