Preparing your workspace
Jobbit
Poradniki11 min czytania

Czym jest prompt injection? 7 prawdziwych ataków na agentów AI

Czym jest prompt injection? Prosty przewodnik o tym, jak ukryty tekst przejmuje agenta AI, 7 udokumentowanych ataków z lat 2024 i 2025 oraz 9 sposobów obrony.

Czym jest prompt injection? 7 prawdziwych ataków na agentów AI
Czytaj w języku:

Prompt injection (wstrzykiwanie poleceń) to sytuacja, w której tekst odczytywany przez AI, w e-mailu, na stronie internetowej lub w dokumencie, zostaje potraktowany jak polecenie i zmienia działanie AI. Brytyjskie National Cyber Security Centre (NCSC) stwierdziło w grudniu 2025 roku, że takie ataki „mogą nigdy nie zostać całkowicie wyeliminowane", a wszyscy więksi dostawcy zgadzają się, że problem pozostaje nierozwiązany. Ten przewodnik wyjaśnia go prostym językiem, pokazuje 7 udokumentowanych ataków i podaje 9 sposobów obrony, które mała firma może zastosować już dziś.

Prosisz asystenta AI o streszczenie porannej poczty. Jedna z wiadomości, od nieznanego adresata, zawiera linijkę, której nie widzisz: biały tekst na białym tle każe asystentowi znaleźć twoje najnowsze faktury i wysłać je gdzie indziej. Asystent nie odróżnia tej linijki od twojej prośby. Jedno i drugie to po prostu słowa. To właśnie prompt injection i z każdym miesiącem ma coraz większe znaczenie, bo narzędzia przeszły od odpowiadania na pytania do działania: czytają skrzynkę, otwierają pliki, klikają przyciski w przeglądarce. Rządowe badanie Cyber Security Breaches Survey, opublikowane w kwietniu 2026 roku, wykazało, że 31% brytyjskich firm używa AI, wdraża ją lub rozważa jej użycie, a tylko 24% z nich miało jakikolwiek proces zarządzania związanymi z nią zagrożeniami bezpieczeństwa.

Poniżej: jak sprawdziliśmy ten przewodnik, idea w prostych słowach, 7 prawdziwych ataków w tabeli, gdzie ukrywają się polecenia, dlaczego agenci podnoszą stawkę, co przyznają sami dostawcy, 9 sposobów obrony, ustawienia warte zmiany oraz jak bezpiecznie korzystać z agenta.

Agentowi, którego możesz obserwować, łatwiej zaufać. W Jobbit widzisz przeglądarkę agenta podczas pracy i w dowolnej chwili możesz przejąć kontrolę, a tryb Plan pokazuje kroki, zanim cokolwiek zostanie uruchomione. Plan bezpłatny, 100 kredytów dziennie, bez karty.

Jak sprawdziliśmy ten przewodnik

  1. Źródła pierwotne, czytane 13 listopada 2026 roku. Lista zagrożeń dla aplikacji AI od OWASP, National Cyber Security Centre, amerykańska instytucja normalizacyjna NIST, Information Commissioner's Office (ICO, brytyjski urząd ochrony danych) oraz wpisy o bezpieczeństwie od Microsoft, Google i Anthropic.
  2. Każdy atak prześledzony do badaczy, którzy go ujawnili. Tam, gdzie oryginalny opis się nie wczytywał, tabela to zaznacza.
  3. Tylko obrona. Przewodnik opisuje działanie ataków na poziomie, na jakim publikują je oficjalne źródła. Nie zawiera żadnego działającego tekstu ataku.
  4. Cytaty dostawców to ich własne słowa, z ich blogów o bezpieczeństwie i stron z badaniami, nie z materiałów marketingowych.
  5. Żadnego twierdzenia, że jakiś produkt jest odporny, także nasz.

Prompt injection prostym językiem

OWASP, organizacja stojąca za najbardziej znaną listą zagrożeń bezpieczeństwa oprogramowania, stawia prompt injection na pierwszym miejscu swojej listy dla aplikacji AI i definiuje go jako podatność, która „występuje, gdy prompty użytkownika zmieniają zachowanie lub wyniki LLM w niezamierzony sposób". Dzieli problem na dwie części.

  • Bezpośredni prompt injection (direct prompt injection). Atakującym jest osoba piszącą. Próbuje wyperswadować AI jej zasady. To głównie problem dostawcy.
  • Pośredni prompt injection (indirect prompt injection). Polecenie przychodzi wewnątrz czegoś, co AI miało przeczytać. OWASP opisuje to jako dane wejściowe „ze źródeł zewnętrznych, takich jak strony internetowe lub pliki". Ofiarą jest osoba korzystająca z AI. To twój problem.

Przyczynę łatwo opisać. NIST wyjaśnia, że te modele „łączą kanały danych i poleceń". Zwykły program oddziela komendy od treści. Model językowy dostaje jeden długi strumień tekstu i sam decyduje, które fragmenty są ważne.

Nazwa pochodzi z 12 września 2022 roku, kiedy programista Simon Willison napisał: „Proponuję, aby oczywistą nazwą dla tego zjawiska było prompt injection." Przypomina ona starszy atak na bazy danych, a National Cyber Security Centre przestrzega przed posuwaniem tego porównania zbyt daleko. Wstrzykiwanie do baz danych ma znane rozwiązanie. W przypadku modeli językowych centrum proponuje myśleć o „z natury łatwo zmylonym pełnomocniku" (inherently confusable deputy): pomocniku z twoim dostępem, którego można namówić do pracy dla kogoś innego.

7 prawdziwych ataków w skrócie

Kiedy ujawnionoProduktGdzie ukryto polecenieCo mógł zrobić atakującyCo się zmieniło
Sierpień 2024Slack AIWiadomość na kanale publicznymSprawić, by prywatny sekret został pokazany ofierze jako link do kliknięciaSlack uznał to zachowanie za zamierzone, według badaczy
Maj 2025Agent połączony z GitHubZgłoszenie (issue) w publicznym repozytorium koduPrzenieść dane z prywatnego repozytorium w miejsce publiczneBez poprawki; zalecono węższe uprawnienia
Czerwiec 2025Microsoft 365 CopilotE-mail, bez potrzeby kliknięciaUjawnić informacje przez siećNaprawione przez Microsoft, śledzone jako CVE-2025-32711
Sierpień 2025Google GeminiTytuł zaproszenia w kalendarzuUsuwać wydarzenia, wysyłać wiadomości, sterować urządzeniami inteligentnego domuGoogle dodał potwierdzenia i filtrowanie
Sierpień 2025ChatGPT z podłączonymi plikamiDrobny biały tekst w udostępnionym dokumenciePrzeszukać podłączony dysk w poszukiwaniu kluczy i je wyciecOpenAI dodał zabezpieczenie, które według badaczy nie wystarczało
Sierpień 2025Przeglądarka Comet od PerplexityUkryty komentarz na stronie internetowejOdczytać jednorazowy kod z poczty i przejąć kontoZałatane, potem zgłoszone jako nie do końca naprawione
Wrzesień 2025Salesforce AgentforcePole opisu w formularzu internetowymWysłać dane klientów na zewnętrzny adresSalesforce wprowadził listę zaufanych adresów

Badaczami byli, w tej kolejności, PromptArmor, Invariant Labs, zespół wskazany w rekordzie podatności Microsoftu, SafeBreach, Zenity Labs, Brave i Noma Labs. Przypadek Microsoft 365 Copilot opisano na podstawie publicznego rekordu podatności i artykułu naukowego, ponieważ oryginalny opis się nie wczytywał.

Rzucają się w oczy trzy rzeczy. Każdy produkt pochodzi od dużej, starannej firmy. Żadna z ofiar nie musiała zrobić nic niezwykłego: poprosiła o streszczenie, przyjęła zaproszenie albo dostała e-mail. A kilka poprawek badacze określili jako częściowe.

Gdzie ukrywają się polecenia

Każdy z tych przykładów pochodzi z jednego z powyższych ujawnień lub z oficjalnego źródła.

  • Strony internetowe. Biały tekst na białym tle, komentarze w kodzie strony, tekst za znacznikiem spoilera.
  • E-maile. Niewidoczny tekst w treści. Strona bezpieczeństwa Anthropic ostrzega, że „lista zadań lub e-mail może zawierać niewidoczny tekst".
  • Zaproszenia w kalendarzu. W tytule wydarzenia, niewidoczne, dopóki go nie rozwiniesz.
  • Udostępnione dokumenty. Biały tekst o wielkości jednego piksela w pliku, który dostałeś do sprawdzenia.
  • Formularze internetowe. Pole „opisz swoje zapytanie", które zasila twój system obsługi klientów.
  • Kanały czatu i repozytoria kodu. Wszędzie tam, gdzie obcy może coś opublikować, a twój asystent może to przeczytać.
  • Obrazy. OWASP wymienia polecenie osadzone w obrazie, który towarzyszy niewinnemu tekstowi.
  • Opisy narzędzi. Information Commissioner's Office (ICO) nazywa to „tool poisoning, czyli zatruwaniem narzędzi, gdzie polecenie jest ukryte w metadanych narzędzi, z którymi współpracuje agent AI".

Schemat jest taki, że wszystko, co AI czyta w twoim imieniu, jest drogą włamania, a samego tekstu nie zobaczysz.

Dlaczego agenci podnoszą stawkę

Chatbot, który da się oszukać, udziela złej odpowiedzi. Agent, którego da się oszukać, podejmuje złe działanie. Simon Willison nazwał niebezpieczne połączenie w czerwcu 2025 roku: „dostęp do twoich prywatnych danych", „kontakt z niezaufaną treścią" i „możliwość komunikacji na zewnątrz". Nazwał je śmiertelną trójką (lethal trifecta). Asystenta, który ma wszystkie trzy, obcy może nakłonić do znalezienia czegoś prywatnego i wysłania tego na zewnątrz.

Wróć do tabeli. Każdy atak miał wszystkie trzy elementy. Funkcja streszczeń mogła czytać prywatne wiadomości, przeczytała wiadomość obcego i mogła pokazać link. Usuń którykolwiek z tych trzech elementów, a atak się nie powiedzie.

Majowy dokument National Cyber Security Centre z 2026 roku o agentowej AI podkreśla to samo w odniesieniu do organizacji: „Jeśli agent ma zbyt szerokie uprawnienia lub został źle zaprojektowany, pojedyncza awaria może szybko stać się poważnym incydentem." Nasz opis agentów obsługujących komputer pokazuje, co te narzędzia potrafią dziś.

Co przyznają sami dostawcy

To nie jest problem, który branża ukrywa.

  • Anthropic w badaniu opublikowanym w listopadzie 2025 roku nazwał prompt injection „dalekim od rozwiązania problemem" i napisał, że „żaden agent przeglądarkowy nie jest odporny na prompt injection". Opublikował własne liczby: wobec wytrwałego, zautomatyzowanego atakującego jego najlepszy model dał się oszukać w 1,4% przypadków przy włączonych zabezpieczeniach, a nawet 1% „nadal stanowi znaczące ryzyko".
  • Dyrektor ds. bezpieczeństwa informacji OpenAI opisał go w październiku 2025 roku jako „graniczny, nierozwiązany problem bezpieczeństwa".
  • Zespół reagowania na zagrożenia Microsoft napisał w lipcu 2025 roku, że jego podejście „nie opiera się na naszej zdolności do zablokowania wszystkich prompt injection". Wpis Microsoft o bezpieczeństwie z maja 2026 ujął to jeszcze dosadniej: „twój LLM nie jest granicą bezpieczeństwa."
  • Google opisał w czerwcu 2025 roku obronę warstwową: klasyfikatory, filtrowanie linków i prośbę do użytkownika o potwierdzenie ryzykownych działań.
  • National Cyber Security Centre zaleca sceptycyzm wobec każdego dostawcy, który twierdzi, że potrafi to powstrzymać.

Skoro twórcy przyznają, że zamek można otworzyć, zakładaj, że kiedyś ktoś to zrobi.

9 sposobów obrony, które mała firma może zastosować już dziś

  1. Daj agentowi najmniejszy dostęp, który wystarcza do pracy. National Cyber Security Centre radzi dawać agentom „tylko minimalny dostęp, jakiego potrzebują, na najkrótszy wymagany czas". Asystent piszący szkice odpowiedzi nie musi ich wysyłać.
  2. Rozbij trójkę. Nie pozwalaj jednemu asystentowi czytać prywatnych danych, czytać treści od obcych i wysyłać rzeczy na zewnątrz w tym samym zadaniu. Streszczaj skrzynkę w jednej sesji, a wysyłaj w innej, sam.
  3. Zostaw człowieka w pętli przy wszystkim, co ważne. OWASP zaleca ludzką kontrolę „dla działań wysokiego ryzyka lub uprzywilejowanych". Płatności, usuwanie, wszystko, co trafia do klienta.
  4. Traktuj to, co AI czyta, jako niezaufane. Strona internetowa, załącznik i e-mail od nieznanego nadawcy to zawsze treść, nigdy polecenia.
  5. Traktuj to, co AI pisze, także jako niezaufane. Nie klikaj linku w streszczeniu AI, aby „uwierzytelnić się ponownie". Tak działał atak na Slack.
  6. Używaj osobnego profilu przeglądarki do pracy z agentem. Własna rada Anthropic w sprawie bezpieczeństwa to profil bez zalogowanych kont bankowych, zdrowotnych i rządowych.
  7. Obserwuj jego pracę. Jeśli zadanie zbacza z kursu, na przykład streszczenie zamienia się w przeszukiwanie twoich plików, zatrzymaj je. Warto zachowywać logi tego, co agent czytał i zrobił.
  8. Zacznij od zadań niskiego ryzyka. Rada centrum brzmi: „zaczynaj od małych kroków, używaj agentów tylko do zadań niskiego ryzyka". Badania i szkice przed fakturami i pocztą.
  9. Zapisz to w polityce dotyczącej AI. Kto może podłączyć które narzędzie do którego konta i kto może je wyłączyć. Nasz wzór polityki AI zawiera gotowe sformułowania.

Żadne z tych działań nie wymaga zespołu ds. bezpieczeństwa. To te same nawyki, co nieotwieranie załącznika od obcego, zastosowane do nowego rodzaju pomocnika.

Ustawienia warte zmiany

  • Tryb zatwierdzania. Strony pomocy Anthropic mówią, że Claude in Chrome można ustawić na „Manually approve" (ręczne zatwierdzanie), aby przeglądać każde działanie, oraz że można przyznawać lub odbierać mu dostęp do wybranych stron.
  • Przeglądanie bez logowania. Szef bezpieczeństwa OpenAI opisał tryb bez zalogowania dla agenta przeglądarki Atlas, w którym agent pracuje bez twoich kont. Używaj go do researchu na nieznanych stronach.
  • Konektory. Każdy podłączony magazyn plików, skrzynka i kalendarz poszerzają to, do czego może dotrzeć wstrzyknięte polecenie. Podłączaj to, czego wymaga zadanie, a potem odłączaj.
  • Automatyczne zatwierdzanie. Każda opcja „zawsze zezwalaj" wymienia bezpieczeństwo na szybkość. Jedno z ujawnień z 2025 roku zauważyło, że ukrywa ona dokładnie ten krok, który chciałbyś zobaczyć.

Jak bezpiecznie korzystać z agenta

Nic z tego nie jest powodem, by przestać. To powód, by wybierać nadzorowane narzędzia i rozsądne zadania. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus i Muse od Meta mierzą się z tym samym problemem, podobnie jak Jobbit. Możesz wybrać to, ile widzisz i ile możesz zatrzymać.

  • Obserwuj i przejmij kontrolę. Przeglądarka agenta Jobbit jest widoczna podczas pracy i w dowolnej chwili możesz przejąć kontrolę. Pokazuje to nasz przewodnik po przeglądarce agenta.
  • Plan przed działaniem. Tryb Plan przedstawia kroki do zatwierdzenia, zanim cokolwiek się uruchomi, jak wyjaśnia nasz przewodnik po sterowaniu agentem.
  • Zacznij od pracy bez trójki. Budowa strony internetowej, pisanie dokumentu, badanie rynku i tworzenie arkusza obejmują niewiele prywatnych danych i nic, co byłoby wysyłane w twoim imieniu.
  • Trzymaj sekrety poza czatem. Projekty mają wydzielone miejsce na sekrety, więc klucze i hasła nie muszą być wklejane do rozmowy.
  • Oddaj ryzykowną część człowiekowi. Zweryfikowany profesjonalista z sieci ludzi może wykonać krok wymagający osądu, a płatność jest wstrzymana w depozycie (escrow).

Uczciwe stanowisko jest takie, jakie zajmują dostawcy: żaden agent nie jest odporny. Nadzór i ograniczony dostęp sprawiają, że oszukany agent nie staje się incydentem.

Sytuacja w Wielkiej Brytanii

Information Commissioner's Office opublikował w maju 2026 roku pięć kroków ochrony organizacji przed zagrożeniami opartymi na AI: wiedz, z czym masz do czynienia, zadbaj o podstawy i buduj warstwy obrony, ogranicz punkty dostępu, popraw wykrywanie i reagowanie oraz chroń dane osobowe. Pośredni prompt injection opisuje jako złośliwe polecenia „osadzone w treści zewnętrznej, którą przetwarza system AI".

Skalę zwykłego ryzyka pokazuje Cyber Security Breaches Survey 2025/2026: 43% brytyjskich firm zgłosiło naruszenie lub atak w ciągu poprzednich dwunastu miesięcy, na próbie 2 112 firm. Prompt injection to jedna nowa droga wśród wielu starych. Nasz przewodnik po oszustwach AI wymierzonych w małe firmy omawia pozostałe.

Czytaj dalej

Najczęściej zadawane pytania

Czym jest prompt injection w prostych słowach?

To sytuacja, gdy słowa wewnątrz czegoś, co AI czyta, są traktowane jak polecenie. AI nie potrafi wiarygodnie odróżnić twojej prośby od tekstu w e-mailu, na stronie internetowej lub w pliku, więc ukryta linijka może zmienić jej działanie. OWASP uznaje to za pierwsze zagrożenie na swojej liście dla aplikacji AI.

Jaka jest różnica między bezpośrednim a pośrednim prompt injection?

Bezpośredni wpisuje osoba korzystająca z AI, aby skłonić ją do złamania własnych zasad. Pośredni jest podłożony w treści, którą AI ma przeczytać, na przykład na stronie internetowej lub w dokumencie, i uderza w osobę z niego korzystającą. To pośredni zagraża firmie.

Co się stanie, gdy agent AI streści e-mail z ukrytymi poleceniami?

Może je wykonać. W udokumentowanych przypadkach z lat 2024 i 2025 asystenci poproszeni o streszczenie przeszukiwali prywatne pliki, ujawniali sekrety lub wysyłali dane na zewnątrz. To, czy się uda, zależy od zabezpieczeń produktu i od tego, do czego agent ma dostęp, dlatego ograniczony dostęp ma znaczenie.

Czy prompt injection da się naprawić?

Według obecnych dowodów nie całkowicie. National Cyber Security Centre mówi, że takie ataki mogą nigdy nie zostać całkowicie wyeliminowane, a Anthropic, OpenAI i Microsoft przyznały, że problem jest nierozwiązany. Zabezpieczenia obniżają skuteczność ataków. Ograniczenie tego, do czego agent ma dostęp, ogranicza szkody.

Czy prompt injection to to samo co jailbreaking?

Częściowo się pokrywają. Jailbreaking zwykle oznacza, że użytkownik nakłania AI do zignorowania jej zasad bezpieczeństwa. Prompt injection obejmuje każde dane wejściowe, które zmieniają zachowanie AI w niezamierzony sposób, także tekst podłożony przez osobę trzecią. Jailbreak to rodzaj bezpośredniego prompt injection.

Jak chronić firmę przed prompt injection?

Dawaj narzędziom AI najmniejszy potrzebny dostęp, niech człowiek zatwierdza płatności i wychodzące wiadomości, nigdy nie pozwalaj jednemu asystentowi czytać prywatnych danych, czytać treści od obcych i wysyłać rzeczy na zewnątrz w tym samym zadaniu, i używaj osobnego profilu przeglądarki do pracy z agentem. Zapisz zasady w polityce dotyczącej AI.

Czy w ogóle bezpiecznie jest używać agenta AI?

Tak, pod nadzorem i przy odpowiednich zadaniach. Zacznij od pracy, która wiąże się z niewielką ilością prywatnych danych, jak research, szkice i budowa strony internetowej, i używaj narzędzia, które pozwala widzieć i zatrzymać to, co robi. W Jobbit możesz obserwować pracę agenta i przejąć kontrolę, a plan bezpłatny daje 100 kredytów dziennie bez karty.

Powiązane poradniki