Що таке prompt injection? 7 реальних атак на ШІ-агентів
Що таке впровадження промптів (prompt injection)? Простий посібник: як прихований текст перехоплює ШІ-агента, 7 задокументованих атак 2024 і 2025 років та 9 способів захисту.

Впровадження промптів (prompt injection) виникає тоді, коли текст, який читає ШІ (в листі, на вебсторінці чи в документі), сприймається як інструкція і змінює поведінку ШІ. У грудні 2025 року британський National Cyber Security Centre (NCSC) заявив, що такі атаки "можливо, ніколи не вдасться повністю нейтралізувати", а всі провідні розробники погоджуються, що проблема не розв'язана. Цей посібник пояснює суть простими словами, показує 7 задокументованих атак і наводить 9 способів захисту, які мале підприємство може застосувати вже сьогодні.
Ви просите ШІ-помічника підсумувати ранкову пошту. В одному листі від невідомої адреси є рядок, якого ви не бачите: білий текст на білому тлі, що наказує помічникові знайти ваші останні рахунки-фактури й надіслати їх кудись ще. Помічник не відрізняє цей рядок від вашого прохання. І те, й інше для нього просто слова. Це і є prompt injection, і з кожним місяцем воно важливіше, бо інструменти перейшли від відповідей на запитання до дій: вони читають пошту, відкривають файли, натискають кнопки в браузері. Урядове опитування Cyber Security Breaches Survey, опубліковане у квітні 2026 року, показало, що 31% британських компаній використовують ШІ, впроваджують його або розглядають таку можливість, і лише 24% з них мали будь-який процес управління його ризиками безпеки.
Далі: як ми перевіряли цей посібник, суть явища простими словами, 7 реальних атак у таблиці, де ховаються приховані інструкції, чому агенти підвищують ставки, що визнають самі розробники, 9 способів захисту, налаштування, які варто змінити, і як безпечно користуватися агентом.
Агенту, за роботою якого можна стежити, легше довіряти. У Jobbit ви бачите браузер агента під час роботи й можете перебрати керування в будь-який момент, а режим Plan показує кроки до того, як щось запуститься. Безкоштовний план, 100 кредитів на день, без картки.
Як ми перевіряли цей посібник
- Первинні джерела, прочитані 13 листопада 2026 року. Перелік ризиків для ШІ-застосунків від OWASP, National Cyber Security Centre, американський орган зі стандартів NIST, Information Commissioner's Office (ICO) та матеріали з безпеки від Microsoft, Google і Anthropic.
- Кожну атаку простежено до дослідників, які її оприлюднили. Якщо оригінальний звіт не завантажувався, таблиця про це повідомляє.
- Лише захист. Посібник описує, як працюють атаки, на рівні, який публікують офіційні джерела. У ньому немає жодного робочого тексту для атаки.
- Цитати розробників наведено їхніми власними словами, з їхніх блогів про безпеку та дослідницьких сторінок, а не з маркетингових матеріалів.
- Жоден продукт не оголошується захищеним, зокрема й наш.
Prompt injection простими словами
OWASP, організація, що стоїть за найвідомішим переліком ризиків безпеки програмного забезпечення, ставить prompt injection на перше місце у своєму переліку для ШІ-застосунків і визначає його так: вразливість, яка "виникає, коли запити користувача змінюють поведінку чи результат LLM непередбачуваним чином". Проблема має дві форми.
- Пряма ін'єкція промптів (direct prompt injection). Атакує той, хто друкує. Він намагається переконати ШІ порушити власні правила. Це переважно проблема розробника.
- Непряма ін'єкція промптів (indirect prompt injection). Інструкція приходить усередині того, що ШІ попросили прочитати. OWASP описує це як вхідні дані "із зовнішніх джерел, таких як вебсайти чи файли". Жертва тут людина, яка користується ШІ. Це ваша проблема.
Першопричину легко сформулювати. NIST пояснює, що ці моделі "поєднують канали даних та інструкцій". Звичайна програма тримає команди й вміст окремо. Мовна модель отримує один довгий потік тексту і сама вирішує, які його частини важливі.
Назва походить від 12 вересня 2022 року, коли розробник Simon Willison написав: "Пропоную очевидну назву для цього: prompt injection." Вона перегукується зі старішою атакою на бази даних, і National Cyber Security Centre застерігає не заходити в цьому порівнянні надто далеко. Для ін'єкцій у бази даних відоме надійне рішення. Для мовних моделей центр пропонує думати про "невід'ємно збитого з пантелику заступника" ("inherently confusable deputy"): помічника з вашим доступом, якого можна умовити працювати на когось іншого.
7 реальних атак коротко
| Коли оприлюднено | Продукт | Де ховалася інструкція | Що міг зробити зловмисник | Що змінилося |
|---|---|---|---|---|
| Серпень 2024 | Slack AI | Повідомлення в публічному каналі | Змусити показати жертві приватний секрет у вигляді посилання, на яке треба натиснути | За словами дослідників, Slack назвав таку поведінку передбаченою |
| Травень 2025 | Агент, підключений до GitHub | Issue в публічному репозиторії коду | Витягнути дані приватного репозиторію в публічне місце | Виправлення не було; радили звузити дозволи |
| Червень 2025 | Microsoft 365 Copilot | Електронний лист, без жодного натискання | Розкрити інформацію через мережу | Виправлено Microsoft, відстежується як CVE-2025-32711 |
| Серпень 2025 | Google Gemini | Назва запрошення в календарі | Видаляти події, надсилати повідомлення, керувати пристроями розумного дому | Google додала підтвердження та фільтрацію |
| Серпень 2025 | ChatGPT із підключеними файлами | Крихітний білий текст у спільному документі | Шукати на підключеному диску ключі й зливати їх | OpenAI додала перевірку, яку дослідники назвали недостатньою |
| Серпень 2025 | Браузер Comet від Perplexity | Прихований коментар на вебсторінці | Прочитати одноразовий код із пошти й перехопити акаунт | Виправлено, але згодом повідомили, що не повністю |
| Вересень 2025 | Salesforce Agentforce | Поле опису у вебформі | Надсилати записи клієнтів на сторонню адресу | Salesforce запровадила список довірених адрес |
Дослідниками були, по порядку, PromptArmor, Invariant Labs, команда, вказана в публічному записі про вразливість Microsoft, SafeBreach, Zenity Labs, Brave і Noma Labs. Випадок із Microsoft 365 Copilot описано за публічним записом про вразливість і науковою статтею, бо оригінальний звіт у нас не завантажився.
Впадають в око три речі. Кожен продукт належить великій, дбайливій компанії. Нікому з жертв не довелося робити нічого незвичайного: вони просили підсумок, приймали запрошення або отримували лист. А кілька виправлень дослідники назвали частковими.
Де ховаються приховані інструкції
Кожен із цих способів походить з одного з викладених вище випадків або з офіційного джерела.
- Вебсторінки. Білий текст на білому тлі, коментарі в коді сторінки, текст за тегом спойлера.
- Електронні листи. Невидимий текст у тілі листа. Сторінка безпеки Anthropic попереджає, що "список справ або лист можуть містити невидимий текст".
- Запрошення в календарі. У назві події, невидимі, доки її не розгорнути.
- Спільні документи. Білий текст в один піксель у файлі, надісланому вам на перегляд.
- Вебформи. Поле "розкажіть про ваш запит", яке подає дані у вашу клієнтську систему.
- Чати й репозиторії коду. Будь-де, куди сторонній може написати, а ваш помічник прочитати.
- Зображення. OWASP наводить інструкцію, вбудовану в картинку, що супроводжує нешкідливий текст.
- Описи інструментів. Information Commissioner's Office називає це "отруєнням інструментів, коли інструкцію приховано в метаданих інструментів, з якими взаємодіє ШІ-агент".
Закономірність така: усе, що ШІ читає за вас, є входом для атаки, а сам текст ви не побачите.
Чому агенти підвищують ставки
Чат-бот, якого ошукали, дає погану відповідь. Агент, якого ошукали, виконує погану дію. Simon Willison назвав небезпечне поєднання у червні 2025 року: "доступ до ваших приватних даних", "вплив недовіреного вмісту" і "здатність зовнішньо спілкуватися". Він назвав це смертельною трійцею (lethal trifecta). Помічникові з усіма трьома складниками сторонній може наказати знайти щось приватне й надіслати назовні.
Погляньте ще раз на таблицю. У кожній атаці були всі три складники. Функція підсумку могла читати приватні повідомлення, прочитала повідомлення стороннього й могла показати посилання. Приберіть будь-який із трьох, і атака не вдасться.
У документі National Cyber Security Centre про агентний ШІ від травня 2026 року та сама думка стосується організацій: "Якщо агент має надмірні повноваження або погано спроєктований, одна помилка швидко може стати серйозним інцидентом." Наш матеріал про агентів із керуванням комп'ютером пояснює, що ці інструменти вже вміють.
Що визнають самі розробники
Індустрія цю проблему не приховує.
- Anthropic у дослідженні, опублікованому в листопаді 2025 року, назвала prompt injection "далеко не розв'язаною проблемою" і написала, що "жоден браузерний агент не застрахований від prompt injection". Компанія навела власні цифри: проти наполегливого автоматизованого атакувальника її найкращу модель ошукали в 1,4% випадків із увімкненими засобами захисту, і вона зазначила, що навіть 1% "все ще становить значний ризик".
- Головний директор з інформаційної безпеки OpenAI у жовтні 2025 року описав це як "передовий, нерозв'язаний виклик безпеки".
- Команда реагування на загрози безпеці Microsoft у липні 2025 року написала, що її підхід "не залежить від нашої здатності блокувати всі prompt injection". Допис Microsoft про безпеку від травня 2026 року сказав прямолінійніше: "ваш LLM не є межею безпеки."
- Google у червні 2025 року описала багаторівневий захист: класифікатори, фільтрацію посилань і запит до користувача на підтвердження ризикованих дій.
- National Cyber Security Centre радить ставитися скептично до будь-якого розробника, що заявляє, ніби може це зупинити.
Коли самі творці кажуть, що замок можна зламати, плануйте з розрахунком, що колись його зламають.
9 способів захисту, які мале підприємство може застосувати сьогодні
- Давайте агентові мінімальний доступ, достатній для роботи. National Cyber Security Centre радить давати агентам "лише мінімальний доступ, потрібний їм, на найкоротший необхідний час". Помічникові, що складає відповіді, не потрібно їх надсилати.
- Розірвіть трійцю. Не дозволяйте одному помічникові в межах одного завдання читати приватні дані, читати вміст сторонніх і надсилати щось назовні. Підсумовуйте пошту в одній сесії, а надсилайте з іншої, самі.
- Залишайте людину в процесі для всього важливого. OWASP рекомендує перегляд людиною "для дій з високим ризиком або привілейованих дій". Платежі, видалення, усе, що надсилається клієнтові.
- Вважайте те, що читає ШІ, недовіреним. Вебсторінка, вкладення й лист від невідомого відправника це вміст, а не команди.
- Вважайте недовіреним і те, що пише ШІ. Не натискайте посилання в підсумку від ШІ, щоб "пройти автентифікацію знову". Саме так працювала атака на Slack.
- Використовуйте окремий профіль браузера для роботи агента. Власна порада Anthropic щодо безпеки: профіль без входу в банківські, медичні чи державні акаунти.
- Стежте за роботою. Якщо завдання зміщується, наприклад підсумок перетворюється на пошук у ваших файлах, зупиніть його. Журнали того, що агент читав і робив, варто зберігати.
- Починайте з низькоризикових завдань. Порада центру: "почніть з малого, використовуйте агентів лише для низькоризикових завдань". Дослідження й чернетки раніше за рахунки-фактури та пошту.
- Запишіть це у вашу політику щодо ШІ. Хто може підключати який інструмент до якого акаунта і хто може його вимкнути. У нашому шаблоні політики щодо ШІ є готове формулювання.
Жодне з цього не потребує команди безпеки. Це ті самі звички, що й не відкривати вкладення від незнайомця, застосовані до нового виду помічника.
Налаштування, які варто змінити
- Режим підтвердження. Довідкові сторінки Anthropic кажуть, що Claude in Chrome можна налаштувати на "Manually approve" (ручне схвалення), щоб переглядати кожну дію, а також надавати або забирати його доступ до окремих сайтів.
- Перегляд без входу в акаунти. Керівник з безпеки OpenAI описав режим без входу для агента-браузера Atlas, у якому агент працює без ваших акаунтів. Користуйтеся ним для досліджень на незнайомих сайтах.
- Конектори. Кожне підключене файлове сховище, поштова скринька й календар розширюють те, до чого може дістатися впроваджена інструкція. Підключайте те, що потрібне для завдання, а потім відключайте.
- Автоматичне схвалення. Кожен варіант "завжди дозволяти" проміняє безпеку на швидкість. В одному з розкриттів 2025 року зазначалося, що він приховує саме той крок, який ви хотіли б побачити.
Як безпечно далі користуватися агентом
Ніщо з цього не привід відмовитися. Це привід обирати інструменти під наглядом і розумні завдання. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus і Muse від Meta стикаються з тією самою проблемою, як і Jobbit. Обрати можна те, наскільки багато ви бачите і можете зупинити.
- Дивіться і перебирайте керування. Браузер агента Jobbit видно під час роботи, і ви можете перебрати керування в будь-який момент. Наш посібник про браузер агента показує, як це робиться.
- План перед дією. Режим Plan викладає кроки на затвердження до того, як щось запуститься, як пояснено в нашому посібнику про керування агентом.
- Починайте з роботи без трійці. Створення сайту, написання документа, дослідження ринку й складання таблиці майже не стосуються приватних даних і нічого не надсилають від вашого імені.
- Не пишіть секрети в чат. У проєктах є окреме місце для секретів, тож ключі й паролі не доводиться вставляти в розмову.
- Передайте ризиковану частину людині. Перевірений фахівець із людської мережі може виконати крок, що потребує судження, а оплата утримується в ескроу.
Чесна позиція така сама, як у розробників: жоден агент не застрахований. Нагляд і обмежений доступ не дають ошуканому агентові перетворитися на інцидент.
Ситуація у Великій Британії
У травні 2026 року Information Commissioner's Office опублікував п'ять кроків захисту організації від загроз на основі ШІ: знати, проти чого ви стоїте, закласти основи й створити багаторівневий захист, обмежити точки доступу, покращити виявлення та реагування і захищати персональні дані. Непряму ін'єкцію промптів він описує як зловмисні інструкції, "вбудовані у зовнішній вміст, який обробляє система ШІ".
Масштаб звичайного ризику видно в Cyber Security Breaches Survey 2025/2026: 43% британських компаній повідомили про злам або атаку за попередні дванадцять місяців, за вибіркою з 2,112 компаній. Prompt injection це лише один новий шлях серед багатьох старих. Інші описано в нашому посібнику про ШІ-шахрайства проти малого бізнесу.
Читайте далі
- Чи безпечно користуватися ШІ? Посібник простими словами
- Як писати промпти для ШІ-агентів
- Чому ШІ вигадує факти
Поширені запитання
Що таке prompt injection простими словами?
Це коли слова всередині того, що читає ШІ, сприймаються як інструкція. ШІ не може надійно відрізнити ваше прохання від тексту в листі, на вебсторінці чи у файлі, тому прихований рядок може змінити його дії. OWASP ставить це на перше місце у своєму переліку ризиків для ШІ-застосунків.
У чому різниця між прямою та непрямою ін'єкцією промптів?
Пряму ін'єкцію друкує той, хто користується ШІ, щоб змусити його порушити правила. Непряму підкидають у вміст, який ШІ просять прочитати, наприклад у вебсторінку чи документ, і вона б'є по тому, хто ним користується. Саме непряма загрожує бізнесу.
Що буде, якщо ШІ-агент підсумовує лист із прихованими інструкціями?
Він може їх виконати. У задокументованих випадках 2024 і 2025 років помічники, яких просили зробити підсумок, переходили до пошуку приватних файлів, розкриття секретів чи надсилання даних назовні. Чи вдасться атака, залежить від засобів захисту продукту й від того, до чого має доступ агент, тому обмежений доступ так важливий.
Чи можна повністю усунути prompt injection?
За наявними даними, не повністю. National Cyber Security Centre каже, що такі атаки, можливо, ніколи не вдасться повністю нейтралізувати, а Anthropic, OpenAI і Microsoft заявляли, що проблема не розв'язана. Засоби захисту знижують частку успішних атак. Обмеження того, до чого агент може дістатися, обмежує шкоду.
Чи те саме prompt injection і джейлбрейк?
Вони перетинаються. Джейлбрейк зазвичай означає, що користувач переконує ШІ ігнорувати правила безпеки. Prompt injection охоплює будь-який ввід, що змінює поведінку ШІ непередбачуваним чином, зокрема текст, підкинутий третьою стороною. Джейлбрейк це різновид прямої ін'єкції промптів.
Як захистити свій бізнес від prompt injection?
Давайте ШІ-інструментам мінімальний потрібний доступ, залишайте людину, що схвалює платежі та вихідні повідомлення, ніколи не дозволяйте одному помічникові в межах одного завдання читати приватні дані, читати вміст сторонніх і надсилати щось назовні, і використовуйте окремий профіль браузера для роботи агента. Запишіть правила у політику щодо ШІ.
Чи безпечно взагалі користуватися ШІ-агентом?
Так, під наглядом і з правильними завданнями. Починайте з роботи, що майже не стосується приватних даних, як-от дослідження, чернетки й створення сайту, і користуйтеся інструментом, що дає бачити й зупиняти його дії. У Jobbit ви можете стежити за роботою агента й перебирати керування, а безкоштовний план дає 100 кредитів на день без картки.