Что такое промпт-инъекция? 7 реальных атак на ИИ-агентов
Что такое промпт-инъекция (prompt injection)? Простое объяснение, как скрытый текст перехватывает управление ИИ-агентом, 7 задокументированных атак 2024 и 2025 годов и 9 способов защиты.

Промпт-инъекция (prompt injection) возникает, когда текст, который читает ИИ, в письме, на веб-странице или в документе, воспринимается как инструкция и меняет поведение ИИ. Британский National Cyber Security Centre (NCSC, Национальный центр кибербезопасности) заявил в декабре 2025 года, что такие атаки "возможно, никогда не удастся полностью устранить", и все крупные разработчики согласны, что проблема не решена. В этом руководстве простым языком объясняется суть явления, разбираются 7 задокументированных атак и приводятся 9 способов защиты, которые малый бизнес может применить уже сегодня.
Вы просите ИИ-ассистента кратко пересказать утреннюю почту. В одном письме от незнакомого адреса есть строка, которой вы не видите: белый текст на белом фоне, который велит ассистенту найти ваши последние счета и отправить их в другое место. Ассистент не отличает эту строку от вашего запроса. И то и другое для него просто слова. Это и есть промпт-инъекция, и с каждым месяцем она важнее, потому что инструменты перешли от ответов на вопросы к действиям: они читают почту, открывают файлы, нажимают кнопки в браузере. Правительственный опрос Cyber Security Breaches Survey, опубликованный в апреле 2026 года, показал, что 31% британских компаний используют ИИ, внедряют его или рассматривают такую возможность, и лишь у 24% из них есть хоть какой-то процесс управления связанными с ним рисками безопасности.
Дальше: как мы проверяли это руководство, суть идеи простыми словами, 7 реальных атак в таблице, где прячутся скрытые инструкции, почему агенты повышают ставки, в чём признаются сами разработчики, 9 способов защиты, настройки, которые стоит изменить, и как безопасно продолжать пользоваться агентом.
За агентом, которого видно, проще доверять. В Jobbit вы видите браузер агента во время работы и можете перехватить управление в любой момент, а режим Plan показывает шаги до того, как что-либо запустится. Бесплатный тариф, 100 кредитов в день, без карты.
Как мы проверяли это руководство
- Первоисточники, прочитанные 13 ноября 2026 года. Список рисков OWASP для ИИ-приложений, National Cyber Security Centre, американский орган стандартизации NIST, Information Commissioner's Office (ICO, британский регулятор по защите данных), а также публикации по безопасности от Microsoft, Google и Anthropic.
- Каждая атака прослежена до исследователей, которые её раскрыли. Если исходный материал не открылся, в таблице об этом сказано.
- Только защита. Руководство описывает, как работают атаки, на уровне, который публикуют официальные источники. Рабочих текстов для атак в нём нет.
- Цитаты разработчиков приведены дословно из их блогов по безопасности и исследовательских страниц, а не из маркетинговых материалов.
- Мы не утверждаем, что какой-либо продукт неуязвим, включая наш.
Промпт-инъекция простыми словами
OWASP, организация, стоящая за самым известным списком рисков безопасности программ, ставит промпт-инъекцию на первое место в своём списке для ИИ-приложений и определяет её так: уязвимость, которая "возникает, когда пользовательские запросы непреднамеренно изменяют поведение или вывод LLM". Проблема делится на две части.
- Прямая промпт-инъекция (direct prompt injection). Атакующий и есть тот, кто печатает. Он пытается уговорить ИИ нарушить собственные правила. Это в основном забота разработчика.
- Косвенная промпт-инъекция (indirect prompt injection). Инструкция приходит внутри того, что ИИ попросили прочитать. OWASP описывает это как ввод "из внешних источников, например с сайтов или из файлов". Жертва здесь тот, кто пользуется ИИ. Это уже ваша проблема.
Первопричину просто сформулировать. NIST объясняет, что эти модели "объединяют каналы данных и инструкций". Обычная программа держит команды и содержимое раздельно. Языковая модель получает один длинный поток текста и сама решает, какие его части важны.
Название появилось 12 сентября 2022 года, когда разработчик Simon Willison написал: "Предлагаю, чтобы очевидным названием для этого стало prompt injection". Оно перекликается с более старой атакой на базы данных, и National Cyber Security Centre предостерегает от слишком буквального сравнения. У инъекций в базы данных есть известное решение. Для языковых моделей центр предлагает думать об "изначально сбиваемом с толку помощнике" ("inherently confusable deputy"): это помощник с вашим доступом, которого можно уговорить работать на кого-то другого.
7 реальных атак: обзор
| Когда раскрыто | Продукт | Где спряталась инструкция | Что мог сделать атакующий | Что изменилось |
|---|---|---|---|---|
| Август 2024 | Slack AI | Сообщение в публичном канале | Заставить показать жертве приватный секрет в виде ссылки, по которой нужно перейти | По словам исследователей, Slack назвал такое поведение штатным |
| Май 2025 | Агент, подключённый к GitHub | Задача (issue) в публичном репозитории кода | Вытянуть данные из приватного репозитория в публичное место | Исправления не было; рекомендовали сузить права доступа |
| Июнь 2025 | Microsoft 365 Copilot | Письмо, без единого клика | Раскрыть информацию через сеть | Исправлено Microsoft, отслеживается как CVE-2025-32711 |
| Август 2025 | Google Gemini | Название приглашения в календаре | Удалять события, отправлять сообщения, управлять устройствами умного дома | Google добавила подтверждения и фильтрацию |
| Август 2025 | ChatGPT с подключёнными файлами | Крошечный белый текст в общем документе | Искать на подключённом диске ключи и выводить их наружу | OpenAI добавила проверку, которой, по словам исследователей, было недостаточно |
| Август 2025 | Браузер Comet от Perplexity | Скрытый комментарий на веб-странице | Прочитать одноразовый код из почты и захватить аккаунт | Исправлено, затем сообщалось, что исправлено не полностью |
| Сентябрь 2025 | Salesforce Agentforce | Поле описания в веб-форме | Отправить клиентские записи на внешний адрес | Salesforce ввела обязательный список доверенных адресов |
Исследователями были, по порядку, PromptArmor, Invariant Labs, команда, указанная в записи об уязвимости Microsoft, SafeBreach, Zenity Labs, Brave и Noma Labs. Случай с Microsoft 365 Copilot описан по публичной записи об уязвимости и научной статье, потому что исходный материал у нас не открылся.
Бросаются в глаза три вещи. Все продукты принадлежат крупным и осторожным компаниям. Жертвам не пришлось делать ничего необычного: они просили пересказ, принимали приглашение или получали письмо. А несколько исправлений сами исследователи назвали частичными.
Где прячутся скрытые инструкции
Каждый из этих вариантов взят из одного из раскрытий выше или из официального источника.
- Веб-страницы. Белый текст на белом фоне, комментарии в коде страницы, текст за тегом спойлера.
- Письма. Невидимый текст в теле письма. Страница безопасности Anthropic предупреждает, что "в списке дел или в письме может быть невидимый текст".
- Приглашения в календаре. В названии события, вне поля зрения, пока его не развернуть.
- Общие документы. Белый текст в один пиксель в файле, который вам прислали на проверку.
- Веб-формы. Поле "расскажите о вашем запросе", которое попадает в вашу клиентскую систему.
- Чаты и репозитории кода. Любое место, где может написать посторонний, а ваш ассистент может прочитать.
- Изображения. OWASP упоминает инструкцию, встроенную в картинку, которая сопровождает безобидный текст.
- Описания инструментов. Information Commissioner's Office называет это так: "отравление инструментов (tool poisoning), когда инструкция спрятана в метаданных инструментов, с которыми взаимодействует ИИ-агент".
Закономерность такая: всё, что ваш ИИ читает от вашего имени, это потенциальная лазейка, а сам текст вы не увидите.
Почему агенты повышают ставки
Чат-бот, которого обманули, даёт плохой ответ. Агент, которого обманули, совершает плохое действие. Simon Willison назвал опасное сочетание в июне 2025 года: "доступ к вашим приватным данным", "контакт с недоверенным контентом" и "возможность связываться с внешним миром". Он назвал это смертельной тройкой (lethal trifecta). Ассистенту, у которого есть все три, посторонний может приказать найти что-то приватное и отправить наружу.
Вернитесь к таблице. У каждой атаки были все три условия. Функция пересказа могла читать приватные сообщения, она прочитала сообщение постороннего, и она могла показать ссылку. Уберите любое из трёх, и атака не сработает.
В майском документе National Cyber Security Centre 2026 года об агентном ИИ то же самое сказано применительно к организациям: "Если у агента слишком много прав или он плохо спроектирован, один сбой быстро может превратиться в серьёзный инцидент". Наш разбор агентов, управляющих компьютером рассказывает, на что эти инструменты способны сейчас.
В чём признаются сами разработчики
Отрасль не скрывает эту проблему.
- Anthropic в исследовании, опубликованном в ноябре 2025 года, назвала промпт-инъекцию "далёкой от решённой проблемой" и написала, что "ни один браузерный агент не застрахован от промпт-инъекции". Компания привела собственные цифры: против настойчивого автоматизированного атакующего её лучшую модель удавалось обмануть в 1.4% случаев при включённых средствах защиты, и даже 1% "по-прежнему означает существенный риск".
- Директор по информационной безопасности OpenAI в октябре 2025 года назвал это "передовой нерешённой проблемой безопасности".
- Группа реагирования на угрозы безопасности Microsoft написала в июле 2025 года, что её подход "не опирается на нашу способность блокировать все промпт-инъекции". Публикация Microsoft по безопасности в мае 2026 года сказала ещё жёстче: "ваша LLM не является границей безопасности".
- Google в июне 2025 года описала многоуровневую защиту: классификаторы, фильтрацию ссылок и просьбу к пользователю подтвердить рискованные действия.
- National Cyber Security Centre советует скептически относиться к любому разработчику, который заявляет, что остановил это.
Когда сами создатели говорят, что замок можно вскрыть, исходите из того, что однажды его вскроют.
9 способов защиты, доступных малому бизнесу уже сегодня
- Давайте агенту минимальный доступ, достаточный для работы. National Cyber Security Centre советует давать агентам "только минимально необходимый доступ и на минимально необходимое время". Ассистенту, который составляет черновики ответов, не нужно их отправлять.
- Разорвите смертельную тройку. Не позволяйте одному ассистенту в одной задаче читать приватные данные, читать чужой контент и отправлять что-либо наружу. Пересказывайте почту в одном сеансе, а отправляйте сами из другого.
- Оставляйте человека в контуре для всего важного. OWASP рекомендует проверку человеком "для высокорисковых или привилегированных действий". Платежи, удаления, всё, что уходит клиенту.
- Считайте всё, что читает ИИ, недоверенным. Веб-страница, вложение и письмо от неизвестного отправителя это всегда содержимое, а не команды.
- Считайте недоверенным и то, что ИИ пишет. Не переходите по ссылке из ИИ-сводки, чтобы "пройти повторную аутентификацию". Именно так работала атака на Slack.
- Используйте отдельный профиль браузера для работы агента. Собственный совет Anthropic по безопасности: профиль, в котором не выполнен вход в банковские, медицинские и государственные аккаунты.
- Наблюдайте за работой. Если задача уходит в сторону, например пересказ превращается в поиск по вашим файлам, остановите её. Журналы того, что агент читал и делал, стоит сохранять.
- Начинайте с малорисковых задач. Совет центра: "начинайте с малого, используйте агентов только для малорисковых задач". Исследование и черновики раньше счетов и почты.
- Запишите это в свою политику по ИИ. Кто и какой инструмент может подключать к каким аккаунтам и кто может его отключить. Формулировки есть в нашем шаблоне политики по ИИ.
Ни для одного из этих шагов не нужна команда по безопасности. Это те же привычки, что и не открывать вложение от незнакомца, только применённые к новому виду помощника.
Настройки, которые стоит изменить
- Режим подтверждения. В справке Anthropic сказано, что Claude in Chrome можно переключить на "Manually approve" (подтверждать вручную), чтобы вы проверяли каждое действие, и что можно выдавать или отзывать его доступ к отдельным сайтам.
- Просмотр без входа в аккаунты. Руководитель службы безопасности OpenAI описал режим без входа для браузерного агента Atlas, в котором агент работает без ваших аккаунтов. Используйте его для исследования незнакомых сайтов.
- Коннекторы. Каждое подключённое файловое хранилище, почтовый ящик и календарь расширяет то, до чего может дотянуться внедрённая инструкция. Подключайте то, что нужно для задачи, а потом отключайте.
- Автоматическое подтверждение. Любой вариант "всегда разрешать" меняет безопасность на скорость. В одном из раскрытий 2025 года отмечалось, что он скрывает как раз тот шаг, который вы хотели бы увидеть.
Как безопасно продолжать пользоваться агентом
Это не повод отказываться от агентов. Это повод выбирать инструменты под контролем и разумные задачи. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus и Muse от Meta сталкиваются с одной и той же проблемой, как и Jobbit. Выбирать можно то, насколько много вы видите и можете остановить.
- Наблюдайте и перехватывайте управление. Браузер агента Jobbit виден во время работы, и вы можете взять управление на себя в любой момент. Как это делается, показывает наше руководство по браузеру агента.
- План до действий. Режим Plan излагает шаги на утверждение до того, как что-либо запустится, как объяснено в нашем руководстве по управлению агентом.
- Начинайте с работы без тройки. Создание сайта, написание документа, исследование рынка и составление таблицы почти не затрагивают приватные данные и ничего не отправляют от вашего имени.
- Не пишите секреты в чат. В проектах есть отдельное место для секретов, поэтому ключи и пароли не нужно вставлять в разговор.
- Рискованную часть передайте человеку. Проверенный специалист из сети живых исполнителей может выполнить шаг, требующий суждения, а оплата удерживается на эскроу-счёте.
Честная позиция та же, что у разработчиков: ни один агент не застрахован. Контроль и ограниченный доступ не дают обманутому агенту превратиться в инцидент.
Картина по Великобритании
Information Commissioner's Office в мае 2026 года опубликовала пять шагов защиты организации от угроз на основе ИИ: понять, с чем вы имеете дело, обеспечить основы и выстроить многоуровневую защиту, ограничить точки доступа, улучшить обнаружение и реагирование и защитить персональные данные. Косвенную промпт-инъекцию она описывает как вредоносные инструкции, "встроенные во внешний контент, который обрабатывает система ИИ".
Масштаб обычного риска виден в Cyber Security Breaches Survey 2025/2026: 43% британских компаний сообщили об утечке или атаке за предыдущие двенадцать месяцев, по выборке из 2,112 компаний. Промпт-инъекция это один новый путь среди многих старых. Остальные описаны в нашем руководстве по ИИ-мошенничеству против малого бизнеса.
Читайте дальше
- Безопасно ли пользоваться ИИ? Руководство простым языком
- Как писать промпты для ИИ-агентов
- Почему ИИ выдумывает факты
Часто задаваемые вопросы
Что такое промпт-инъекция простыми словами?
Это ситуация, когда слова внутри того, что читает ИИ, воспринимаются как инструкция. ИИ не может надёжно отличить ваш запрос от текста в письме, на веб-странице или в файле, поэтому скрытая строка способна изменить его действия. OWASP ставит её на первое место в своём списке рисков для ИИ-приложений.
В чём разница между прямой и косвенной промпт-инъекцией?
Прямую вводит сам пользователь ИИ, чтобы заставить его нарушить правила. Косвенную подсовывают в содержимое, которое ИИ просят прочитать, например в веб-страницу или документ, и она бьёт по тому, кто им пользуется. Именно косвенная инъекция угрожает бизнесу.
Что будет, если ИИ-агент пересказывает письмо со скрытыми инструкциями?
Он может им последовать. В задокументированных случаях 2024 и 2025 годов ассистенты, которых просили сделать пересказ, продолжали искать приватные файлы, раскрывать секреты или отправлять данные наружу. Успех зависит от защитных мер продукта и от того, к чему у агента есть доступ, поэтому ограниченный доступ так важен.
Можно ли полностью устранить промпт-инъекцию?
По имеющимся данным, нет. National Cyber Security Centre говорит, что такие атаки, возможно, никогда не удастся полностью устранить, а Anthropic, OpenAI и Microsoft заявляли, что проблема не решена. Защитные меры снижают долю успешных атак. Ограничение того, до чего агент может добраться, ограничивает ущерб.
Промпт-инъекция и джейлбрейк это одно и то же?
Они пересекаются. Джейлбрейк обычно означает, что пользователь убеждает ИИ игнорировать правила безопасности. Промпт-инъекция охватывает любой ввод, который непреднамеренно меняет поведение ИИ, включая текст, подложенный третьей стороной. Джейлбрейк это разновидность прямой промпт-инъекции.
Как защитить свой бизнес от промпт-инъекции?
Давайте ИИ-инструментам минимально необходимый доступ, оставляйте за человеком подтверждение платежей и исходящих сообщений, не позволяйте одному ассистенту в одной задаче читать приватные данные, читать чужой контент и отправлять что-либо наружу, и используйте отдельный профиль браузера для работы агента. Запишите правила в политику по ИИ.
Безопасно ли вообще пользоваться ИИ-агентом?
Да, при контроле и правильном выборе задач. Начните с работы, где мало приватных данных, например исследование, черновики и создание сайта, и используйте инструмент, который позволяет видеть и останавливать его действия. В Jobbit вы можете наблюдать за работой агента и брать управление на себя, а бесплатный тариф даёт 100 кредитов в день без карты.