프롬프트 인젝션이란? AI 에이전트를 노린 실제 공격 7건
프롬프트 인젝션이란 무엇일까요? 숨겨진 텍스트가 AI 에이전트를 가로채는 방식, 2024년과 2025년에 기록된 공격 7건, 바로 쓸 수 있는 방어책 9가지를 쉬운 말로 설명합니다.

프롬프트 인젝션(prompt injection)이란 AI가 읽는 텍스트, 즉 이메일, 웹 페이지, 문서 안의 글이 지시로 받아들여져 AI의 행동을 바꾸는 공격입니다. 영국 National Cyber Security Centre(NCSC, 국가 사이버 보안 센터)는 2025년 12월에 이런 공격을 "완전히 완화하지 못할 수도 있다"고 밝혔고, 주요 업체들도 모두 이 문제가 해결되지 않았다는 데 동의합니다. 이 글은 쉬운 말로 개념을 설명하고, 기록된 공격 7건을 보여 드리며, 소규모 사업자가 오늘 바로 적용할 수 있는 방어책 9가지를 소개합니다.
AI 비서에게 오늘 아침 이메일을 요약해 달라고 부탁합니다. 모르는 주소에서 온 메일 한 통에는 여러분의 눈에 보이지 않는 한 줄이 들어 있습니다. 흰 배경 위의 흰 글씨로, 최근 청구서를 찾아 다른 곳으로 보내라는 내용입니다. 비서는 그 줄과 여러분의 요청을 구분하지 못합니다. 둘 다 그저 단어일 뿐입니다. 이것이 프롬프트 인젝션이며, 도구가 질문에 답하는 단계를 넘어 받은 편지함을 읽고, 파일을 열고, 브라우저에서 버튼을 누르는 단계로 옮겨 왔기 때문에 매달 중요성이 커지고 있습니다. 2026년 4월에 발표된 정부의 Cyber Security Breaches Survey는 영국 기업의 31%가 AI를 사용하거나 도입하거나 검토하고 있으며, 그중 보안 위험을 관리하는 절차가 있는 곳은 24%에 불과하다고 밝혔습니다.
아래에서는 이 글을 어떻게 검증했는지, 쉬운 말로 풀어 본 개념, 표로 정리한 실제 공격 7건, 숨은 지시가 숨는 곳, 에이전트가 위험을 키우는 이유, 업체들이 스스로 인정하는 내용, 방어책 9가지, 바꿔 볼 만한 설정, 에이전트를 안전하게 계속 쓰는 방법을 다룹니다.
지켜볼 수 있는 에이전트가 더 믿음직합니다. Jobbit에서는 에이전트가 작업하는 브라우저를 실시간으로 보고 언제든 직접 제어할 수 있으며, Plan 모드는 실행 전에 단계를 먼저 보여 줍니다. 무료 플랜, 하루 100크레딧, 카드 불필요.
이 글을 검증한 방법
- 2026년 11월 13일에 확인한 1차 자료. AI 애플리케이션에 대한 OWASP의 위험 목록, National Cyber Security Centre, 미국 표준 기관 NIST, Information Commissioner's Office(ICO, 영국 정보위원회), Microsoft, Google, Anthropic의 보안 게시물입니다.
- 각 공격을 최초 공개한 연구진까지 추적했습니다. 원문을 열 수 없었던 경우에는 표에 그렇게 적었습니다.
- 방어만 다룹니다. 이 글은 공식 자료가 공개하는 수준으로만 공격 원리를 설명하며, 실제로 작동하는 공격 문구는 담지 않았습니다.
- 업체의 발언은 업체 자신의 말입니다. 마케팅 문구가 아니라 보안 블로그와 연구 페이지에서 가져왔습니다.
- 어떤 제품도 면역이라고 주장하지 않습니다. 저희 제품도 마찬가지입니다.
쉬운 말로 풀어 보는 프롬프트 인젝션
가장 잘 알려진 소프트웨어 보안 위험 목록을 만든 OWASP는 AI 애플리케이션 목록에서 프롬프트 인젝션을 1위에 올리고, "사용자 프롬프트가 의도하지 않은 방식으로 LLM의 동작이나 출력을 바꿀 때 발생하는" 취약점이라고 정의합니다. 문제는 두 가지로 나뉩니다.
- 직접 프롬프트 인젝션. 입력하는 사람이 공격자입니다. AI를 설득해 규칙에서 벗어나게 하려 합니다. 대체로 업체가 해결할 문제입니다.
- 간접 프롬프트 인젝션. AI가 읽도록 요청받은 내용 안에 지시가 들어 있습니다. OWASP는 이를 "웹사이트나 파일 같은 외부 출처"에서 온 입력이라고 설명합니다. AI를 쓰는 사람이 피해자입니다. 이쪽이 여러분의 문제입니다.
근본 원인은 간단합니다. NIST는 이 모델들이 "데이터 채널과 지시 채널을 결합한다"고 설명합니다. 일반 프로그램은 명령과 내용을 분리해 둡니다. 언어 모델은 하나의 긴 텍스트 흐름을 받고, 어느 부분이 중요한지 스스로 판단합니다.
이 이름은 2022년 9월 12일로 거슬러 올라갑니다. 개발자 Simon Willison이 "이것의 명확한 이름은 prompt injection이어야 한다고 제안합니다"라고 썼습니다. 이 이름은 데이터베이스를 노린 오래된 공격에서 따온 것인데, National Cyber Security Centre는 이 비유를 지나치게 밀고 나가지 말라고 경고합니다. 데이터베이스 인젝션에는 알려진 해결책이 있습니다. 언어 모델에 대해서 센터는 "본질적으로 혼동하기 쉬운 대리인"으로 생각하라고 제안합니다. 여러분의 접근 권한을 가졌지만 다른 사람을 위해 일하도록 설득당할 수 있는 조력자라는 뜻입니다.
실제 공격 7건 한눈에 보기
| 공개 시기 | 제품 | 지시가 숨어 있던 곳 | 공격자가 할 수 있었던 일 | 달라진 점 |
|---|---|---|---|---|
| 2024년 8월 | Slack AI | 공개 채널의 메시지 | 비공개 비밀 정보를 피해자에게 클릭할 링크로 보여 주게 함 | 연구진에 따르면 Slack은 해당 동작을 의도된 것이라고 답함 |
| 2025년 5월 | GitHub에 연결된 에이전트 | 공개 코드 저장소의 이슈 | 비공개 저장소 데이터를 공개된 곳으로 끌어냄 | 패치 없음, 권한을 좁힐 것을 권고 |
| 2025년 6월 | Microsoft 365 Copilot | 클릭이 필요 없는 이메일 | 네트워크를 통해 정보를 유출 | Microsoft가 수정, CVE-2025-32711로 추적 |
| 2025년 8월 | Google Gemini | 캘린더 초대장의 제목 | 일정 삭제, 메시지 전송, 스마트홈 기기 제어 | Google이 확인 절차와 필터링을 추가 |
| 2025년 8월 | 파일이 연결된 ChatGPT | 공유 문서 속의 아주 작은 흰색 글씨 | 연결된 드라이브에서 키를 검색해 유출 | OpenAI가 점검을 추가했으나 연구진은 충분하지 않다고 평가 |
| 2025년 8월 | Perplexity의 Comet 브라우저 | 웹 페이지의 숨겨진 주석 | 이메일에서 일회용 코드를 읽어 계정을 탈취 | 패치되었으나 완전히 해결되지 않았다고 보고됨 |
| 2025년 9월 | Salesforce Agentforce | 웹 양식의 설명 입력란 | 고객 기록을 외부 주소로 전송 | Salesforce가 신뢰할 수 있는 주소 목록을 강제 적용 |
연구진은 순서대로 PromptArmor, Invariant Labs, Microsoft 취약점 기록에 이름이 오른 팀, SafeBreach, Zenity Labs, Brave, Noma Labs였습니다. Microsoft 365 Copilot 사례는 원문이 열리지 않아 공개 취약점 기록과 학술 논문을 바탕으로 설명했습니다.
눈에 띄는 점이 세 가지 있습니다. 모든 제품이 신중한 대기업의 제품입니다. 피해자 중 특별한 행동을 한 사람은 없습니다. 요약을 요청했거나, 초대를 수락했거나, 이메일을 받았을 뿐입니다. 그리고 몇몇 수정은 연구진이 부분적인 조치라고 평가했습니다.
숨은 지시가 숨는 곳
아래는 모두 위의 공개 사례 중 하나이거나 공식 자료에서 가져온 것입니다.
- 웹 페이지. 흰 배경 위의 흰 글씨, 페이지 코드 안의 주석, 스포일러 태그 뒤의 텍스트.
- 이메일. 본문 속의 보이지 않는 텍스트. Anthropic의 안전 페이지는 "할 일 목록이나 이메일에 보이지 않는 텍스트가 들어 있을 수 있다"고 경고합니다.
- 캘린더 초대장. 일정 제목에 들어 있으며, 펼치기 전에는 보이지 않습니다.
- 공유 문서. 검토하라고 받은 파일 속의 1픽셀짜리 흰색 글씨.
- 웹 양식. 고객 관리 시스템으로 연결되는 "문의 내용을 알려 주세요" 입력란.
- 채팅 채널과 코드 저장소. 낯선 사람이 글을 올릴 수 있고 여러분의 비서가 읽을 수 있는 모든 곳.
- 이미지. OWASP는 무해한 텍스트와 함께 제공되는 그림 속에 지시가 심겨 있는 경우를 꼽습니다.
- 도구 설명. Information Commissioner's Office는 이를 "AI 에이전트가 상호작용하는 도구의 메타데이터 안에 숨겨진 도구 오염(tool poisoning)"이라고 부릅니다.
공통점은 여러분을 대신해 AI가 읽는 모든 것이 침투 경로가 될 수 있고, 그 텍스트를 여러분은 직접 볼 수 없다는 것입니다.
에이전트가 위험을 키우는 이유
속은 챗봇은 잘못된 답을 줍니다. 속은 에이전트는 잘못된 행동을 합니다. Simon Willison은 2025년 6월에 위험한 조합에 이름을 붙였습니다. "비공개 데이터에 대한 접근", "신뢰할 수 없는 콘텐츠에 대한 노출", "외부와 통신할 수 있는 능력"입니다. 그는 이를 치명적 삼중 조합(lethal trifecta)이라고 불렀습니다. 세 가지를 모두 갖춘 비서는 낯선 사람이 비공개 정보를 찾아 밖으로 보내라고 시킬 수 있습니다.
위의 표를 다시 보십시오. 모든 공격에 세 가지가 다 있었습니다. 요약 기능은 비공개 메시지를 읽을 수 있었고, 낯선 사람의 메시지를 읽었으며, 링크를 보여 줄 수 있었습니다. 셋 중 하나만 없애도 공격은 실패합니다.
National Cyber Security Centre가 2026년 5월에 낸 에이전트형 AI 문서는 조직에 대해 같은 점을 지적합니다. "에이전트에 과도한 권한이 있거나 설계가 부실하면 단 한 번의 실패가 곧바로 심각한 사고로 이어질 수 있다." 컴퓨터 사용 에이전트에 관한 해설에서 이런 도구가 이제 무엇을 할 수 있는지 다룹니다.
업체들이 스스로 인정하는 내용
업계가 이 문제를 숨기는 것이 아닙니다.
- Anthropic은 2025년 11월에 발표한 연구에서 프롬프트 인젝션을 "해결과는 거리가 먼 문제"라고 부르고 "프롬프트 인젝션에 면역인 브라우저 에이전트는 없다"고 썼습니다. 자체 수치도 공개했습니다. 끈질린 자동화 공격자를 상대로 안전장치를 켠 최고 성능 모델이 속은 비율은 1.4%였고, 1%라 해도 "여전히 의미 있는 위험"이라고 밝혔습니다.
- OpenAI의 최고정보보안책임자는 2025년 10월에 이를 "최전선의 미해결 보안 문제"라고 설명했습니다.
- Microsoft의 보안 대응팀은 2025년 7월에 자사의 접근 방식이 "모든 프롬프트 인젝션을 차단하는 능력에 의존하지 않는다"고 썼습니다. 2026년 5월의 Microsoft 보안 게시물은 더 직설적으로 "LLM은 보안 경계가 아니다"라고 했습니다.
- Google은 2025년 6월에 분류기, 링크 필터링, 위험한 작업에 대해 사용자에게 확인을 요청하는 방식의 다층 방어를 설명했습니다.
- National Cyber Security Centre는 이를 막을 수 있다고 주장하는 모든 업체에 대해 회의적으로 보라고 조언합니다.
만든 쪽이 자물쇠를 딸 수 있다고 말한다면, 언젠가는 열릴 것이라고 가정하고 계획하십시오.
소규모 사업자가 오늘 쓸 수 있는 방어책 9가지
- 일을 해내는 데 필요한 최소한의 접근만 주십시오. National Cyber Security Centre는 에이전트에게 "필요한 최소한의 접근 권한만, 필요한 가장 짧은 기간 동안" 주라고 말합니다. 답장 초안을 쓰는 비서가 그 답장을 보낼 필요는 없습니다.
- 삼중 조합을 끊으십시오. 하나의 비서가 같은 작업에서 비공개 데이터를 읽고, 낯선 사람의 콘텐츠를 읽고, 밖으로 무언가를 보내게 하지 마십시오. 받은 편지함 요약은 한 세션에서 하고, 발송은 다른 곳에서 직접 하십시오.
- 중요한 일에는 사람이 개입하게 하십시오. OWASP는 "고위험 또는 권한이 필요한 작업"에 사람의 검토를 권장합니다. 결제, 삭제, 고객에게 보내는 모든 것이 해당합니다.
- AI가 읽는 것은 신뢰할 수 없는 것으로 다루십시오. 웹 페이지, 첨부 파일, 모르는 발신자의 이메일은 모두 내용일 뿐 명령이 아닙니다.
- AI가 쓰는 것도 신뢰할 수 없는 것으로 다루십시오. AI 요약 속의 링크를 "재인증"하라며 클릭하지 마십시오. 그것이 Slack 공격이었습니다.
- 에이전트 작업에는 별도의 브라우저 프로필을 쓰십시오. Anthropic 자체의 안전 조언은 은행, 건강, 정부 계정에 로그인하지 않은 프로필을 쓰라는 것입니다.
- 작업하는 모습을 지켜보십시오. 요약이 파일 검색으로 바뀌는 것처럼 작업이 엉뚱한 방향으로 흐르면 멈추십시오. 에이전트가 무엇을 읽고 무엇을 했는지에 대한 로그는 보관할 가치가 있습니다.
- 위험이 낮은 일부터 시작하십시오. 센터의 조언은 "작게 시작하고, 위험이 낮은 작업에만 에이전트를 쓰라"는 것입니다. 청구서와 이메일보다 먼저 조사와 초안 작성입니다.
- AI 정책에 명문화하십시오. 누가 어떤 도구를 어떤 계정에 연결할 수 있는지, 누가 끌 수 있는지를 적습니다. 저희의 AI 정책 템플릿에 문구가 있습니다.
이 중 보안팀이 필요한 것은 없습니다. 낯선 사람이 보낸 첨부 파일을 열지 않는 것과 같은 습관을 새로운 종류의 조력자에게 적용하는 것입니다.
바꿔 볼 만한 설정
- 승인 모드. Anthropic의 도움말 페이지에 따르면 Claude in Chrome은 "Manually approve"(수동 승인)로 설정해 모든 작업을 직접 검토할 수 있고, 특정 사이트에 대한 접근 권한을 부여하거나 제거할 수 있습니다.
- 로그아웃 상태 탐색. OpenAI의 보안 책임자는 Atlas 브라우저 에이전트에 로그아웃 모드가 있다고 설명했습니다. 에이전트가 여러분의 계정 없이 작업하는 방식입니다. 잘 모르는 사이트를 조사할 때 쓰십시오.
- 커넥터. 연결하는 파일 저장소, 메일함, 캘린더가 하나 늘 때마다 주입된 지시가 닿을 수 있는 범위도 넓어집니다. 작업에 필요한 것만 연결하고, 끝나면 연결을 끊으십시오.
- 자동 승인. "항상 허용" 옵션은 안전을 속도와 맞바꿉니다. 2025년의 공개 사례 중 하나는 이 옵션이 여러분이 가장 보고 싶은 바로 그 단계를 가린다고 지적했습니다.
에이전트를 안전하게 계속 쓰는 방법
이 중 어느 것도 사용을 멈춰야 할 이유는 아닙니다. 감독할 수 있는 도구와 적절한 작업을 고르라는 이유일 뿐입니다. ChatGPT, Claude, Gemini, Microsoft Copilot, Manus, Meta의 Muse 모두 같은 문제를 안고 있으며 Jobbit도 마찬가지입니다. 선택할 수 있는 것은 얼마나 볼 수 있고 얼마나 멈출 수 있느냐입니다.
- 지켜보다가 넘겨받기. Jobbit 에이전트의 브라우저는 작업 중에 볼 수 있고, 언제든 직접 제어할 수 있습니다. 방법은 에이전트 브라우저 가이드에 나와 있습니다.
- 실행 전에 계획 확인. Plan 모드는 실행 전에 단계를 먼저 보여 주고 승인을 받습니다. 에이전트 조종하기 가이드에서 설명합니다.
- 삼중 조합이 없는 작업부터 시작. 웹사이트 제작, 문서 작성, 시장 조사, 스프레드시트 작성에는 비공개 데이터가 거의 없고 여러분을 대신해 밖으로 보내는 것도 없습니다.
- 비밀 정보는 채팅 밖에 두기. 프로젝트에는 비밀 정보 전용 공간이 있어서 키와 비밀번호를 대화에 붙여 넣을 필요가 없습니다.
- 위험한 부분은 사람에게 맡기기. 휴먼 네트워크의 검증된 전문가가 판단이 필요한 단계를 맡을 수 있으며, 대금은 에스크로에 보관됩니다.
솔직한 입장은 업체들이 취하는 입장과 같습니다. 면역인 에이전트는 없습니다. 속은 에이전트가 사고로 번지지 않게 막아 주는 것은 감독과 제한된 접근입니다.
영국의 상황
Information Commissioner's Office는 2026년 5월에 AI 기반 위협으로부터 조직을 보호하기 위한 다섯 단계를 발표했습니다. 상대를 파악하기, 기본을 갖추고 방어를 겹겹이 쌓기, 접근 지점을 제한하기, 탐지와 대응을 개선하기, 개인정보를 보호하기입니다. 간접 프롬프트 인젝션은 "AI 시스템이 처리하는 외부 콘텐츠에 심어진" 악의적 지시로 설명합니다.
일상적인 위험의 규모는 Cyber Security Breaches Survey 2025/2026에 나와 있습니다. 영국 기업의 43%가 지난 12개월 동안 침해나 공격을 보고했으며, 표본은 2,112개 기업이었습니다. 프롬프트 인젝션은 오래된 여러 경로 가운데 새로 생긴 하나일 뿐입니다. 나머지는 소규모 사업자를 겨냥한 AI 사기 가이드에서 다룹니다.
다음 글
자주 묻는 질문
프롬프트 인젝션이란 쉽게 말해 무엇인가요?
AI가 읽는 대상 안의 글이 지시로 취급되는 것입니다. AI는 여러분의 요청과 이메일, 웹 페이지, 파일 속의 텍스트를 확실하게 구분하지 못하므로, 숨겨진 한 줄이 AI의 행동을 바꿀 수 있습니다. OWASP는 이를 AI 애플리케이션 위험 목록의 1위로 꼽습니다.
직접 프롬프트 인젝션과 간접 프롬프트 인젝션은 무엇이 다른가요?
직접 인젝션은 AI를 쓰는 사람이 규칙을 어기게 하려고 직접 입력하는 것입니다. 간접 인젝션은 웹 페이지나 문서처럼 AI가 읽도록 요청받은 콘텐츠에 심어 두며, 그것을 사용하는 사람을 노립니다. 기업에 위협이 되는 쪽은 간접 인젝션입니다.
AI 에이전트가 숨은 지시가 담긴 이메일을 요약하면 어떻게 되나요?
지시를 따를 수 있습니다. 2024년과 2025년에 기록된 사례에서 요약을 요청받은 비서가 비공개 파일을 검색하고, 비밀 정보를 드러내고, 데이터를 밖으로 보냈습니다. 성공 여부는 제품의 안전장치와 에이전트가 접근할 수 있는 범위에 달려 있으며, 그래서 접근 제한이 중요합니다.
프롬프트 인젝션은 완전히 해결할 수 있나요?
현재의 증거로는 완전히는 어렵습니다. National Cyber Security Centre는 이런 공격을 완전히 완화하지 못할 수도 있다고 말하며, Anthropic, OpenAI, Microsoft도 모두 이 문제가 해결되지 않았다고 밝혔습니다. 안전장치는 성공률을 낮춥니다. 에이전트가 닿을 수 있는 범위를 제한하면 피해가 제한됩니다.
프롬프트 인젝션은 탈옥(jailbreaking)과 같은가요?
겹치는 부분이 있습니다. 탈옥은 보통 사용자가 AI를 설득해 안전 규칙을 무시하게 하는 것을 뜻합니다. 프롬프트 인젝션은 제3자가 심은 텍스트를 포함해 AI의 행동을 의도하지 않은 방식으로 바꾸는 모든 입력을 아우릅니다. 탈옥은 직접 프롬프트 인젝션의 한 종류입니다.
프롬프트 인젝션으로부터 사업을 보호하려면 어떻게 해야 하나요?
AI 도구에는 필요한 최소한의 접근만 주고, 결제와 외부로 나가는 메시지는 사람이 승인하게 하십시오. 하나의 비서가 같은 작업에서 비공개 데이터를 읽고, 낯선 사람의 콘텐츠를 읽고, 밖으로 보내게 하지 말며, 에이전트 작업에는 별도의 브라우저 프로필을 쓰십시오. 규칙은 AI 정책에 적어 두십시오.
AI 에이전트를 쓰는 것 자체가 안전한가요?
감독하고 적절한 작업을 맡긴다면 그렇습니다. 조사, 초안 작성, 웹사이트 제작처럼 비공개 데이터가 적은 작업부터 시작하고, 에이전트가 하는 일을 보고 멈출 수 있는 도구를 쓰십시오. Jobbit에서는 에이전트가 작업하는 모습을 보고 직접 제어할 수 있으며, 무료 플랜은 카드 없이 하루 100크레딧을 제공합니다.