AI 에이전트 용어사전: 쉬운 말로 풀어낸 AI 용어 60가지 (2026)

이제 모든 AI 제품 페이지는 받아쓰기 시험처럼 읽힙니다: 에이전틱, MCP, RAG, 컨텍스트 윈도, 도구 호출, 가드레일, 오케스트레이션. 이 단어들 뒤에 있는 개념은 대부분 단순하지만, 아무도 한곳에 모아 설명해주지 않습니다. 그리고 그 공백이 바로 그토록 많은 사람이 진짜 일을 맡겨보지도 않은 채 "AI를 쓴다"고 말하는 이유입니다.

이 AI 용어사전이 그 공백을 메웁니다. 2026년에 AI 에이전트, 거대 언어 모델, 자동화에 관한 글을 읽을 때 만나게 될 용어 60개를 주제별로 묶어 구체적인 예시와 함께 쉬운 말로 설명합니다. 즐겨찾기에 저장하고, 팀원과 공유하고, 에이전틱 AI란 무엇인지와 AI 서브에이전트의 작동 방식을 다루는 가이드와 함께 활용해보세요. 어떤 용어가 Jobbit 사용에 특히 중요할 때는 그렇게 짚어드립니다.

핵심 개념: 누구나 쓰는 단어들

• 인공지능(AI): 언어를 이해하거나 이미지를 인식하거나 결정을 내리는 등, 보통 사람의 지능이 필요한 작업을 수행하는 소프트웨어입니다. 2026년에는 이 용어가 대체로 거대 언어 모델 위에 구축된 시스템을 가리킵니다.

• 머신러닝(ML): 명시적인 규칙을 일일이 작성하는 대신 예시로 소프트웨어를 학습시키는 기법입니다. 스팸 필터는 수백만 개의 라벨링된 이메일에서 학습하며, 모든 규칙을 사람이 하나하나 알려주지 않습니다.

• 딥러닝: 여러 층으로 이루어진 신경망을 사용하는 머신러닝입니다. 현대의 이미지 인식, 음성, 언어 모델을 가능하게 한 기술입니다.

• 생성형 AI: 프롬프트로부터 텍스트, 이미지, 코드, 오디오, 영상 같은 새로운 콘텐츠를 만들어내는 AI입니다. ChatGPT, Claude, Gemini, Midjourney가 생성형 AI 제품입니다.

• 거대 언어 모델(LLM): 방대한 텍스트로 학습되어 시퀀스의 다음 토큰을 예측하며, 그 과정에서 추론하고, 글을 쓰고, 지시를 따르는 법을 익히는 신경망입니다. GPT, Claude, Gemini, Llama, DeepSeek, Mistral이 LLM 계열입니다.

• 파운데이션 모델: 폭넓은 데이터로 학습되어 다양한 작업에 맞게 조정할 수 있는 대형 모델입니다. LLM은 언어를 위한 파운데이션 모델이며, 이미지와 영상에도 그에 상응하는 모델이 있습니다.

• 멀티모달 모델: 텍스트, 이미지, 오디오, 때로는 영상까지 한 가지 이상의 입력 형식을 이해하고 생성하는 모델입니다. 멀티모달 모델 덕분에 에이전트가 스크린샷이나 스캔한 인보이스를 읽을 수 있습니다.

• 프롬프트: 모델에게 주는 지시입니다. 프롬프트를 잘 쓰는 것은 하나의 기술입니다. AI 에이전트를 위한 프롬프트 작성법을 참고하세요.

• 시스템 프롬프트: 제품을 만든 쪽이 설정해두는 숨겨진 지시로, 모든 대화에서 모델이 행동하는 방식, 즉 역할, 어조, 규칙, 도구를 결정합니다.

• 추론(inference): 학습된 모델을 실행해 답을 만들어내는 행위입니다. 학습은 한 번 일어나지만, 추론은 메시지를 보낼 때마다 일어나며, 당신이 비용을 지불하는 대상이 바로 이것입니다.

모델은 어떻게 사고하는가: 토큰, 컨텍스트, 추론

• 토큰: 모델이 읽고 쓰는 단위로, 영어 단어 하나의 대략 4분의 3에 해당합니다. 가격, 한도, 속도는 모두 토큰으로 측정됩니다. "토큰 100만 개"는 대략 영어 단어 75만 개에 해당합니다.

• 컨텍스트 윈도: 모델이 한 번에 고려할 수 있는 텍스트의 양으로, 대화 내용, 문서, 모델 자신의 답변까지 포함합니다. 윈도가 클수록 에이전트가 코드베이스 전체나 100페이지짜리 계약서를 한꺼번에 염두에 둘 수 있습니다.

• 컨텍스트 엔지니어링: 컨텍스트 윈도에 무엇을 담을지, 즉 어떤 문서, 예시, 도구 결과, 메모리를 넣을지 결정하는 기술로, 모델이 필요한 것만 갖추고 방해되는 것은 갖지 않게 합니다. 에이전트 설계에서 중요한 기술로서 "프롬프트 엔지니어링"을 상당 부분 대체했습니다.

• 추론 모델: 답하기 전에 "생각"하도록 학습되어, 수학, 코드, 계획의 정확도를 높이는 중간 단계를 만들어내는 모델입니다. 추론 모드는 토큰을 더 많이 쓰지만 에이전트를 훨씬 더 신뢰할 만하게 만듭니다.

• 사고 연쇄(chain of thought): 모델이 답에 이르는 과정에서 단계별로 적어 내려가는 추론입니다. 추론 모델은 이를 기본적으로 수행하며, 예전 모델은 프롬프트로 유도해야 합니다.

• 온도(temperature): 무작위성을 조절하는 설정입니다. 온도가 낮으면 일관되고 예측 가능한 결과가 나오고, 높으면 더 다양하고 창의적인 결과가 나옵니다.

• 환각(hallucination): 지어낸 인용이나 존재하지 않는 제품 기능처럼, 모델이 자신 있게 내놓는 틀린 진술입니다. 에이전트는 하나의 답을 그대로 믿는 대신 출처를 확인하고 결과를 테스트해 환각을 줄입니다.

• 그라운딩(grounding): 모델의 답을 실제 데이터, 문서, 검색 결과, 도구 출력에 결부시켜, 그럴듯하게 들리는 말이 아니라 실제로 존재하는 내용을 보고하게 하는 것입니다.

• 파인튜닝: 자신만의 예시로 모델을 추가 학습시켜 특정 스타일, 형식, 도메인 지식을 익히게 하는 것입니다. 좁은 범위의 작업에는 유용하지만, 도구와 컨텍스트에서 지식을 얻는 에이전트에게는 대체로 불필요합니다.

• 검색 증강 생성(RAG): 질문이 들어온 시점에 관련 문서를 가져와 컨텍스트 윈도에 넣어, 모델이 당신의 데이터를 근거로 답하게 하는 방식입니다. "내 문서와 대화하기" 제품들이 작동하는 원리입니다.

• 임베딩: 의미를 포착하는 텍스트의 수치 표현으로, 비슷한 구절끼리 가까이 위치하게 됩니다. 임베딩은 의미 기반 검색과 RAG를 뒷받침합니다.

• 벡터 데이터베이스: 임베딩을 저장하고 검색하는 데 최적화된 데이터베이스입니다. Pinecone, Weaviate, pgvector, Chroma가 흔히 쓰입니다.

• 지식 컷오프: 그 이후로는 모델에 학습 데이터가 없는 기준 날짜입니다. 에이전트는 웹을 검색하고 최신 출처를 읽음으로써 이를 우회합니다.

에이전트: 자율성의 어휘

• AI 에이전트: 모델과 도구를 함께 사용해 작업을 자율적으로 완수하는 소프트웨어입니다: 계획하고, 행동하고, 결과를 관찰하고, 조정합니다. 이 용어사전 대부분의 주제입니다.

• 에이전틱 AI: 목표 지향적이고 도구를 사용하는 AI 시스템을 만드는 더 넓은 접근 방식으로, 흔히 여러 에이전트가 함께 작동합니다. 에이전틱 AI란 무엇인가?에서 자세히 설명합니다.

• AI 어시스턴트 / 코파일럿: 당신의 직접적인 통제 아래 머무르며, 행동하기보다 제안하는 에이전트 비슷한 도움입니다. 에디터 안의 GitHub Copilot이 전형적인 예이며, "에이전트 모드"는 코파일럿이 에이전트로 바뀌는 지점입니다.

• 자율성: 에이전트가 묻지 않고 스스로 하는 정도입니다. 유용한 시스템은 행동을 되돌릴 수 있는 정도에 맞춰 자율성을 조절합니다: 초안은 자유롭게, 지출은 승인이 있을 때만.

• 도구 사용 / 함수 호출: 모델이 소프트웨어를 호출하는 메커니즘입니다: 웹 검색, 코드 실행, 데이터베이스 조회, 이메일 발송까지요. 도구가 챗봇을 에이전트로 바꿉니다.

• 모델 컨텍스트 프로토콜(MCP): Anthropic이 도입한 개방형 표준으로, 모델을 도구 및 데이터 소스와 일관된 방식으로 연결합니다. 에이전트를 위한 만능 플러그라고 생각하면 됩니다. 2025년과 2026년에 걸쳐 주요 AI 플랫폼 전반으로 지원이 확산됐습니다.

• 에이전트 간 프로토콜(A2A): 서로 다른 공급업체의 에이전트들이 서로를 발견하고 대화할 수 있게 하는 표준으로, Google이 제안했습니다. MCP와 함께, 여러 회사에 걸쳐 에이전트들이 협업하는 방향을 가리킵니다.

• 오케스트레이션: 여러 단계, 도구, 에이전트를 하나의 워크플로로 조율하는 것입니다: 무엇을 어떤 순서로 실행할지, 실패하면 어떻게 할지 결정합니다.

• 멀티 에이전트 시스템: 서로 다른 역할을 맡은 여러 에이전트가 하나의 목표를 위해 함께 작동하는 구조로, 보통 계획하고 위임하는 리드 에이전트와 조사·구축·검증을 맡는 전문 에이전트로 이루어집니다.

• 서브에이전트: 다른 에이전트가 작업의 한 조각을 병렬로 처리하도록 만들어낸 에이전트입니다. Jobbit은 서브에이전트를 이용해 여러 출처를 동시에 조사하거나 여러 기능을 한꺼번에 만들고 테스트합니다. AI 서브에이전트 해설을 참고하세요.

• 플래너(planner): 목표를 단계로 나누고, 결과가 들어오는 대로 계획을 수정하는 에이전트의 구성 요소입니다.

• 메모리: 에이전트가 한 번의 메시지를 넘어 유지하는 것입니다. 단기 메모리는 현재의 컨텍스트이고, 장기 메모리는 선호, 과거의 결정, 당신에 관한 사실을 저장해 에이전트가 시간이 지날수록 나아지게 합니다.

• 에이전트 루프: 목표가 달성되거나 에이전트에 판단이 필요할 때까지 반복되는 계획, 실행, 관찰, 조정의 주기입니다.

• 휴먼 인 더 루프(human in the loop): 고객에게 이메일을 보내거나 결제를 진행하는 등 특정 단계를 사람이 검토하거나 승인하는 설계입니다.

• 컴퓨터 사용 / 브라우저 에이전트: 화면을 보고 사람처럼 클릭하고 입력해 소프트웨어를 조작하는 에이전트로, API가 없는 도구와도 작업할 수 있게 해줍니다. 컴퓨터 사용 AI 에이전트에서 설명합니다.

• 심층 리서치(deep research): 에이전트가 수십 개의 출처를 읽고, 주장을 교차 검증하고, 출처가 명시된 리포트를 만들어내는 에이전틱 워크플로입니다. AI로 심층 리서치 실행하기를 참고하세요.

• 워크플로 자동화: 여러 앱에 걸쳐 미리 정의된 규칙 기반의 행동 순서로, Zapier, Make, n8n의 영역입니다. 에이전트는 워크플로에 판단력을 더합니다. Zapier vs Make vs n8n vs AI 에이전트에서 둘을 비교합니다.

• 다목적 AI 에이전트: 작업마다 별도의 도구를 쓰는 대신, 리서치, 글쓰기, 소프트웨어 구축, 디자인, 자동화까지 여러 종류의 일을 하나의 채팅에서 처리하는 하나의 에이전트입니다. Jobbit이 이런 방식으로 만들어졌습니다.

AI로 소프트웨어 만들기

• 바이브 코딩(vibe coding): 원하는 것을 자연어로 설명하고 AI 에이전트가 코드를 작성, 실행, 수정하게 한 뒤, 모든 줄을 읽기보다 결과물이 작동하는 방식으로 판단하며 소프트웨어를 만드는 방식입니다. 전체 가이드: 바이브 코딩이란 무엇인가?

• AI 앱 빌더: 설명을 작동하는 애플리케이션으로 바꿔주는 제품으로, 흔히 호스팅까지 포함됩니다. Lovable, Bolt, v0, Replit, Jobbit이 그 예이며, 최고의 바이브 코딩 도구에서 비교합니다.

• 코딩 에이전트: 코드베이스 안에서 작업하는 에이전트로, 파일을 읽고, 코드를 작성하고, 테스트를 실행하고, 실패를 고칩니다. Claude Code, OpenAI Codex, Cursor의 에이전트 모드, Devin이 코딩 에이전트입니다.

• 노코드 / 로우코드: 프로그래밍 없이(또는 아주 적게) 소프트웨어를 만드는 비주얼 도구로, Bubble, Webflow, Airtable, Retool이 있습니다. 바이브 코딩과 어떻게 비교되는지는 바이브 코딩 vs 노코드 vs 로우코드에서 다룹니다.

• 샌드박스: 에이전트가 실제 시스템을 건드리지 않고 안전하게 코드를 실행할 수 있는 격리된 환경입니다. 코드를 실행하는 모든 에이전트에 필수적입니다.

• 배포: 사람들이 쓸 수 있도록 소프트웨어를 서버에 올려 라이브 상태로 만드는 것입니다. 호스팅까지 포함해 대신 배포해주는 에이전트는 대부분의 비개발자를 가로막던 그 단계를 없애줍니다.

• API(애플리케이션 프로그래밍 인터페이스): 하나의 소프트웨어가 다른 소프트웨어와 대화하는 구조화된 방식입니다. 에이전트는 API를 이용해 다른 시스템의 데이터를 읽고 바꿉니다.

• 웹훅(webhook): 어떤 일이 일어났을 때("새 주문 접수") 한 시스템이 다른 시스템에 보내는 메시지로, 흔히 자동화를 촉발하는 데 쓰입니다.

• MVP(최소 기능 제품): 실제 사용자가 써볼 수 있는 가장 작은 버전의 제품입니다. 에이전트는 MVP 제작 기간을 몇 달에서 며칠로 줄였습니다. AI로 SaaS 만드는 방법을 참고하세요.

• 기술 부채: 코드 안의 지름길로, 이후의 변경을 더 느리고 위험하게 만듭니다. 구조를 검토하는 사람이 없으면 AI가 생성한 코드는 기술 부채를 빠르게 쌓으며, 이는 바이브 코딩의 실수와 보안에서 다루는 위험 중 하나입니다.

안전, 품질, 신뢰

• 가드레일: 에이전트가 할 수 있는 행동이나 말을 제한하는 규칙과 점검입니다: 차단된 행동, 지출 한도, 콘텐츠 필터, 필수 승인까지요.

• 프롬프트 인젝션: 에이전트가 읽는 텍스트(웹페이지, 이메일, 문서)에 에이전트를 가로채도록 설계된 지시가 담겨 있는 공격입니다. 견고한 에이전트는 자신이 읽는 모든 것을 명령이 아니라 데이터로 취급합니다.

• 얼라인먼트(alignment): 해로운 요청을 거절하는 것부터 지시를 충실히 따르는 것까지, 모델이 사람의 의도와 가치에 맞게 행동하도록 만드는 폭넓은 노력입니다.

• 평가(evals): 고정된 작업 세트에서 모델이나 에이전트의 품질을 체계적으로 테스트하는 것입니다. 진지한 팀은 워크플로를 에이전트에게 맡기기 전에 평가를 실행합니다.

• 벤치마크: 소프트웨어 엔지니어링 작업용 SWE-bench처럼, 모델을 비교하는 데 쓰이는 공개된 평가입니다. 유용한 신호이지만, 당신의 작업에서의 실제 성능이 더 중요합니다.

• 관측 가능성(observability): 에이전트가 무엇을 했는지, 어떤 도구를 왜 호출했는지 기록해 결과를 감사하고 실패를 디버깅할 수 있게 하는 것입니다.

• 레드 티밍(red teaming): 다른 누군가가 찾기 전에 약점을 발견하기 위해 의도적으로 모델이나 에이전트를 공격하는 것입니다.

• 데이터 레지던시와 개인정보 보호: 당신의 데이터가 어디에 저장되고 누가 볼 수 있는지에 관한 것입니다. 민감한 것을 업로드하기 전에 AI 제공업체가 당신의 입력으로 학습하는지, 서버가 어디에 있는지 확인하세요.

비즈니스와 가격 용어

• 크레딧: 많은 에이전트 플랫폼이 원시 토큰 대신 판매하는 사용량 화폐로, 크레딧 하나가 메시지 하나, 빌드 단계 하나, 리서치 실행 하나를 감당할 수 있습니다. 환산 방식을 꼼꼼히 읽어보세요. AI 에이전트 비용은 얼마나 될까요?에서 자세히 분석합니다.

• 레이트 리밋(rate limit): 일정 기간 동안 사용할 수 있는 요청이나 토큰 수의 상한입니다. 작업 도중 이 한도에 걸리는 것이 에이전트 실행이 멈추는 가장 흔한 이유입니다.

• 지연 시간(latency): 응답이 나오기까지 걸리는 시간입니다. 에이전트는 지연 시간을 철저함과 맞바꿉니다: 2분짜리 리서치 실행이 2초짜리 추측보다 낫습니다.

• 시트 기반 vs 사용량 기반 가격 정책: 사용자 한 명당 월 요금을 내는 방식과 소비한 만큼 내는 방식입니다. 에이전트 제품들은 점점 더 이 둘을 혼합합니다.

• 자동화 ROI: 도구 비용과 설정하는 데 든 시간 대비, 보통 절약된 시간, 더 빨라진 응답 속도, 영향을 준 매출로 측정되는 자동화의 수익입니다.

• 디지털 워커 / AI 직원: 하나의 작업이 아니라 하나의 역할을 맡는 레벨 4 에이전트를 가리키는 마케팅 용어입니다. 이 표현은 이력서를 대할 때와 같은 정도의 회의적인 시선으로 봐야 합니다.

자주 묻는 질문

AI 에이전트와 LLM의 차이는 무엇인가요?

LLM은 텍스트를 읽고 쓰는 모델입니다. AI 에이전트는 모델을 중심으로 계획, 도구, 메모리, 피드백 루프를 더해 질문에 답하는 데 그치지 않고 작업을 완수할 수 있게 만든 시스템입니다. LLM은 엔진이고, 에이전트는 자동차입니다.

AI에서 MCP는 무엇을 뜻하나요?

MCP는 모델 컨텍스트 프로토콜(Model Context Protocol)의 약자로, AI 모델을 도구 및 데이터 소스와 일관된 방식으로 연결하는 개방형 표준입니다. 모든 제품이 각자 커스텀 연동을 만드는 대신, 도구가 MCP 서버를 노출하면 호환되는 어떤 에이전트든 그것을 쓸 수 있습니다.

컨텍스트 윈도란 무엇이고 왜 중요한가요?

컨텍스트 윈도는 모델이 한 번에 고려할 수 있는 텍스트의 양으로, 토큰으로 측정됩니다. 현재 작업에 관해 에이전트가 아는 모든 것, 즉 당신의 지시, 문서, 도구 결과가 그 안에 들어가야 하기 때문에 중요합니다. 윈도가 클수록 에이전트는 더 큰 코드베이스와 더 긴 문서를 다룰 수 있습니다.

RAG와 파인튜닝의 차이는 무엇인가요?

RAG는 질문이 들어온 시점에 관련 문서를 가져와 모델에 제공해, 재학습 없이 최신 데이터를 근거로 답하게 합니다. 파인튜닝은 예시로 모델 자체를 학습시켜 바꾸는 것으로, 고정된 스타일이나 형식에 어울립니다. 대부분의 비즈니스에는 RAG와 좋은 도구만으로 충분하며, 에이전트는 그저 원본을 읽는 것만으로 둘 다의 필요성을 줄여줍니다.

바이브 코딩을 한 문장으로 설명하면요?

바이브 코딩은 원하는 것을 설명하고 AI 에이전트가 코드를 작성, 실행, 수정하게 해서, 모든 줄을 읽기보다 앱이 작동하는 방식으로 결과를 판단하며 소프트웨어를 만드는 것입니다.

이제 용어가 이해되셨다면 실제로 활용해보세요: Jobbit에서 무료로 시작해서 해볼 만한 가치가 있는 일을 에이전트에게 맡겨보세요.