AI 필수 용어 7가지

Artificial Intelligence · Glossary

꼭 알아야 할 AI 용어 7가지
— Agents, RAG, MCP, ASI 완전 정리

2026.05  ·  IBM Technology 영상 기반 정리  ·  한/영 대역 포함

AI는 이제 칫솔에도 업데이트가 들어오는 시대다. 기술 분야에 종사하는 사람조차 새로운 용어를 따라가기 벅차다. IBM Technology 채널의 영상 "7 AI Terms You Need to Know"를 바탕으로, 현재 AI 생태계를 이해하는 데 반드시 필요한 핵심 용어 7가지를 한국어와 영어를 함께 정리했다.

아래에 각 용어의 개념, 작동 방식, 실제 활용 사례를 순서대로 정리했다.

#	용어 (EN)	한국어	한 줄 요약
01	Agentic AI	에이전트형 AI	자율적으로 추론하고 행동하는 AI
02	Large Reasoning Models	대규모 추론 모델	단계별 사고로 복잡한 문제를 해결하는 LLM
03	Vector Database	벡터 데이터베이스	의미 기반 유사성 검색을 지원하는 DB
04	RAG	검색 증강 생성	외부 지식을 프롬프트에 주입해 답변 품질 향상
05	MCP	모델 컨텍스트 프로토콜	LLM과 외부 도구의 표준화된 연결 방식
06	MoE	전문가 혼합 모델	필요한 서브네트워크만 선택 활성화하는 효율적 구조
07	ASI	인공 초지능	인간 지능을 초월하는 이론적 AI 단계

01 Agentic AI 에이전트형 AI

AI 에이전트는 목표를 달성하기 위해 자율적으로 추론하고 행동한다. 한 번에 하나의 프롬프트에만 응답하는 챗봇과 달리, 에이전트는 멈추지 않고 스스로 다음 단계를 결정하며 실행한다.

핵심 — AI agents can reason and act autonomously to achieve goals, unlike chatbots that respond one prompt at a time.
AI 에이전트는 챗봇과 달리 목표를 향해 자율적으로 추론하고 행동한다.

에이전트는 다음 사이클을 반복하며 작동한다.

1. 01 Perceive (인지) — 현재 환경 상태를 파악한다. They perceive their environment.
2. 02 Reason (추론) — 다음으로 가장 좋은 행동이 무엇인지 판단한다. They look for the next best steps forwards.
3. 03 Act (행동) — 추론으로 세워진 계획을 실행한다. They act on the plan built through reasoning.
4. 04 Observe (관찰) — 행동의 결과를 확인하고 다음 루프를 시작한다. They observe the results, then the cycle repeats.

실제 활용 사례는 다양하다.

• 여행 에이전트 (Travel Agent) 항공권, 숙소, 일정을 자율적으로 검색하고 예약을 처리한다.
• 데이터 분석 에이전트 (Data Analyst) 분기별 보고서에서 트렌드를 자동으로 탐지하고 인사이트를 도출한다.
• DevOps 엔지니어 에이전트 로그 이상 징후 감지 → 컨테이너 실행 → 수정 테스트 → 오류 롤백까지 자율 처리한다.

02 Large Reasoning Models 대규모 추론 모델

에이전트형 AI의 핵심 엔진이다. 일반 LLM이 즉각적으로 응답을 생성하는 것과 달리, 추론 모델은 문제를 단계별로 분해하여 해결하도록 훈련되어 있다.

일반 LLM

입력 프롬프트를 받으면 즉시 응답을 생성한다. 단순 질답과 텍스트 생성에 적합하다.

추론 모델 (Reasoning Model)

내부적으로 Chain-of-Thought(사고의 연쇄)를 생성한 뒤 최종 답변을 도출한다. 복잡한 다단계 작업에 적합하다.

학습 방식 — Trained on problems with verifiably correct answers (math, code) via reinforcement learning, the model learns to generate reasoning sequences that lead to correct final answers.
수학 문제, 컴파일러로 검증 가능한 코드 등 정답이 명확한 문제를 강화학습으로 훈련한다.

챗봇이 답변 전에 잠시 멈추고 Thinking...이라고 표시할 때, 바로 이 추론 모델이 내부 사고 과정을 생성하는 중이다.

03 Vector Database 벡터 데이터베이스

일반 데이터베이스가 원시 텍스트나 이미지를 그대로 저장하는 것과 달리, 벡터 데이터베이스는 임베딩 모델(Embedding Model)을 통해 데이터를 숫자 벡터로 변환하여 저장한다.

원본 데이터
(이미지 / 텍스트)

→

Embedding Model

→

벡터
[0.12, 0.87, ...]

→

Vector DB 저장

• 벡터(Vector)란? 데이터의 의미론적 맥락(Semantic Meaning)을 담은 긴 숫자 목록이다. 예: [0.12, 0.87, 0.34, ...]
• 유사성 검색 (Similarity Search) 벡터 간 거리를 수학적으로 계산하여 의미적으로 유사한 콘텐츠를 찾는다. 산 사진을 벡터로 검색하면 유사한 풍경 사진이 반환된다.
• 활용 범위 유사 이미지 검색, 유사 텍스트 기사 추천, 음악 파일 유사도 분류 등 다양한 멀티모달 검색에 사용된다.

04 RAG — Retrieval Augmented Generation 검색 증강 생성

RAG는 벡터 데이터베이스를 활용하여 LLM에 전달하는 프롬프트를 외부 지식으로 강화하는 기법이다. 모델이 학습 시 보지 못한 정보, 또는 실시간으로 변하는 데이터를 답변에 반영할 수 있다.

사용자 질문

→

Embedding

→

Vector DB
유사성 검색

→

관련 컨텍스트
추출

→

LLM 프롬프트
강화 → 답변

실제 예시 — "회사 육아휴직 정책이 어떻게 되나요?"라는 질문이 들어오면, RAG 시스템은 직원 핸드북 벡터 DB에서 관련 조항을 꺼내 LLM 프롬프트에 주입한다. LLM은 해당 컨텍스트를 바탕으로 정확한 답변을 생성한다.

RAG는 LLM의 환각(Hallucination) 문제를 완화하고, 항상 최신 내부 문서 기반으로 답변할 수 있게 해주는 핵심 아키텍처다.

05 MCP — Model Context Protocol 모델 컨텍스트 프로토콜

LLM이 진정으로 유용하려면 외부 데이터 소스, 서비스, 도구와 상호작용해야 한다. MCP는 AI 모델과 외부 시스템의 연결 방식을 표준화한다.

MCP 이전

개발자가 새로운 도구를 연결할 때마다 별도의 커스텀 코드를 작성해야 했다. 유지보수 비용이 높고 확장이 어렵다.

MCP 도입 후

하나의 표준화된 MCP 서버를 통해 데이터베이스, 코드 저장소, 이메일 서버 등 어떤 외부 시스템에도 연결할 수 있다.

핵심 — MCP standardizes how applications provide context to LLMs, so instead of building one-off connections for each new tool, there's a single standardized way for AI to access your systems.
MCP는 도구마다 개별 연결을 만드는 대신, AI가 모든 시스템에 접근하는 단일 표준을 제공한다.

• External Database (외부 데이터베이스) LLM이 실시간으로 DB를 쿼리하여 최신 데이터를 답변에 반영할 수 있다.
• Code Repository (코드 저장소) GitHub 등의 저장소를 직접 읽고 코드 리뷰, 버그 탐색을 수행할 수 있다.
• Email / Calendar (이메일 / 캘린더) 이메일 내용을 파악하거나 일정을 자율적으로 관리하는 에이전트를 구현할 수 있다.

06 MoE — Mixture of Experts 전문가 혼합 모델

MoE는 1991년 과학 저널에 개념이 발표됐지만, 오늘날 대규모 LLM 효율화 전략으로 그 어느 때보다 주목받고 있다. LLM 전체를 수백 개의 특수화된 서브네트워크(전문가)로 나누고, 각 입력에 대해 필요한 전문가만 선택적으로 활성화하는 구조다.

입력 토큰

→

Router
(라우팅 메커니즘)

→

Expert A 활성화

+

Expert C 활성화

→

Merge → 출력

효율성 — While the whole model might have billions of total parameters, it only uses a fraction of those active parameters at inference time.
전체 모델에 수십억 개의 파라미터가 있어도, 추론 시에는 극히 일부만 활성화된다. 컴퓨팅 비용을 비례적으로 늘리지 않고 모델 크기를 확장할 수 있다.

IBM Granite 4.0 시리즈가 MoE 구조를 채택한 대표적 사례다. 수십 개의 전문가 중 특정 토큰 처리에 필요한 전문가만 활성화하므로, 추론 속도와 비용 효율을 동시에 달성한다.

07 ASI — Artificial Superintelligence 인공 초지능

모든 프론티어 AI 연구소가 궁극적으로 향하는 목표다. 현재로서는 순전히 이론적인 개념으로, 실제로 존재하지 않는다.

단계	영어 명칭	정의	현재 상태
현재	Narrow AI	특정 작업에 특화된 AI (GPT, Gemini 등)	✅ 실존
다음 목표	AGI (Artificial General Intelligence)	인간 전문가 수준으로 모든 인지 작업 수행	⏳ 이론적, 접근 중
궁극 단계	ASI (Artificial Superintelligence)	인간 지능을 초월, 재귀적 자기 개선 가능	🔬 순수 이론

재귀적 자기 개선 (Recursive Self-Improvement) — An ASI system could redesign and upgrade itself, becoming ever smarter in an endless cycle.
ASI는 스스로를 재설계하고 업그레이드하며 끝없이 더 똑똑해지는 순환 구조를 가질 수 있다.

ASI의 실현은 인류 최대 난제를 해결할 수도, 아직 상상조차 할 수 없는 새로운 문제를 만들어낼 수도 있다. 어느 쪽이든, ASI는 반드시 주시해야 할 개념이다.

08 전체 개념 연결 맵

Concept Relationship Map

Agentic AI (에이전트)
  └─ 구동 엔진 → Large Reasoning Models (단계별 사고)
  └─ 외부 지식 주입 → RAG (검색 증강 생성)
       └─ 의미 검색 기반 → Vector Database (벡터 DB)
  └─ 외부 도구 연결 표준 → MCP (모델 컨텍스트 프로토콜)
  └─ 효율적 모델 구조 → MoE (전문가 혼합)

궁극적 방향성 → AGI → ASI (인공 초지능)

Summary

에이전트형 AI가 자율적으로 작동하려면 추론 모델이 필요하고, 최신 지식을 반영하려면 RAG와 벡터 DB가 필요하며, 외부 시스템과 연결하려면 MCP가 있어야 한다. MoE는 이 모든 것을 효율적으로 돌리는 구조적 선택이다. 그리고 이 모든 발전의 끝에는 ASI라는 거대한 질문이 기다리고 있다. AI 용어를 모르면 뉴스도, 제품도, 미래도 읽히지 않는다. 지금이 공부하기 가장 좋은 시점이다.