Anthropic "Building Effective Agents" 공부 노트

AI Engineering · Agent Architecture

Claude Code에서 AI Agent로
— Anthropic "Building Effective Agents" 공부 노트

2025.05  ·  Anthropic 공식 포스팅 요약 / Summary까지

올해 초 Claude Code를 알게 된 이후, 웹·모바일·데스크톱 앱을 포함해 10개가 넘는 프로그램을 만들었다. 일반적인 소프트웨어는 Claude Code의 강력한 기능 덕분에 큰 어려움 없이 제작해 왔는데, 최근 Ollama 기반 로컬 LLM을 도입한 제조라인 불량 분석 AI Agent를 개발하면서 소프트웨어 아키텍처의 효율적 구성에 대해 깊이 고민하게 되었다. 아래에 그 배경과 학습 시작점으로 삼은 Anthropic 공식 포스팅의 핵심 내용을 정리했다.

참고 링크: Anthropic — Building Effective Agents

01 제조 불량 분석 AI Agent 개발 배경

이번 프로젝트는 Ollama 기반 Google gemma4:e4b 모델을 로컬 LLM으로 채택하여, 제조라인의 불량 데이터를 실시간으로 분석하고 설비를 제어하는 AI Agent 시스템이다. Gemma 4의 E4B는 "Effective 4B"의 약자로, 엣지 디바이스 배포에 최적화된 경량 모델이다. 구조는 크게 세 단계로 나뉜다.

1. 01 생산실적 집계 데이터 분석 — 주요 이슈 및 관리 대상 공정을 도출한다.
2. 02 상세 이상 분석 — 대상 공정의 검사 데이터와 설비 센싱 데이터를 기반으로 이상 징후를 탐지한다.
3. 03 설비 제어 (Agent 역할) — 이상 분석 결과를 토대로 실제 설비에 제어 명령을 수행한다.

규모 — 인프라 구축, 아키텍처 설계, 이상탐지 ML 개발 등 방대한 작업이 수반된다. 쉽게 보이는 세 단계 뒤에는 어마어마한 엔지니어링이 숨어 있다.

특히 3단계에서 Agent가 직접 설비를 제어한다는 점이 핵심이다. 잘못된 판단이 실물 피해로 이어지는 만큼, 아키텍처 설계를 처음부터 단단하게 잡아야 했다. 이 고민의 출발점으로 Claude Code를 만든 Anthropic이 직접 발행한 "Building Effective Agents" 포스팅을 선택했다.

02 Agent란 무엇인가 — Anthropic의 정의

Anthropic은 LLM 기반 시스템을 통칭하여 Agentic System이라 부르고, 그 안에서 두 가지를 구분한다.

Workflow

LLM과 도구가 미리 정의된 코드 경로에 따라 조율되는 시스템. 예측 가능하고 일관성이 높다.

Agent

LLM이 스스로 프로세스와 도구 사용 방식을 동적으로 결정하는 시스템. 유연성이 핵심이다.

핵심 원칙 — 가능한 한 가장 단순한 솔루션을 먼저 찾아라. 복잡도는 그것이 명확히 성과를 개선할 때만 추가한다.

03 기본 빌딩 블록 — Augmented LLM

모든 Agentic System의 토대는 Augmented LLM이다. 검색(Retrieval), 도구(Tools), 메모리(Memory)로 강화된 LLM으로, 스스로 검색 쿼리를 생성하고 적절한 도구를 선택하며 필요한 정보를 기억에 저장한다.

입력

→

Augmented LLM

→

Retrieval

+

Tools

+

Memory

Anthropic은 이를 구현하는 방법 중 하나로 Model Context Protocol (MCP)을 제시한다. 서드파티 도구와의 통합을 표준화된 인터페이스로 간소화하는 프로토콜이다.

04 대표 워크플로우 패턴 5가지

• Prompt Chaining (프롬프트 체이닝) 작업을 순차적인 단계로 분해하고, 각 LLM 호출의 출력을 다음 입력으로 전달한다. 중간 단계에 프로그래밍적 검증(Gate)을 삽입해 품질을 유지할 수 있다. 마케팅 문구 생성 후 번역, 문서 개요 작성 후 검수 등에 적합하다.
• Routing (라우팅) 입력을 분류하여 각각에 특화된 하위 작업으로 분기한다. 고객 문의 유형별 처리, 난이도에 따른 모델 선택(Haiku vs Sonnet) 등 입력 카테고리가 명확히 구분될 때 효과적이다.
• Parallelization (병렬화) 작업을 독립적인 서브태스크로 나눠 동시에 처리(Sectioning)하거나, 동일 작업을 여러 번 실행해 결과를 투표(Voting)로 집계한다. 가드레일 적용, 취약점 코드 리뷰 등에서 정확도와 속도를 동시에 높인다.
• Orchestrator-Workers (오케스트레이터-워커) 중앙 LLM(Orchestrator)이 작업을 동적으로 분해하고 워커 LLM에 위임한 뒤 결과를 종합한다. 변경 파일 수나 방식을 미리 예측할 수 없는 복잡한 코딩 작업, 다중 소스 정보 수집 등에 적합하다.
• Evaluator-Optimizer (평가자-최적화자) 하나의 LLM이 응답을 생성하고, 다른 LLM이 평가·피드백을 반복 제공하는 루프 구조다. 명확한 평가 기준이 있고 반복 개선이 측정 가능한 가치를 낼 때 효과적이다. 문학 번역, 복잡한 검색 작업 등에 활용된다.

05 완전 자율 Agent — 언제 쓰는가

LLM의 역량이 성숙하면서 완전 자율 Agent가 프로덕션에 등장하고 있다. Agent는 복잡한 입력 이해, 추론·계획, 도구 신뢰성 있는 사용, 오류 복구 등이 가능할 때 진가를 발휘한다.

항목	설명
적합한 문제	필요한 단계 수를 미리 예측하기 어렵거나 고정 경로를 하드코딩할 수 없는 오픈엔드 문제
실행 방식	환경 피드백(도구 실행 결과, 코드 실행 등)을 기반으로 루프를 돌며 스스로 판단
주의 사항	높은 비용, 오류 복합 가능성. 샌드박스 테스트와 적절한 가드레일 필수
대표 사례	SWE-bench 코딩 Agent, Claude Computer Use 레퍼런스 구현

설계 원칙 — Agent 설계는 단순하게(Simplicity), 계획 단계를 명시적으로 노출하여(Transparency), 도구 인터페이스를 철저히 문서화·테스트해(Documentation & Testing) 신뢰성을 확보한다.

06 포스팅 Summary — Anthropic의 결론

Anthropic은 수십 개 산업 팀과 LLM Agent를 구축한 경험을 바탕으로 포스팅을 시작한다. 그 결론은 단호하다. 성공한 구현물은 복잡한 프레임워크가 아닌, 간결하고 조합 가능한 패턴에서 나왔다.

단순 프롬프트 최적화

→

부족할 때만 복잡도 추가

→

멀티스텝 Agent

• Simplicity (단순성) Agent 설계는 항상 단순하게 유지한다. 복잡도는 성과를 명확히 개선할 때만 도입한다.
• Transparency (투명성) Agent의 계획·추론 단계를 명시적으로 드러낸다. 블랙박스 시스템은 신뢰받기 어렵다.
• Tool Documentation & Testing (도구 설계) Agent-Computer Interface(ACI)를 Human-Computer Interface(HCI)만큼의 공을 들여 설계하고 테스트한다. 도구의 파라미터 명, 설명, 예시까지 프롬프트 엔지니어링 수준으로 다듬는다.

프레임워크는 빠른 시작에는 유용하지만, 프로덕션으로 이행할수록 추상 레이어를 줄이고 기본 구성 요소로 직접 빌드하는 것을 권장한다. LLM 공간에서의 성공은 가장 정교한 시스템을 만드는 것이 아니라, 자신의 필요에 맞는 올바른 시스템을 만드는 것이다.

Summary

Claude Code로 다양한 앱을 빠르게 제작하던 경험에서 출발해, 제조라인 AI Agent 프로젝트를 계기로 아키텍처 설계의 중요성을 실감했다. Anthropic의 "Building Effective Agents"는 그 첫 공부 재료로 훌륭했다. 핵심 메시지는 단 하나다 — 단순하게 시작하고, 필요할 때만 복잡도를 추가하라. 다음 포스팅에서는 각 워크플로우 패턴을 실제 제조 AI 시나리오에 적용하는 방법을 구체적으로 다룰 예정이다.