Multi-Agent 협업 네트워크 아키텍처

Multi-Agent의 개념

---

Multi-Agent란 말 그대로 Agent를 두 개 이상 운용하는 시스템을 의미한다.

이때 각 Agent는 서로 독립된 LLM Actor로, 자기만의 Prompt, Tool, LLM 설정, 메모리를 갖는다.

각 Agent는 독립된 지능 단위이며, 전체 Task는 이 Agent가 서로 연결되어 협력하며 수행된다.

 

Multi-Agent의 개념은 AutoGen이라는 논문에서 영감을 얻어 출발했다.

[2023.08] AutoGen: Enabling Next-Gen LLM Applications via Multi-Agent Conversation.

 

 

 

AutoGen은 하나의 LLM이 Tool을 호출하는 ReAct 방식을 넘어서, 여러 LLM이 서로 대화(Conversation)을 통해 문제를 해결하도록 하자는 아이디어를 제안한 논문이다.

AutoGen 논문은 아래의 개념을 처음으로 구조화했는데, 이것이 지금 우리가 부르는 Multi-Agent 협업의 원형이다.

 

 

 

Multi-Agent의 핵심 아이디어 1 : "LLM끼리 대화하도록 하자"

• Agent A ↔ Agent B가 서로 메시지를 주고받으며
• 협력(conversation-driven cooperation)
• 목표(goal) 달성
• 실패하면 재시도(failure-handling)
• 서로의 역할(role-based prompts) 을 수행하도록 설계한 시스템.

 

 

 

Multi-Agent의 핵심 아이디어 2 : "분업 구조(Role Specialization) 개념"

 

• 예를 들어, 아래와 같이 분업화할 수 있다.
• Assistant Agent → 생성, reasoning 수행
• User Proxy Agent → 도구 실행(코드 실행)
• Critic Agent → 오류 감지 및 피드백
• Manager Agent → 루프를 조절하며 목표 관리

즉, “여러 Agent가 특정 역할을 갖고 전문화된 기능을 수행한다”

이는 LangChain의 Multi-Agent Supervisor/Worker 구조, CrewAI의 Agent role 시스템, LangGraph의 Agent nodes 등의 역할 설계 컨셉에 큰 영향을 주었다.

 

 

 

Multi-Agent의 핵심 아이디어 3 : "Agent 간 Routing"과 "Message 기반 State 관리"

 

Autogen의 Manager Agent는 상황에 따라 다른 Agent를 호출한다.

• 오류 발생 → Critic 호출
• 해결 필요 → Assistant 호출
• 데이터 분석 필요 → Code Executor 호출

이 논리는 Modern Multi-Agent의 Supervisor ↔ Worker 구조의 뿌리이다.

 

또한 Autogen의 구조는 Agents는 메시지를 주고받으며 shared state를 업데이트하고 다음 행동을 결정한다.

이것이 오늘날 LangGraph의 State machine 기반 workflow / Shared scratchpad / Node-state transition로 이어졌다.

 

 

 

 

Multi-Agent의 이점

---

Multi-Agent가 필요한 가장 중요한 이유는 성능의 향상이다.

만약, 하나의 Agent에서 Research를 하는 Agent와 Chart를 만드는 Agent를 동시에 구현한다고 하자.

이렇게 되면, Agent의 Prompt에 두 가지 작업을 모두 명시해 주어야 하므로 2개의 Prompt가 섞이게 될 수 있다.

또한 Agent가 작업을 수행하기 위한 Tool Calling을 수행할 때 헷갈림이 발생할 수 있다.

이는 곧 Agent의 전문성이 떨어진다고 볼 수 있다.

 

 

 

이를 보완하기 위해 Research에 특화된 Agent와 Chart를 생성하는데 특화된 Agent를 두고, Prompt를 분리해 각 Agent에게 focus를 주면 Agent의 성능 향상을 유도할 수 있다.

또한, Multi-Agent의 Workflow 하에서는 큰 Process를 작은 작업 단위로 쪼개고, 이를 각각의 Agent가 맡아서 해결함으로써 전체 시스템의 구조가 명확해지고, Agent의 독립적인 Test와 Development가 가능해져 전체 시스템 품질 관리가 쉬워지게 된다.

 

따라서 Multi-Agent의 이점을 정리하면 다음과 같다.

1. 전문성 강화 — 혼자서 다 하면 헷갈리지만 Task를 분리하면 성능이 안정적이고 정확해진다.
2. Prompt 오염 방지 — 각 Agent는 자기 전용 Prompt만을 통해 Fit한 답변을 생성한다.
3. 도구 선택 오류 — 예를 들어 Research Agent → 검색/분석 도구만 사용 / Chart Agent → 시각화 도구만 사용하여 도구 선택 확률을 좁혀 정확도를 올린다.
4. 확장성 — 비슷한 역할의 Agent로 Team을 구성하면 전문성이 쌓이는 조직 구조로도 확장이 가능하다.

 

 

Multi-Agent의 구현과 관련해서는 아래 LangGraph 문서에 예제와 함께 잘 정리되어 있다.

직접 ipynb 파일을 돌려보면서 LLM의 흐름을 따라가면 큰 도움이 될 듯 하다.

 

https://blog.langchain.com/langgraph-multi-agent-workflows

LangGraph: Multi-Agent Workflows

 

 

 

 

Multi-Agent의 주 Architecture

---

Multi-Agent의 구조는 크게 Collaboration과 Supervisor 모델, Hierarchical Agent Team으로 나눌 수 있다.

 

Collaboration

 

가장 중요한 특징은 모든 Agent가 같은 Scratchpad(state)를 공유한다는 점이다.

따라서 각 Agent의 작업 내용이 전부 다른 Agent에게 보인다

단순하고 투명하지만, 불필요하게 verbose해질 수 있다는 한계가 있다.

 

여기서 각각의 Agent는 독립 Agent로 작동하는데, 사실상 "특정 프롬프트 + LLM 호출"이 하나의 Agent로 매우 단순한 형태의 multi-agent 구조이다.

각각의 Agent 연결 방식은 Rule-based Router가 다음 Agent를 선택하고 Tool 호출/Final answer 여부에 따라 전이 결정된다.

 

 

Supervisor

 

각 Agent는 자신만의 Prompt / Tools / 독립 Scratchpad를 가진다.

이때 최종 결과만 전역 Scratchpad에 기록하고, Supervisor Agent가 적절한 Agent를 선택해서 호출하는 구조이다.

여기서 Agent는 AgentExecutor로 도구 기반 추론을 수행하는 하나의 Agent Runtime이라고 생각하면 된다.

 

Agent 연결 방식은 Supervisor Agent가 “Tool Calling” 형태로 다른 Agent를 호출하는 방식으로, “Agent를 Tool처럼 취급”하는 구조다.

 

 

Hierarchical Agent Teams

주요 특징은 각 노드가 아예 Graph로 구성된 또 다른 계층적인 Agent라는 점이다.

즉, Agent 팀 안에 또 다른 팀(혹은 Subgraph)이 존재하는 형태이다.

이는 복잡한 주요 작업에 높은 유연성과 확장성을 가질 수 있다는 장점이 있다.

 

여기서 Agent는 또 다른 Agent Workflow로, Supervisor가 최상위에서 Subgraph들을 호출하는 방식으로 연결된다.

이는 대형 프로젝트나 Deep Research/Deep Workflow 구현에 효과적일 수 있다.