MCP와 AI 오케스트레이션

○ MCP는 LLM이 검색·데이터베이스·연산 등 외부 도구를 상황에 맞게 선택적으로 호출하고 연동할 수 있도록 도와주는 에이전트 인터페이스 프로토콜로, 앤트로픽이 2024년 11월 오픈소스로 공개
 

• USB-C 포트가 다양한 기기를 하나의 표준 단자로 연결하듯이 LLM과 콘텐츠 저장소, 비즈니스 애플리케이션, 개발 도구 등 여러 시스템을 단일한 방식으로 연결
  
  
• 이처럼 기존의 각기 다른 API 및 플러그인 방식을 통합해 AI 시스템이 필요한 콘텍스트와 데이터를 원활히 얻을 수 있게 함으로써 LLM이 ‘지능형 오케스트레이터’로서 기능할 수 있게 해줌
  
  - 특히 금융, 법률, 컨설팅과 같이 연속적 해석과 판단이 중요한 도메인¹³에서는 MCP가 없으면 실질적인 자동화가 어려움
  
  - 복잡한 업무 요청도 AI가 자체적으로 판단하여 최적의 도구를 적절히 조합
  
  
• 기존 LLM API는 단순한 질의응답 구조이기 때문에 콘텍스트 유지가 어렵고 업무 연속성이 낮다는 문제점을 안고 있는데, MCP를 적용하면 마치 업무 도우미처럼 AI가 일관된 콘텍스트로 업무 수행을 보조
  
  - MCP 개발 전에는 추가 도구를 활용해 콘텍스트 관리를 일부 지원했으나 개발과 유지보수가 어렵다는 단점이 존재

○ 사용자가 앤트로픽의 클로드에 휴가 일정과 원하는 지역을 입력하고 사용자의 선호도를 감안해 최적의 여행 일정과 숙소를 검색해 제시해달라고 요청한 경우, MCP를 통한 AI는 3단계로 동작
 

• [1단계] AI 모델이 공항에서 숙소까지 거리와 예상 소요 시간 확인 등 외부 데이터가 필요함을 인식하고 MCP 클라이언트를 통해 구글 맵과 같은 적절한 MCP 서버에 접근 권한을 요청
  
  
• [2단계] 사용자의 접근 권한 승인을 받아 MCP 표준 형식으로 요청을 전달하면, 서버는 구글 맵과 같은 외부 시스템에서 데이터를 가져와 포맷된 결과를 반환
  
  
• [3단계] AI 모델은 이 정보를 받아 대화 콘텍스트에 통합하고 최종 응답을 생성

○ MCP는 개방성과 실용성이 결합된 기술 설계, 주요 기업의 전략적 선택, 복잡한 업무 환경 수용력이 결합되어 구현되며, AI 연결성 혁명을 이끄는 사실상의 기술 표준(De facto standard)으로 자리매김
 

• 오픈AI, 마이크로소프트, 구글, 아마존 등이 자체 프로토콜 대신 MCP 도입을 선언하는 등 MCP는 기술적 우위성을 앞세워 주요 AI 기업과 플랫폼에서 채택되고 있음

○ MCP의 핵심 기능은 여러 AI 시스템과 서비스를 중앙에서 통합 관리하며 리소스 할당, 워크플로우 관리, 정책 시행을 조정하는 데 있음
 

• [콘텍스트 저장 및 공유] 사용자의 입력, 이전 대화 내용, 실행 결과 등 다양한 정보 조각을 구조화된 형태로 저장한 후 호출되는 LLM이나 외부 도구에 해당 콘텍스트를 공유하여 중단 없는 의사결정 흐름을 구현
  
  
• [에이전트 간 콘텍스트 연계] 검색 시스템, 분석 에이전트, 요약 에이전트 등 복수의 AI 에이전트가 순차적으로 호출될 때 단계별 상태 정보를 넘겨받아 콘텍스트를 유지
  
  
• [프롬프트 설계 자동화 및 일관성 확보] 콘텍스트 정보를 기반으로 LLM 프롬프트를 자동 생성하거나 갱신함으로써 사용자 경험의 일관성을 확보
  
  
• [의사결정 흐름 관리] 사용자의 요청에 따라 필요한 AI 에이전트를 자동으로 호출하고 상황에 따라 다르게 흐름을 전환하여 복수의 모델과 시스템 간 실시간 연동 및 조건 기반 분기 실행¹⁴ 자동화를 구현
  
  
• [도구 선택 및 호출] 질의에 따라 검색, 계산, 문서 조회, 모델 실행 등 필요한 외부 기능을 선택적으로 호출
  
  
• [양방향 통신] AI 모델과 데이터 소스 간의 양방향 통신을 통해 지속적으로 연결된 상태에서 정보 교환을 가능하게 함으로써 더 복잡하고 상호작용이 필요한 작업 처리를 지원

○ 기존 워크플로우 기반 AI 오케스트레이션이 사전 정의된 순차적 프로세스에 따라 각 AI 시스템이 독립적으로 작동하는 반면, MCP 기반 오케스트레이션은 중앙집중식 제어 엔진이 모든 AI 시스템을 통합 관리하고 실시간으로 리소스와 작업을 조정
 

• 워크플로우 방식이 정해진 규칙에 따른 제한적 의사결정과 분절된 시스템 관리에 중점을 둔다면, MCP 방식은 상황 인식 기반의 동적 의사결정과 시스템 간 유기적 연계를 통해 보다 높은 효율성과 유연성을 제공
  
  - 전통적 오케스트레이션의 대표적인 예인 아파치 에어플로우(Apache Airflow)는 배치 작업 오케스트레이션¹⁵으로, 정해진 순서에 따라 명령어를 실행하며 콘텍스트 인식이나 실시간 사용자 요청에 대한 대응은 불가능
  
  - 또 다른 예로 쿠브플로우 파이프라인(Kubeflow Pipelines)은 AI 모델 학습 및 서빙 워크플로우를 쿠버네티스(Kubernetes)¹⁶ 기반으로 관리하는 오케스트레이션으로, 반복적인 AI 실험에는 적합하나 유저-LLM-도구 상호작용 기반은 아님