스마트 AI 앱 뒤에 숨겨진 레이어
ChatGPT, Gemini, 그리고 Claude는 인상적입니다. 개념을 설명하고 이메일 초안을 작성하는 능력이 뛰어납니다.
하지만 실제 도구를 구축하려고 하면 한계에 부딪힙니다. 여러분은 제품을 잘 아는 고객 지원 봇을 원합니다. 회사의 데이터를 이해하는 어시스턴트를 원합니다.
일반적인 모델들은 여기서 실패합니다. 유용한 AI를 구축하려면 RAG, MCP, 그리고 에이전트 시스템(agentic systems)이라는 세 가지 특정 레이어가 필요합니다.
RAG (Retrieval Augmented Generation)는 AI가 데이터에 접근할 수 있게 해줍니다.
사용자가 환불 정책에 대해 질문한다고 가정해 봅시다. 일반적인 LLM은 여러분의 구체적인 규칙을 알지 못합니다. 학습 과정에 포함되지 않았기 때문입니다. RAG를 사용하면 시스템이 먼저 문서를 검색합니다. 적절한 섹션을 추출하여 모델에 전달합니다. 그러면 모델은 정확하게 답변합니다. RAG는 메모리 문제를 해결합니다.
MCP (Model Context Protocol)는 AI에게 행동할 수 있는 능력을 부여합니다.
문서를 아는 것만으로는 충분하지 않습니다. 때로는 AI가 실시간 환율을 확인하거나 재고를 조회해야 할 수도 있습니다. MCP는 모델을 외부 세계와 연결하는 개방형 표준입니다.
이렇게 생각하면 쉽습니다: • RAG는 AI가 읽는 도서관입니다. • MCP는 AI가 전화를 거는 데 사용하는 전화기입니다.
MCP는 모델을 API, 데이터베이스, 파일 시스템에 연결합니다. 모델은 get_weather() 또는 search_inventory()와 같이 사용 가능한 도구에 대한 설명을 읽습니다. 어떤 도구를 사용할지 결정하고, 이를 요청한 뒤, 응답에 실시간 데이터를 활용합니다.
에이전트 아키텍처(Agentic architecture)는 이 요소들을 하나로 묶어줍니다.
GitHub Copilot과 같은 도구들이 작동하는 방식이 바로 이것입니다. 이들은 단순히 추측하지 않습니다. 검색(retrieval), 실시간 기능, 그리고 추론(reasoning)을 루프(loop) 형태로 사용합니다.
아키텍처는 다음과 같이 작동합니다:
- RAG는 여러분이 알고 있는 정보를 제공합니다.
- MCP는 현재 일어나고 있는 일을 제공합니다.
- 에이전트 루프(Agentic loops)는 문제를 해결하는 능력을 제공합니다.
더 나은 도구를 만들기 위해 더 큰 모델이 필요한 것은 아닙니다. 더 나은 아키텍처가 필요할 뿐입니다.
Optional learning community: https://t.me/GyaanSetuAi