Enterprise AI Agents Need a Control Plane
AI 에이전트는 구축하기는 쉽지만 관리하기는 어렵습니다.
처음에는 모두가 속도에 집중했습니다. 몇 분 만에 리서치 에이전트나 데이터 에이전트를 만들 수 있었죠. 이제 초점이 바뀌고 있습니다. 시장은 더 이상 에이전트가 채팅에서 얼마나 빨리 응답하는지에 관심을 두지 않습니다. 에이전트가 비즈니스에 도입된 이후 어떻게 관리하느냐에 관심을 가집니다.
우리는 빌더 계층(builder layer)에서 컨트롤 플레인 계층(control plane layer)으로 이동하고 있습니다.
Microsoft, Google, ServiceNow, LangChain과 같은 기업들은 모두 관리 도구를 구축하고 있습니다. 이들은 단순히 에이전트 생성을 돕는 것이 아니라, 에이전트를 거버넌스(govern)할 수 있도록 돕고 있습니다.
컨트롤 플레인이 없다면 에이전트 확산(agent sprawl) 문제에 직면하게 됩니다. 이는 회사 전반에 걸쳐 중복되고, 관리되지 않으며, 서로 충돌하는 에이전트들이 난립함을 의미합니다.
다음 질문들에 답할 수 있어야 합니다:
- 에이전트의 소유자는 누구인가?
- 시스템에 접속할 때 누구의 자격 증명(credentials)을 사용하는가?
- 어떤 특정 시스템에 접근할 수 있는가?
- 소유자가 퇴사하면 어떻게 되는가?
- 비용이 급증하거나 도구가 고장 나면 어떻게 되는가?
에이전트는 단순한 소프트웨어라기보다 반자율적인 작업자에 가깝습니다. 에이전트는 메모리를 가지고 있고, API를 사용하며, 인간과 상호작용합니다. 따라서 에이전트의 이름을 지정하고, 모니터링하고, 은퇴(retire)시킬 중앙 집중식 장소가 없다면 위험 요소가 될 수 있습니다.
진정한 컨트롤 플레인은 지루하지만 필수적인 작업들을 처리합니다:
- 레지스트리(Registry): 사용 중인 모든 에이전트 목록.
- 아이덴티티(Identity): 에이전트가 정확히 누구인지 또는 무엇인지 파악.
- 권한(Permissions): 에이전트가 볼 수 있는 데이터를 제어.
- 감사(Audit): 에이전트가 수행하는 모든 작업에 대한 기록 유지.
- 라이프사이클(Lifecycle): 에이전트를 언제 중단하거나 은퇴시킬지 결정.
벤더에게 도구가 얼마나 빨리 에이전트를 만드는지 묻지 마십시오. 그것은 기본입니다.
대신, 5개월 차에는 어떤 일이 벌어지는지 물으십시오. 모든 에이전트의 소유자를 보여줄 수 있는지 물으십시오. 에이전트가 잘못된 행동을 할 때 즉시 중단시킬 수 있는지 물으십시오. 에이전트 비용을 특정 비즈니스 워크플로우와 연결할 수 있는지 물으십시오.
에이전트를 구축하는 것은 쉬운 부분입니다. 에이전트를 전문적인 인력으로 운영하는 것이 어려운 부분입니다.
Source: https://dev.to/focused_dot_io/enterprise-ai-agents-have-a-control-plane-now-focused-labs-4enb
Optional learning community: https://t.me/GyaanSetuAi