관리형 AI 에이전트가 진정한 기회입니다
대부분의 기업용 챗봇은 막다른 길입니다.
몇 달마다 기업들은 새로운 챗봇이나 새로운 모델을 찾아냅니다. 그들은 대화형 AI가 비즈니스 방식의 변화를 가져올 것이라고 약속합니다.
저는 우리가 잘못된 것에 집중하고 있다고 믿습니다. 기업용 AI의 미래는 채팅이 아닙니다. 바로 실행(execution)입니다.
챗봇은 질문에 답합니다. 질문에 답하는 것은 유용하지만, 비즈니스를 변화시키지는 못합니다. 대부분의 가치는 답변이 아닌 행동에서 나옵니다.
고객 지원 워크플로우는 봇이 환불 정책을 설명한다고 해서 끝나지 않습니다. 봇이 환불을 처리할 때 비로소 끝납니다.
온보딩 워크플로우는 AI가 회사 규정을 설명한다고 해서 끝나지 않습니다. 봇이 계정을 설정하고, 권한을 부여하며, 문서에 서명할 때 비로소 끝납니다.
이것이 관리형 AI 에이전트가 챗봇보다 나은 이유입니다. 에이전트는 인간의 도움을 거의 받지 않고도 계획을 세우고, 추론하며, 다단계 작업을 완료할 수 있습니다.
경영진은 더 나은 대화를 하기 위해 AI를 구매하지 않습니다. 더 나은 결과를 얻기 위해 AI를 구매합니다.
관리형 에이전트는 다음과 같은 업무를 처리할 수 있습니다:
- 조달 승인
- 컴플라이언스 체크
- 고객 온보딩
- 티켓 라우팅
- 문서 생성
질문에만 답하는 챗봇은 종종 사용되지 않는 도구로 전락합니다.
Google, Microsoft, AWS와 같은 대형 제공업체들은 현재 에이전트 프레임워크와 자동화에 투자하고 있습니다. Accenture나 Deloitte와 같은 컨설팅 기업들도 AI 워크플로우 자동화에 집중하고 있습니다.
업계는 프롬프트 트릭(prompt tricks)에서 벗어나 운영 아키텍처(operational architecture)로 이동하고 있습니다. 바로 여기에 가치가 존재합니다.
에이전트를 만드는 것은 쉽습니다. 하지만 신뢰할 수 있는 에이전트를 만드는 것은 어렵습니다. AI가 비즈니스 내에서 작업을 트리거할 때는 다음과 같은 요소가 필요합니다:
- 거버넌스
- 감사 가능성
- 보안 제어
- 인간 승인 단계
- 모니터링
- 복구 경로
- 컴플라이언스 보호 장치
기업용 AI의 승자는 가장 똑똑한 모델을 가진 곳이 아닐 것입니다. 가장 신뢰할 수 있는 오케스트레이션 레이어(orchestration layers)를 가진 곳이 승자가 될 것입니다.
기업에는 또 다른 챗봇이 필요한 것이 아닙니다. 비즈니스 프로세스를 완료할 디지털 워커(digital workers)가 필요합니다.
유용함은 언제나 인상적인 것보다 강력합니다.
기업을 이끌고 있다면, 챗봇을 어떻게 만들지 묻는 것을 멈추십시오. 대신 에이전트가 다음에 어떤 워크플로우를 맡아야 할지 질문하기 시작하십시오.
Optional learning community: https://t.me/GyaanSetuAi