시승 예약을 위한 AI 보이스 에이전트 설계

자동차 대리점에 걸려오는 전화는 단순해 보입니다. 고객은 시승을 예약하거나 차량에 대해 문의하고 싶어 합니다.

대부분의 사람들은 보이스 에이전트에게 좋은 프롬프트가 필요하다고 생각합니다. 하지만 틀렸습니다. 보이스 에이전트에게 필요한 것은 엄격한 워크플로우입니다.

에이전트가 단순히 채팅만 한다면 요약본을 만들 뿐입니다. 하지만 설계를 따른다면 작업을 완료합니다.

대리점 전화를 위해 다음 아키텍처를 사용하세요:

  • 발신자의 의도 파악.
  • 차량 상세 정보 수집.
  • 발신자가 영업, 서비스 또는 상담원이 필요한지 결정.
  • 캘린더에서 예약 가능한 시간대 제안.
  • 도구를 사용하여 예약 생성.
  • 영업 팀에 메모 전송.

LLM은 신뢰할 수 있는 정보원(source of truth)이 아닙니다. 차량 재고 여부를 결정해서는 안 됩니다. LLM은 대화를 해석하고 적절한 도구를 호출하는 역할만 수행해야 합니다. 사실 관계는 CRM과 캘린더 시스템이 제공합니다.

신뢰할 수 있는 에이전트는 대화 상태 레이어(dialogue state layer)를 사용합니다. 이 레이어는 에이전트가 세부 사항을 기억하도록 돕습니다. 예를 들어, 고객이 토요일에 중고 SUV를 원한다는 사실을 기억합니다. 이 레이어가 없다면, 에이전트는 고객이 말을 할 때마다 모든 것을 잊어버립니다.

모델이 데이터를 지어내는 것을 방지하려면 다음과 같은 특정 도구를 제공하십시오:

  • search_stock
  • check_test_drive_slots
  • create_test_drive_booking
  • send_confirmation
  • handoff_to_sales

좋은 에이전트는 자신의 한계를 압니다. 금융이나 불만 사항을 처리하게 두지 마세요. 그런 전화는 상담원에게 연결하십시오.

안전을 위해 다음 규칙을 따르십시오:

  • 재고 데이터가 불분명하면 상담원에게 연결합니다.
  • 고객이 화가 났다면 상담원에게 연결합니다.
  • 고객이 금융 관련 문의를 하면 상담원에게 연결합니다.
  • 예약이 실패하면 이유를 설명하고 콜백을 제안합니다.

신뢰성은 지루한 부분에서 나옵니다:

  • 중복 예약을 방지하기 위해 멱등성 쓰기(idempotent writes)를 사용하십시오.
  • 영업 직원을 위해 구조화된 요약본을 생성하십시오.
  • 도구 오류 발생 시 사과하는 대신 명확한 해결 경로를 제시하십시오.
  • 상담원 전환 규칙을 대리점에서 확인할 수 있도록 가시화하십시오.

시승 에이전트는 단순히 전화기에 탑재된 LLM이 아닙니다. 비즈니스 시스템을 감싸고 있는 대화형 인터페이스입니다.

검증하고, 확인하고, 생성하고, 확정하는 워크플로우를 구축하십시오. 그것이 데모를 넘어 실제 시스템으로 나아가는 방법입니다.

Source: https://dev.to/voicefleet/designing-an-ai-voice-agent-for-test-drive-booking-5o0

Optional learning community: https://t.me/GyaanSetuAi