Chili’s의 CIO인 Chris Caldwell은 AI 관련 토큰을 구매하는 대신, 매장 내(on-prem) Wi-Fi와 태블릿 하드웨어를 업그레이드하는 데 자본을 재배치했습니다. 박리다매식 수익 구조를 가진 레스토랑 체인에게 더 빠르고 안정적인 네트워크는 곧 더 빠른 테이블 회전율로 직결됩니다.
거품보다 네트워크가 더 중요한 이유
현재 실리콘밸리의 화두는 인공지능이지만, 북적이는 매장에서 마주하는 일상의 현실은 그만큼 화려하지 않습니다. 서버의 태블릿은 주문을 즉시 주방으로 전송해야 하고, 신용카드 결제는 몇 초 내에 완료되어야 하며, 재고 수량은 실시간으로 업데이트되어야 합니다. 로컬 무선 메시 네트워크에 작은 문제라도 생기면 전체 흐름이 끊기게 되고, 직원들은 종이 티켓이나 수동 입력 방식으로 돌아갈 수밖에 없습니다. 이 두 방식 모두 서비스 속도를 늦추고 고객을 불만스럽게 만듭니다.
Caldwell은 가장 취약한 고리는 소프트웨어가 아니라 레스토랑의 엣지 컴퓨팅(edge-computing) 환경이라고 말했습니다. Wi-Fi 커버리지를 강화하고 노후된 태블릿을 교체함으로써, Chili’s는 테이블 회전 시간을 단축했습니다.
투기적인 AI의 숨겨진 비용
주문이나 업셀링(upselling)을 위해 클라우드 기반 AI 에이전트를 도입하는 것은 매력적으로 들리지만, 많은 개발자가 간과하는 두 가지 비용 문제가 발생합니다. 첫째, 모든 AI 추론(inference) 호출 시 API 호출당 비용이 발생하며, 이는 사용량이 늘어남에 따라 급격히 불어날 수 있습니다. 둘째, 모델의 오분류, 가격표 오류 또는 지연 시간 급증(latency spikes) 문제를 해결하기 위해 지속적인 모니터링과 엔지니어링 인력이 필요합니다.
예측 가능한 지출 대 변동성이 큰 청구서
Caldwell은 이번 결정을 재무적 관점에서 다음과 같이 설명했습니다:
- AI 경로: 모델 호출마다 발생하는 예측 불가능한 사용량 기반 요금; 시스템 정확도를 유지하기 위한 전문 머신러닝 엔지니어의 지속적인 필요성.
- 인프라 경로: 라우터, 액세스 포인트, 태블릿에 대한 고정 지출; 기존 IT 직원이 처리하는 정기적인 유지보수.
하드웨어 비용을 고정함으로써 Chili’s는 IT 예산을 확신을 가지고 예측할 수 있게 되었으며, 이는 AI 중심의 지출로는 누릴 수 없는 여유입니다.
업계 전반에 걸친 시사점
만약 체인이 신용카드 결제를 위해 1초 미만의 네트워크 성능을 보장할 수 없다면, 값비싼 AI 계층을 추가하는 것은 고객 경험을 개선하는 데 거의 도움이 되지 않습니다.
반론: AI의 역할은 여전히 존재한다
앞서 언급한 이점들은 모델의 응답을 실시간으로 전달할 수 있는 네트워크를 전제로 합니다. 그렇지 않다면 AI 계층은 수익 창출원이 아닌 비용만 많이 드는 부가 기능이 될 뿐입니다.
핵심 요약: 초 단위로 수익이 결정되는 분야에서는 투기적인 AI를 쫓는 것보다 물리적 네트워크를 강화하는 것이 더 효과적입니다. 안정적인 매장 내(on-prem) Wi-Fi와 견고한 하드웨어는 오늘의 운영을 원활하게 할 뿐만 아니라, 향후 도입될 모든 지능형 서비스를 위한 토대를 마련합니다.