엔터프라이즈 AI의 흐름이 바뀌었습니다. 몇 년 전만 해도 경영진에게 머신러닝을 테스트해 보자고 설득하는 것조차 힘겨운 싸움이었습니다. 이제는 예산이 편성됩니다. 파일럿 프로젝트가 승인됩니다. 로드맵에는 유스케이스가 쌓여갑니다. 하지만 너무 많은 프로젝트가 실제 비즈니스 운영 방식을 바꾸지 못하는 값비싼 실험으로 끝납니다. 모델은 괜찮습니다. 문제는 그 외의 모든 것입니다.
파일럿 프로젝트가 실패하는 곳
모두가 데모를 좋아합니다. 프로토타입은 놀라운 정확도로 이탈률을 예측합니다. 이사회는 고개를 끄덕입니다. 자금이 투입됩니다. 그러고 나면 침묵이 흐릅니다. 개념 증명(PoC)은 승인되지만, 진척은 멈춰버립니다. 무슨 일이 일어난 걸까요?
비즈니스 팀은 대시보드를 바라보며 이것이 일상적인 업무 흐름에 어떻게 맞는지 파악하지 못합니다. 모델에 데이터를 공급하는 데이터 파이프라인은 아무도 관리하지 않는 일회성 수동 추출 방식입니다. 규제 준수 규칙은 중간에 바뀝니다. 시스템은 CRM에서 한 번도 생성된 적 없는 깨끗한 입력을 요구합니다. AI는 노트북 환경에서는 잘 작동합니다. 하지만 조직은 그것을 어떻게 활용해야 할지 모릅니다.
이것은 전달(delivery)의 실패입니다. 95%의 정확도를 기록하는 모델은 해커톤에서 우승할 수 있습니다. 하지만 나머지 5%가 감사 지옥이나 안전 위반을 초래한다면, 운영팀은 이를 중단시킬 것입니다. 엔지니어들은 기술적 이정표를 축하합니다. 비즈니스 부서는 결코 오지 않는 결과물을 기다립니다. 이 둘 사이의 간극이 바로 프로젝트가 사장되는 지점입니다.
번역의 간극
있는 그대로 말합시다. 경영진은 매출 성장이나 비용 절감을 원합니다. 운영팀은 혼란 없는 속도를 원합니다. 데이터 팀은 이해하기 쉬운 스키마를 원합니다. 엔지니어는 가동 시간과 깨끗한 API를 원합니다. 이러한 요구사항들은 자연스럽게 일치하지 않습니다.
각 그룹을 내버려 두면, 저마다 다른 것을 최적화합니다. 엔지니어는 예측 엔드포인트의 지연 시간을 줄이는 데 몇 주를 보낼 수도 있지만, 영업팀은 UI가 혼란스러워 여전히 모든 것을 엑셀로 내보내고 있을 수 있습니다. 데이터 과학자는 AUC의 소수점 넷째 자리 숫자에 집착할 수도 있지만, 창고 팀은 중요한 필드에 6개월 동안 null 값을 기록해 왔을 수도 있습니다. 누구도 틀리지 않았습니다. 그저 서로 다른 언어를 사용하고 있을 뿐입니다.
이러한 불일치는 파일럿 단계 이후 AI가 정체되는 가장 큰 이유입니다. GPU 부족 때문이 아닙니다. 박사 인력이 부족해서도 아닙니다. 이 그룹들 사이에 앉아 공통된 현실을 구축할 수 있는 사람이 없기 때문입니다.
Forward Deployed Engineer가 실제로 하는 일
Forward Deployed Engineer(FDE)가 바로 그 가교 역할을 합니다. 그들은 데이터 과학자나 플랫폼 엔지니어를 대체하지 않습니다. 그들은 비즈니스, 엔지니어링, 데이터, 제품 팀을 가로질러 협업하며, 기술이 출시되기도 전에 이를 사장시키는 조직적 마찰을 해결합니다.
FDE가 프로젝트에 투입되면, 불편할 수도 있는 질문을 던지는 것부터 시작합니다. 이 도구를 사용하는 사람에게 성공적인 화요일 아침이란 어떤 모습인가요? 이 데이터 스트림에 실제로 데이터를 공급하는 레거시 시스템 세 개는 무엇인가요? 모델이 틀리면 프로세스에는 어떤 일이 발생하나요? 그들은 답변을 기술적 결정으로 변환하여, 팀이 잘못된 솔루션을 구축하느라 몇 달을 허비하지 않도록 합니다.
일반적인 업무 수행 시, FDE는 다음과 같은 일을 합니다:
- 모호한 지시를 수용하는 대신 이해관계자와 목표를 명확히 합니다
- Jira 티켓에 기록되지 않는 병목 구간을 찾기 위해 실제 업무 현장을 확인합니다
- 기존 문서에서 누락된 데이터 의존성을 식별합니다
- 그러한 요구사항을 구체적인 기술적 결정으로 변환합니다
- 결과물을 넘겨받을 운영팀과의 회의에 참여하여 가설을 조기에 검증합니다
FDE는 기술적 문제뿐만 아니라 조직적 문제를 해결합니다. 예를 들어, 운영 매니저가 학습 데이터 선정 과정에 참여하지 못해 모델을 불신한다는 사실을 알아챌 수도 있습니다. 그래서 그들은 그녀가 실제로 이해할 수 있는 피드백 루프를 구축합니다. 또한, 새로운 시스템이 무시하는 두 단계의 승인 절차가 워크플로우에 필요하다는 것을 발견하면, 도구를 망가진 프로세스에 억지로 끼워 맞추는 대신 업무 인수인계(handoff) 과정을 재설계합니다.
정확도만이 아닌, 채택률을 측정하라
가장 성공적인 AI 프로그램은 다른 성과 지표를 추적합니다. 모델 지표도 여전히 중요하지만, 진짜 지표는 후속 단계(downstream)에 있습니다. 사람들이 사용하고 있는가