Meta, 엔지니어를 위한 AI 토큰 예산 곧 제한될 수 있다고 예측
인공지능이 소프트웨어 개발 생명주기에 깊숙이 통합됨에 따라, 컴퓨팅의 숨겨진 비용이 드러나기 시작했습니다. Meta의 임원인 Adam Mosseri는 토큰 소비 비용이 인간의 급여에 필적하기 시작하면서, 무제한적인 AI 실험의 시대가 끝나가고 있을 수 있다고 시사했습니다.
상승하는 AI 토큰 소비 비용
최근 Lenny’s Podcast 인터뷰에서 Instagram의 수장인 Adam Mosseri는 빅테크 기업들이 직면한 재정적 현실을 강조했습니다. 바로 AI 도구를 사용하는 고성과 엔지니어의 '번 레이트(burn rate, 비용 소모율)'가 곧 실제 고용 비용과 맞먹을 수 있다는 점입니다. 이러한 변화는 AI를 무료 생산성 향상 도구로 보던 관점에서 상당한 운영 비용(OpEx)으로 보는 관점으로의 전환을 의미합니다.
이 문제의 규모는 엄청납니다. Meta는 최근 현재의 소비 패턴을 방치할 경우 2026년까지 수십억 달러를 지출하게 될 것이라는 사실을 깨닫고, 내부의 "AI 토큰 지출 리더보드(AI token spend leaderboard)"를 폐쇄해야 했습니다. Mosseri는 관리가 이루어지지 않으면, 실제 비즈니스 가치를 창출하지 못하면서 막대한 양의 컴퓨팅 자원만 소모하는 워크플로우인 '토큰 소각로(token incinerator)'를 만들기 매우 쉽다고 지적했습니다.
리소스 관리로의 전환
Mosseri는 토큰 예산이 GPU 용량, RAM, 스토리지 또는 급여와 같은 다른 한정된 기업 리소스와 동일한 엄격함으로 관리되어야 한다고 주장합니다. 이러한 '토큰 배급제(token rationing)'로의 움직임은 Meta만의 일이 아닙니다. 업계는 이미 AI 재정 결산의 징후를 보이고 있습니다.
- Uber: 차량 호출 거물인 Uber는 올해 4월에 이미 2026년까지의 예상 AI 코딩 예산을 모두 소진하며 AI 예산 위기에 직면했습니다.
- Microsoft: 비용을 통합하기 위한 조치로, Microsoft는 Claude Code 라이선스를 취소하고 엔지니어링 인력을 자사의 독자적인 Copilot CLI 도구로 전환했습니다.
Meta가 제안하는 모델은 엔지니어 개개인이 "ROI(투자 대비 수익)가 발생하는" 결과를 도출할 수 있는 능력에 비례하여 상한선(cap)을 설정하는 것입니다. 무제한적인 접근 대신, 엔지니어들은 AI로 강화된 워크플로우가 회사에 창출하는 가치에 따라 예산을 할당받게 될 가능성이 높습니다.
지속 가능한 AI 스케일링을 향한 경로
당장의 미래는 제약이 강화되는 모습이지만, Mosseri는 AI 경제의 장기적인 궤도에 대해서는 낙관적인 태도를 유지하고 있습니다. 그는 모델 제공업체들이 시장 점유율을 확보하기 위해 치열한 가격 전쟁을 벌임에 따라, 토큰당 비용이 결국 감소할 것으로 예상합니다.
현재 업계는 전환기에 있습니다. 기업들은 "무의미한" 실험에서 벗어나 규율 있고 가치 중심적인 AI 구현으로 나아가고 있습니다. 개발자와 기술 창업자들에게 이는 효율성의 다음 단계가 단순히 더 나은 코드를 작성하는 것이 아니라, 컴퓨팅 낭비를 최소화하면서 지능을 극대화하는 코드를 작성하는 것이 될 것임을 의미합니다.
핵심 요약
- 재정적 동등성: 개별 엔지니어의 AI 토큰 비용은 결국 전체 고용 비용과 일치할 것으로 예상됩니다.
- 업계 전반의 트렌드: Uber와 Microsoft 같은 주요 기업들은 이미 통제 불능의 AI 지출을 관리하기 위해 엄격한 통제를 시행하고 도구를 통합하고 있습니다.
- ROI 중심의 접근: 향후 AI 리소스 할당은 관리되는 운영 비용(OpEx)으로 취급될 것이며, 예산은 엔지니어의 측정 가능한 투자 수익률(ROI)과 연계될 가능성이 높습니다.