Модели ИИ с открытыми весами теперь обрабатывают 63 % токенного трафика на OpenRouter, по сравнению с менее чем 5 % всего два года назад. Этот скачок произошел на фоне 50-кратного снижения стоимости одного токена и сокращения разрыва в производительности, что заставляет разработчиков пересматривать свою зависимость от закрытых API.

Цифры, стоящие за этим сдвигом

Анализ трафика от Mozilla показывает, что модели с открытыми весами стали доминирующим источником вычислений на платформе OpenRouter. Токенный трафик учитывает каждую единицу текста, обработанную моделью, что делает его надежным показателем реального использования. Скачок с менее чем 5 % до 63 % за такой короткий срок свидетельствует о структурных изменениях, а не о мимолетном тренде.

Почему экономика изменилась

В 2023 году запуск высокопроизводительной модели стоил примерно 20 долларов за каждый миллион обработанных токенов. Сегодня эта цена составляет 0,40 доллара — 50-кратное снижение, достигнутое за последние 36 месяцев.

Разрыв в производительности сокращается

Раньше открытые модели отставали от проприетарных аналогов примерно на 8 % в стандартных бенчмарках. Последние измерения показывают, что этот разрыв сократился до 3,3 % — результат, достигнутый всего за несколько месяцев благодаря улучшенной курации данных и архитектурным доработкам. Теперь разрыв настолько мал, что многие разработчики не видят существенных минусов в замене закрытой модели на открытую, особенно когда решающим фактором является стоимость.

Разработчики переходят массово

Данные Mozilla показывают, что 79 % разработчиков, внедряющих функции ИИ, теперь начинают с модели с открытыми весами. Выбор обусловлен не только ценой; открытые модели дают командам полную прозрачность в отношении весов, лицензирования и вариантов развертывания, что обеспечивает более быстрые циклы итераций.

Вопрос суверенитета повышает значимость

Сорок семь стран недавно ограничили обработку критически важных рабочих нагрузок с использованием иностранных ИИ-сервисов. Модели с открытыми весами могут размещаться на отечественной инфраструктуре, что позволяет этим странам сохранять контроль над данными и соблюдать новые нормативные требования. Регуляторное давление ускоряет внедрение таких моделей в финансах, здравоохранении и государственном управлении.

Настоящий «защитный ров» — это инфраструктура (harness)

Анализ Mozilla также подчеркивает, что сопутствующий инструментарий — фреймворки для промпт-инжиниринга, фильтры безопасности, конвейеры оркестрации — часто дает больший прирост производительности, чем переход на чуть более совершенную модель.

Риски привязки к закрытым API

  • Риск вендора — изменения в политике, пересмотр цен или государственные распоряжения могут мгновенно ограничить доступ, оставив сервисы неработающими до момента заключения нового контракта.

Прагматичный стек для современных разработчиков

  • Используйте модели с открытыми весами по умолчанию для основной части рабочих нагрузок в продакшене.
  • Инвестируйте в инфраструктуру (harness): создавайте наборы для оценки, разрабатывайте библиотеки переиспользуемых промптов и интегрируйте уровни безопасности.
  • Проектируйте с учетом переносимости: абстрагируйте вызовы моделей за интерфейсом, который сможет маршрутизировать запросы к нескольким провайдерам без изменения кода.
  • Оставляйте закрытые модели для примерно 10 % задач, требующих передовых способностей к рассуждению или проприетарных данных, с которыми открытые модели пока не могут сравниться.

За чем следить дальше

Модели с открытыми весами теперь доминируют на рынке ИИ-токенов, потому что они значительно дешевле и почти так же эффективны, как закрытые альтернативы. Команды, которые создадут надежную инфраструктуру (harness) и обеспечат переносимость своих стеков, смогут сократить расходы, защитив себя от потрясений, связанных с вендорами и политикой. Закрытые модели сохранят статус специализированных инструментов, но основная часть работы в сфере ИИ уже переходит в открытую плоскость.