Мы установили кредитный лимит в $100 для нашего флота из десяти ИИ-агентов, и в тот же день сработал ограничитель, остановив выполнение всех новых задач, пока мы не подняли планку. Этот инцидент показал, что контур управления сработал мгновенно, как только бюджет был превышен.

Почему кредитный лимит важен для флотов ИИ

Запуск десяти автономных агентов на одном сервере создает непрерывный поток API-вызовов, каждый из которых тарифицируется исходя из потребленных токенов. Традиционные логи фиксируют то, что делали агенты — запросы, ответы, временные метки, — но они ничего не говорят о стоимости этих действий. При масштабировании флота этот невидимый счет может резко вырасти, истощая бюджеты раньше, чем кто-либо это заметит.

Превращение логов в бухгалтерскую книгу

Нашим первым шагом было перестать относиться к логам как к обычному тексту и начать рассматривать их как финансовую книгу. Каждый цикл агента — задача → выполнение → завершено — теперь создает три записи в журнале:

  • Деньги — расчетная стоимость в USD, выведенная из количества токенов в запросе.
  • Обязательства — открытые задачи, представляющие собой текущую задолженность, т. е. работу, которая будет оплачена по завершении.
  • Трудозатраты — фактические единицы работы, выполненные агентом.

Вместо того чтобы искать «error» в лог-файле с помощью grep, теперь мы можем выполнять полноценный финансовый запрос: «Показать все обязательства, общая стоимость которых превышает $100». Бухгалтерская книга делает скрытые расходы видимыми и доступными для поиска.

Система управления с замкнутым контуром

Механизм кредитного лимита работает по непрерывному четырехэтапному циклу:

  1. Измерение — каждый шаг агента добавляет строку в лог расходов, фиксируя использование токенов и расчетную сумму в долларах.
  2. Оценка стоимости — система конвертирует количество токенов в USD по текущему курсу.
  3. Оповещение — монитор отслеживает скользящий бюджет. Его состояние меняется с none (нет предупреждений) на warn (приближение к лимиту) и затем на cap (лимит достигнут).
  4. Ограничение — шлюз считывает текущее состояние и блокирует отправку любых новых задач, когда активен режим cap.

Бюджетное окно представляет собой скользящий пятичасовой период, что означает, что система всегда анализирует расходы за последние пять часов, а не за фиксированный календарный блок. Это позволяет контуру быстро реагировать на всплески активности и предотвращает ситуацию, когда разовый скачок расходов блокирует флот на неопределенный срок.

Дашборд, который просто отображает расходы, лишь рассказывает историю; настоящим управлением является ограничитель, который считывает это число и останавливает диспетчеризацию.

Отказоустойчивость на уровне проектирования

Система контроля расходов, которая сама станет единой точкой отказа, была бы контрпродуктивной. Мы предусмотрели три меры защиты:

  • Открытый отказ (Fails open) — если инструмент управления бюджетом упадет, агенты продолжат работу. Расходы могут остаться неконтролируемыми, но флот останется работоспособным.
  • Ручной обход — операторы могут обойти ограничитель через приоритетный канал, позволяя критически важным задачам выполняться даже при достижении лимита.
  • Автоматическое возобновление — по мере смещения скользящего окна старые расходы исключаются из расчета. Как только общая сумма падает ниже лимита, шлюз открывается автоматически без вмешательства человека.

Тест: лимит $100 против текущих расходов в $156

Мы запустили систему с лимитом $100, в то время как недавняя активность флота уже принесла $156 расходов. Ограничитель сработал мгновенно, остановив все новые задачи. Когда мы подняли планку до $200, шлюз открылся, и работа возобновилась без дополнительных ручных действий.

Эксперимент подтвердил две вещи:

  1. Контур управления реагирует в режиме реального времени; задержка между обнаружением превышения и применением ограничений отсутствует.
  2. Операторы могут корректировать лимиты «на лету», предотвращая ненужные простои при выполнении низкоприоритетных задач.

Вывод: Рассмотрение логов агентов как финансовой книги и внедрение ограничителя со скользящим бюджетом в конвейер диспетчеризации дает мгновенную и действенную защиту от перерасхода. Это дешевый и отказоустойчивый метод контроля, который работает уже сегодня; более сложные политики можно добавить позже, но базовый цикл должен стать первой линией обороны для любого флота ИИ-агентов.