Ми встановили кредитний ліміт у $100 для нашого флоту з десяти ШІ-агентів, і механізм обмеження (throttle) спрацював того ж дня, зупинивши всі нові завдання, поки ми не збільшили ліміт. Цей інцидент демонструє, що контур керування спрацював миттєво, як тільки було перевищено бюджет.

Чому кредитний ліміт важливий для ШІ-флотів

Запуск десяти автономних агентів на одному сервері створює постійний потік API-викликів, кожен з яких тарифікується за спожиті токени. Традиційні логи фіксують те, що робили агенти — запити, відповіді, часові мітки — але вони нічого не говорять про вартість цих дій. Коли флот масштабується, цей невидимий рахунок може стрімко зростати, вичерпуючи бюджети до того, як хтось це помітить.

Перетворення логів на фінансовий реєстр

Нашим першим кроком було припинити сприймати логи як звичайний текст і почати ставитися до них як до фінансового реєстру. Кожен цикл агента — task → taking → done — тепер створює три записи в журналі:

  • Money (Гроші) – розрахована вартість у USD, що базується на кількості токенів у запиті.
  • Promises (Обіцянки) – відкриті завдання, які представляють поточне зобов'язання, тобто роботу, яка буде оплачена після завершення.
  • Labour (Праця) – фактичні робочі одиниці, які виконав агент.

Замість того, щоб шукати слово “error” у файлі логів за допомогою grep, ми тепер можемо виконувати справжній фінансовий запит: “Показати всі 'promises', сума яких перевищує $100”. Реєстр робить приховані витрати видимими та доступними для пошуку.

Система керування із замкнутим контуром

Механізм кредитного ліміту працює за чотириетапним циклом, який виконується безперервно:

  1. Measure (Вимірювання) – кожен крок агента додає рядок до логу витрат, фіксуючи використання токенів і розраховану суму в доларах.
  2. Price (Ціноутворення) – система конвертує кількість токенів у USD за поточним курсом.
  3. Alert (Сповіщення) – монітор стежить за поточним бюджетом. Його стан змінюється з none (без попередження) на warn (наближення до ліміту) і cap (ліміт досягнуто).
  4. Throttle (Обмеження) – шлюз зчитує поточний стан і блокує будь-яку нову відправку завдань, коли активний режим cap.

Бюджетне вікно є ковзним п'ятигодинним періодом, що означає, що система завжди аналізує витрати за останні п'ять годин, а не за фіксований календарний блок. Це дозволяє циклу швидко реагувати на сплески активності та запобігає безстроковому блокуванню флоту через один різкий стрибок витрат.

Дашборд, який просто відображає витрати, розповідає історію; але саме механізм обмеження, який зчитує це число і зупиняє відправку завдань, є справжнім інструментом керування.

Стійкість за дизайном

Система контролю витрат, яка стане єдиною точкою відмови, була б контрпродуктивною. Ми створили три засоби захисту:

  • Fails open (Відмова з відкритим доступом) – якщо інструмент бюджетування виходить з ладу, агенти продовжують працювати. Витрати можуть не контролюватися, але флот залишається в робочому стані.
  • Manual bypass (Ручне обходження) – оператори можуть обійти обмеження через пріоритетний канал, дозволяючи критично важливим завданням виконуватися навіть при досягненні ліміту.
  • Auto-resume (Автоматичне відновлення) – коли ковзне вікно просувається вперед, старі витрати випадають із розрахунку. Як тільки загальна сума стає меншою за ліміт, шлюз автоматично відкривається без втручання людини.

Тест: ліміт $100 проти існуючих витрат у $156

Ми запустили систему з лімітом $100, тоді як нещодавня активність флоту вже накопичила витрати на суму $156. Механізм обмеження спрацював миттєво, зупинивши всі нові завдання. Коли ми підняли ліміт до $200, шлюз відкрився, і робота відновилася без додаткових ручних дій.

Експеримент підтвердив дві речі:

  1. Контур керування реагує в режимі реального часу; затримки між виявленням порушення та застосуванням обмеження немає.
  2. Оператори можуть змінювати ліміти на льоту, запобігаючи непотрібним простоям для низькопріоритетних завдань.

Висновок: Перетворення логів агентів на фінансовий реєстр і інтеграція механізму обмеження з ковзним бюджетом у конвеєр відправки завдань забезпечує миттєвий і дієвий захист від перевитрат. Це дешевий і стійкий засіб контролю, який працює вже сьогодні; складніші політики можна буде додати пізніше, але базовий цикл має бути першою лінією оборони для будь-якого флоту ШІ-агентів.