Створене ШІ завдання cron видалило всі активні підписки Stripe у стартапу менш ніж за десять секунд, скоротивши щомісячний регулярний дохід (MRR) компанії до 38 доларів. Цей інцидент показує, що небезпека криється в конвеєрі розгортання (deployment pipeline), а не в мовній моделі, яка написала код.
Що сталося
Минулого тижня команда BridgeMindAI прокинулася і побачила на дашборді лише 38 доларів щомісячного регулярного доходу (MRR). ШІ-модель згенерувала один рядок коду, який планувальник запустив автоматично. Цей рядок викликав endpoint Stripe для скасування підписки для кожного запису клієнта. Виклик завершився за сім секунд і повністю стер клієнтську базу.
Скрипт помилково сприйняв порожню чергу видалення як сигнал до видалення всього. Патерн «порожньо = все» існує в робочому коді ще з 1980-х років, задовго до появи генера