Ваш ШІ пише код швидше, ніж ви встигаєте його перевіряти

ШІ пише код швидше, ніж люди можуть його читати.

Вузьке місце змінилося. Раніше це було написання коду. Тепер вузьке місце — це довіра до коду.

Більшість команд зазнають невдачі саме тут. Вони роблять одну з двох речей:

  • Вони перевіряють усе однаково. Виправлення в один рядок чекає в тій самій черзі, що й масштабне оновлення платіжної системи. Ви втрачаєте всю швидкість, яку надав вам ШІ.

  • Вони майже нічого не перевіряють. Вони довіряють ШІ, тому що він виглядає впевнено. Це призводить до порушень безпеки або некоректних даних. Впевненість — це не правильність.

Graduated Review Authority (GRA) вирішує цю проблему. Вона змінює підхід до перевірки коду на основі двох факторів: рівня ризику та доказів правильності.

Проста зміна, яка проходить усі автоматизовані тести, не повинна піддаватися такому ж ретельному аналізу, як зміна вашої платіжної логіки.

Правило просте:

Генерація не є авторитетом. Авторитетом є пайплайн.

Будь-хто може писати код. Агент або людина. Написання коду не означає, що його можна випускати. Дозвіл надається лише після проходження валідації. Модель пропонує зміну. Вона не надає собі права на реліз.

GRA використовує три рівні доказів:

  • Детерміновані шлюзи (Deterministic gates). Це тести, сканування безпеки та перевірки політик. Вони дають однозначну відповідь. Помилка на цьому етапі зупиняє все.

  • Перевірка агентом. Це корисно, але не ідеально. Вона має значення лише тоді, коли рецензент відокремлений від автора.

  • Перевірка людиною. Люди займаються тим, з чим не можуть впоратися машини. Люди приймають рішення щодо ризиків, намірів та архітектури.

Певні завдання завжди потребують участі людини. До них належать автентифікація, рух коштів та регульовані дані.

Система навчається. Тип змін із чистою історією потребує менше перевірок. Зміна, що спричиняє баги, потребує більшого нагляду. Система може посилити перевірку, але вона ніколи не послаблює її нижче безпечного мінімуму.

AI-native доставка — це не про те, щоб дозволити агентам випускати код. Це про те, щоб спрямовувати людську увагу туди, де вона найбільш важлива.

Джерело: https://dev.to/joshuamil/your-ai-writes-code-faster-than-you-can-review-it-now-what-bi6

Додаткова спільнота для навчання: https://t.me/GyaanSetuAi