Ваш ИИ пишет код быстрее, чем вы успеваете его проверять

ИИ пишет код быстрее, чем человек может его прочитать.

Узкое место изменилось. Раньше им было написание кода. Теперь узкое место — это доверие к коду.

Большинство команд терпят неудачу именно здесь. Они делают одно из двух:

  • Они проверяют всё одинаково. Исправление в одну строку ждет в той же очереди, что и масштабное обновление платежной системы. Вы теряете всю скорость, которую дал вам ИИ.

  • Они почти ничего не проверяют. Они доверяют ИИ, потому что он выглядит уверенно. Это приводит к дырам в безопасности или некорректным данным. Уверенность не означает правильность.

Graduated Review Authority (GRA) решает эту проблему. Она меняет подход к проверке кода на основе двух факторов: уровня риска и доказательств корректности.

Простое изменение, прошедшее все автоматические тесты, не должно подвергаться такой же тщательной проверке, как изменение логики платежей.

Правило простое:

Генерация не является полномочием. Полномочия принадлежат пайплайну.

Код может написать кто угодно: и агент, и человек. Написание кода не означает, что его можно выпускать. Одобрение приходит после прохождения валидации. Модель предлагает изменение, но она не дает сама себе разрешение на выпуск.

GRA использует три уровня доказательств:

  • Детерминированные шлюзы. Это тесты, сканирование безопасности и проверки политик. Они дают однозначный ответ. Ошибка на этом этапе останавливает всё.

  • Проверка агентом. Это полезно, но не идеально. Она имеет значение только в том случае, если проверяющий отделен от автора.

  • Проверка человеком. Люди справляются с тем, что не под силу машинам. Люди принимают решения относительно рисков, намерений и архитектуры.

Определенные задачи всегда требуют участия человека. К ним относятся аутентификация, движение денежных средств и работа с регулируемыми данными.

Система обучается. Тип изменений с чистой историей подвергается меньшему контролю. Изменения, вызывающие баги, получают больше надзора. Система может ужесточать проверку, но она никогда не ослабит её ниже установленного безопасного порога.

AI-native доставка — это не про то, чтобы позволить агентам выпускать код. Это про то, чтобы направлять внимание человека туда, где оно важнее всего.

Источник: https://dev.to/joshuamil/your-ai-writes-code-faster-than-you-can-review-it-now-what-bi6

Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi