ИИ пока не умеет писать безопасный код

Бьярне Страуструп создал C++. У него есть четкое мнение о программировании с помощью ИИ.

Он утверждает, что инструменты ИИ не справляются с написанием сложного системного кода. Он считает, что ИИ создает больше багов и уязвимостей.

Вот почему он беспокоится:

  • Отслеживать изменения сложно. Изменения, внесенные человеком, локализованы. Изменения ИИ разбросаны по всему проекту. Побочные эффекты трудно обнаружить.
  • ИИ имитирует старые привычки. LLM обучаются на существующем коде. Они повторяют старые ошибки и неэффективные паттерны производительности.
  • Валидация — это хаос. Трудно проверить то, что написал ИИ.

Он не ненавидит ИИ. Он считает, что он помогает в написании технических текстов. Но для проверки работы все равно нужен человек.

Страуструп фокусируется на верхних 20% кода. Это код, отвечающий за безопасность и высокую производительность. ИИ пока не готов к такой работе.

Эксперты из PVS-Studio согласны с ним.

Филипп Ханделиантс говорит, что проблемы начинаются тогда, когда разработчики копируют и вставляют код ИИ без проверки. Это приводит к созданию плохого и небезопасного ПО.

Олег Лисий предлагает другой взгляд. ИИ теперь — часть рабочего процесса. Не стоит позволять ИИ-агенту отправлять код напрямую в продакшн. Для крупных компаний это плохая идея.

Он также отмечает, что использование ИИ похоже на автодополнение в редакторе. Нельзя просто нажать Tab и надеяться на лучшее.

Цель состоит в том, чтобы использовать ИИ как инструмент, а не как замену мышлению.

Источник: https://dev.to/pvsdev/they-generate-more-bugs-more-security-holes-c-creator-takes-aim-at-vibe-coding-90c

Дополнительное обучающее сообщество: https://t.me/GyaanSetuAi