ШІ поки що не вміє писати безпечний код

Б'ярне Струструп створив C++. Він має чітку думку щодо програмування за допомогою ШІ.

Він стверджує, що інструменти ШІ не справляються з написанням складного системного коду. Він вважає, що ШІ створює більше багів та дірок у безпеці.

Ось чому він хвилюється:

  • Відстежувати зміни важко. Зміни, внесені людиною, залишаються в одному місці. Зміни ШІ поширюються на весь проєкт. Неможливо легко знайти побічні ефекти.
  • ШІ імітує старі звички. LLM навчаються на існуючому коді. Вони повторюють старі помилки та патерни низької продуктивності.
  • Валідація — це хаос. Важко перевірити те, що написав ШІ.

Він не ненавидить ШІ. Він вважає, що він допомагає з технічним письмом. Проте для перевірки роботи все одно потрібна людина.

Струструп зосереджується на топ-20% коду. Це код, який використовується для забезпечення безпеки та високої продуктивності. ШІ ще не готовий до такої роботи.

Експерти з PVS-Studio погоджуються.

Філіп Ханделіантс каже, що проблеми починаються тоді, коли розробники копіюють і вставляють код ШІ без перевірки. Це призводить до створення поганого та незахищеного програмного забезпечення.

Олег Лісий додає іншу точку зору. ШІ вже є частиною роботи. Не варто дозволяти ШІ-агенту відправляти код безпосередньо в продакшн. Для великих компаній це погана ідея.

Він також зазначає, що використання ШІ схоже на використання автодоповнення у вашому редакторі. Не можна просто натиснути Tab і сподіватися на краще.

Мета полягає в тому, щоб використовувати ШІ як інструмент, а не як заміну мисленню.

Джерело: https://dev.to/pvsdev/they-generate-more-bugs-more-security-holes-c-creator-takes-aim-at-vibe-coding-90c

Додаткова спільнота для навчання: https://t.me/GyaanSetuAi