AI는 아직 안전한 코드를 작성할 수 없다
C++를 만든 비야네 스트롭스트룹(Bjarne Stroustrup)은 AI 코딩에 대해 확고한 견해를 가지고 있습니다.
그는 AI 도구가 복잡한 시스템 코드를 작성하는 데 한계가 있다고 말합니다. AI가 더 많은 버그와 보안 취약점을 만들어낸다고 믿기 때문입니다.
그가 우려하는 이유는 다음과 같습니다:
- 변경 사항 추적이 어렵습니다. 사람이 수정한 내용은 한곳에 머물지만, AI가 수정한 내용은 프로젝트 전체로 퍼집니다. 이로 인해 부작용(side effects)을 쉽게 찾아낼 수 없습니다.
- AI는 기존의 습관을 모방합니다. LLM은 기존 코드를 학습하므로, 과거의 실수나 성능이 저하되는 패턴을 반복합니다.
- 검증이 어렵습니다. AI가 작성한 내용을 검증하기가 까다롭습니다.
그는 AI를 싫어하는 것이 아닙니다. 기술 문서 작성에는 도움이 된다고 생각합니다. 다만, 결과물을 확인하기 위해서는 여전히 사람이 필요합니다.
스트롭스트룹은 상위 20%의 코드에 집중합니다. 이는 안전성과 고성능을 위해 사용되는 코드입니다. AI는 아직 이 작업을 수행할 준비가 되지 않았습니다.
PVS-Studio의 전문가들도 이에 동의합니다.
Phillip Khandeliants는 개발자가 AI 코드를 확인하지 않고 그대로 복사하여 붙여넣을 때 문제가 시작된다고 말합니다. 이는 품질이 낮고 보안에 취약한 소프트웨어로 이어집니다.
Oleg Lisiy는 다른 관점을 제시합니다. 이제 AI는 업무의 일부입니다. 하지만 AI 에이전트가 코드를 프로덕션 환경에 직접 푸시하도록 해서는 안 됩니다. 대기업에게 이는 위험한 생각입니다.
그는 또한 AI를 사용하는 것이 에디터의 자동 완성 기능을 사용하는 것과 같다고 언급합니다. 단순히 Tab 키를 누르고 결과가 잘 나오길 바랄 수는 없습니다.
목표는 AI를 사고를 대체하는 수단이 아닌, 하나의 도구로 사용하는 것입니다.
선택 사항 학습 커뮤니티: https://t.me/GyaanSetuAi