나는 무작위 AI 플러그인을 신뢰했다
Cisco 연구원들은 2026년 초에 중대한 보안 결함을 발견했습니다. OpenClaw 마켓플레이스의 한 플러그인은 정상적으로 보였고, 약속된 대로 작동했습니다. 하지만 비밀리에 민감한 데이터를 훔치고 있었습니다. 사용자의 허가 없이 데이터를 외부 서버로 전송했습니다.
한 OpenClaw 개발자는 커맨드 라인(command line)을 이해하지 못한다면 이 도구는 당신에게 너무 위험하다고 말했습니다.
3개월 후, 중국 정부는 국가 기관의 OpenClaw 사용을 금지했습니다. 그들은 데이터 유출과 리소스 문제를 이유로 들었습니다.
2026년의 진짜 위험은 AI가 나쁜 코드를 작성하는 것이 아닙니다. 나쁜 코드는 리뷰를 통해 수정할 수 있습니다. 진짜 위험은 자율 에이전트(autonomous agents)입니다. 이 에이전트들은 파일 접근 권한과 파이프라인 제어권을 가지고 있습니다. 당신이 잠든 새벽 2시에 스스로 결정을 내립니다.
데이터는 점점 커지는 문제를 보여줍니다: • AI 생성 코드 배포의 45%에서 문제가 발생했습니다. • 기업의 48%가 AI 코딩으로 인해 보안 위험이 높아졌다고 보고했습니다. • 이 수치는 여전히 사람이 작업을 리뷰하는 팀에서 도출된 것입니다.
에이전트에게 실행 권한을 부여하기 전에 반드시 다음 규칙을 따라야 합니다:
신중하게 자율성을 부여하십시오. 가능한 가장 낮은 권한부터 시작하십시오. 안정적인 동작이 확인된 후에만 권한을 추가하십시오.
감사 로그(audit logs)를 의무화하십시오. 모든 에이전트 작업에는 기록이 필요합니다. 문제가 발생했을 때 조사하려면 이 로그가 필요합니다.
가역성(reversibility)을 고려하여 설계하십시오. 체크포인트마다 Git 커밋을 사용하십시오. 에이전트가 수행한 모든 변경 사항을 되돌릴 수 있어야 합니다.
서드파티 스킬(third-party skills)을 면밀히 검토하십시오. 나쁜 패키지는 앱에 해를 끼치지만, 나쁜 에이전트 스킬은 시스템 전체에 해를 끼칩니다.
책임 소재를 명확히 하십시오. 에이전트가 풀 리퀘스트(pull request)를 생성하면, 그 요청에 대한 책임은 당신에게 있습니다. 에이전트가 코드를 커밋하면, 그 코드에 대한 책임은 당신에게 있습니다.
내일은 코드 생성에 대한 저의 관점을 바꾼 도구와 2026년에 반드시 알아야 할 AI 에이전트에 대해 논의하겠습니다.