Vedere Labs는 AI 모델인 Claude가 한 WAGO 프로그래머블 로직 컨트롤러(PLC)의 원격 코드 실행(remote-code-execution) 익스플로잇을 다른 PLC로 이식할 수 있음을 보여주었습니다. 연구원들이 여전히 과정을 안내했지만, 이는 인공지능이 산업 사이버 공격을 위한 실질적인 도구가 되고 있음을 입증했습니다. 이 개념 증명(PoC)은 Nucleus FTP 서버의 버퍼 오버플로 취약점에 대해 작동하는 익스플로잇을 시연했습니다.

이것이 중요한 이유

산업 제어 시스템은 공장, 발전소 및 수처리 시설을 운영합니다. 공격자가 PLC에서 코드를 실행할 수 있게 하는 취약점은 프로세스를 방해하거나, 데이터를 훔치거나, 지속적인 백도어를 설치할 수 있습니다. 익스플로잇 적응을 자동화함으로써, AI는 이러한 취약점을 무기화하는 데 필요한 전문 지식의 문턱을 낮추어 잠재적 공격자의 범위를 확장합니다.

AI가 이를 수행한 방식

Vedere 팀은 Claude를 오픈 소스 리버스 엔지니어링 도구인 Ghidra와 결합했습니다. 그들은 AI에 원래 익스플로잇의 셸코드(버퍼 오버플로 이후에 실행되는 아주 작은 프로그램)를 분석하고, 이를 다른 PLC 모델의 펌웨어 제약 사항에 맞게 다시 작성하도록 프롬프트를 입력했습니다. Claude는 다음과 같은 작업을 수행했습니다:

  • 대상의 메모리 레이아웃을 우회하도록 셸코드를 수정했습니다.
  • 정교하게 제작된 네트워크 패킷을 전송하는 코드 실행을 달성하여, 익스플로잇이 엔드 투 엔드로 작동함을 증명했습니다.
  • 명령 및 제어(C2) 임플란트를 삽입하려 시도했으나, 해당 실행으로 인해 PLC가 영구적으로 벽돌(bricked) 상태가 되었으며, 이는 대규모 시행착오가 수반될 때의 위험성을 강조합니다.

연구원들은 여전히 과정을 주도하며 결과를 검증하고 하드웨어 고장에 대처했습니다. 또한 이번 실험을 통해 분석 및 코드 생성을 위해 필요한 API 호출 비용이 매우 높다는 점도 드러났습니다.

더 광범위한 경고

미국 사이버보안 및 인프라 보안국(CISA)과 FBI는 모두 AI가 생성한 스크립트가 산업 제어 시스템을 점점 더 매력적인 공격 대상으로 만들고 있다고 경고했습니다. 주요 우려는 정교한 공격에 대한 진입 장벽이 낮아지고 있다는 점입니다. 이제 깊은 리버스 엔지니어링 기술이 없는 행위자들도 AI 어시스턴트에 의존하여 기능적인 익스플로잇을 제작할 수 있습니다.

한계 및 반론

이 실험은 즉시 사용 가능한(turnkey) 무기가 아닙니다. 프롬프트를 설정하고, Ghidra를 통합하며, 출력을 해석하기 위해서는 숙련된 팀이 필요했습니다. PLC의 우발적인 파괴는 이 과정이 여전히 취약하고 오류가 발생하기 쉽다는 것을 보여줍니다. 또한 대규모 언어 모델(LLM) API 사용 비용이 일반적인 오용을 저지하는 요소가 될 수 있습니다.

주목해야 할 점

  • AI 도구의 접근성이 높아짐에 따라 정부 사이버 보안 기관의 지속적인 권고 사항.

Vedere Labs의 사례는 AI가 더 이상 공격자들에게 이론적인 보조 도구에 머물지 않는다는 점을 분명히 합니다. AI는 새로운 하드웨어에 맞춰 악성 코드를 능동적으로 재작성할 수 있으며, 이는 핵심 산업 시스템의 위협 양상을 재편하고 있습니다.