AWS, AI 에이전트의 보안 및 컨텍스트 격차 해결을 위한 신규 서비스 출시

기업들이 자율형 AI 에이전트를 배포하기 위해 박차를 가하면서, 비즈니스 인텔리전스 부족과 급증하는 보안 취약점이라는 두 가지 거대한 장벽에 부딪히고 있습니다. Amazon Web Services (AWS)는 이러한 핵심 격차를 해소함으로써 실험 단계의 AI를 즉시 실무에 투입 가능한 자산으로 전환할 수 있도록 설계된 전략적 도구 모음을 공개했습니다.

AWS Continuum: 보안 라이프사이클 자동화

AI가 생성하는 코드의 빠른 속도는 기존의 보안 방어 체계를 앞질렀으며, 사람이 수동으로 신속하게 분류하기에는 너무 많은 보안 취약점 적체 현상을 야기하고 있습니다. 이를 해결하기 위해 AWS는 탐지 및 우선순위 지정부터 검증 및 조치에 이르기까지 코드 취약점의 전체 라이프사이클을 관리하도록 설계된 서비스인 AWS Continuum을 도입했습니다.

정적 스캐너와 달리, Continuum은 Anthropic의 Claude Mythos와 같은 특화된 프런티어 모델을 활용하여 머신 스피드로 공격 경로를 식별합니다. 이 서비스는 단순히 경고를 보내는 수준을 넘어 비즈니스 영향도에 따라 위험 순위를 매깁니다. 즉, 특정 컴포넌트가 실제 운영 환경에서 활발히 사용되고 있는지, 혹은 해당 취약점에 실제로 접근 가능한지 등을 판단합니다. 검증 단계에서 Continuum은 격리된 환경에서 잠재적 공격을 재현하여 오탐(false positive)을 제거한 후, 코드 패치나 네트워크 구성 변경과 같은 구체적인 대응책을 제안합니다. 현재 파일럿 단계에 있는 이 서비스는 팀이 사람의 승인이 필요한 '학습 모드(learning mode)'에서 수정 사항이 자율적으로 적용되는 '강제 모드(enforcement mode)'로 전환할 수 있도록 지원합니다.

AWS Context: 기업용 지식 그래프 구축

AI 에이전트가 직면한 두 번째 주요 장애물은 조직에 대한 인식 부족으로 인해 발생하는 '환각(hallucination)' 현상입니다. 데이터가 비즈니스 로직과 어떻게 연결되는지에 대한 지도가 없다면, 에이전트는 종종 확신에 차 있지만 틀린 답변을 내놓게 됩니다. AWS Context는 기업의 기존 데이터 사일로(data silos)로부터 지식 그래프를 자동으로 구축함으로써 이 문제를 해결합니다.

AWS Glue Data Catalog를 통해 S3 데이터 레이크, 데이터베이스 및 SaaS 애플리케이션의 문서, 이미지, 오디오 및 비디오를 인덱싱함으로써, AWS Context는 관계 네트워크를 생성합니다. 이를 통해 에이전트는 예를 들어 특정 데이터베이스 테이블이 어떤 고객에게 속하는지 이해할 수 있습니다. 오픈 테이블 형식을 사용하기 때문에, 기업은 비용이 많이 드는 새로운 데이터 파이프라인을 구축하지 않고도 이러한 컨텍스트를 통합할 수 있습니다. 또한, 내장된 액세스 제어를 통해 에이전트가 기존 권한 프레임워크를 엄격히 준수하며 권한이 있는 데이터에만 액세스하도록 보장합니다.

DevOps 파이프라인 및 에이전트 운영 강화

AWS는 자체 인프라 내에서 발생한 AI 주도 장애 보고에 따라 자율적인 코드 변경에 따른 리스크를 해결하고 있습니다. AWS DevOps Agent에는 새로운 "Release Readiness Review" 기능이 추가되어, 프로덕션 요구 사항 및 종속성을 기준으로 코드를 확인할 수 있습니다. 이러한 결과는 GitHub 또는 GitLab으로 직접 전송되어 개발자에게 원활한 워크플로우를 제공합니다.

오케스트레이션 측면에서는, Bedrock AgentCore가 관리형 지식 베이스와 SharePoint, Confluence, Google Drive용 커넥터를 통해 기능을 확장하고 있습니다. 안전을 보장하기 위해 AWS는 조작된 프롬프트와 데이터 유출을 탐지하는 보안 필터를 통합하고 있으며, Zscaler, Check Point, SentinelOne과 같은 타사 제공업체의 신호를 통합할 계획입니다.

핵심 요약

  • 자동화된 조치(Automated Remediation): AWS Continuum은 프런티어 모델을 사용하여 코드 취약점의 우선순위를 정하고 검증함으로써, 수동 탐지에서 자율적 집행 단계로 전환합니다.
  • 관계형 지능(Relational Intelligence): AWS Context는 에이전트에 비즈니스 인지 지식 그래프를 제공하여, 서로 다른 데이터 소스를 연결함으로써 환각(hallucination) 현상을 줄입니다.
  • 엔터프라이즈급 안전성(Enterprise-Grade Safety): Bedrock AgentCore 및 DevOps Agent 내의 새로운 통합 기능은 엄격한 준비 상태 검토와 타사 보안 신호를 통해 AI 주도 장애를 방지하는 것을 목표로 합니다.