EU의 개정된 제조물 책임 지침(Directive (EU) 2024/2853)은 이제 AI 시스템을 포함한 소프트웨어를 "제품"으로 취급하며, 제조업체, 부품 제공자, 수입업자 및 해당되는 경우 모델의 파인튜너(fine-tuner)에게 무과실 책임(strict liability)을 부과합니다. 이 규칙은 모든 회원국이 2026년 12월 9일까지 이를 국내법으로 전환하면 효력이 발생하며, 그 이후 시장에 출시되는 모든 소프트웨어에 적용됩니다.

변화가 중요한 이유

지난 40년 동안 EU의 책임 체계는 독립형 소프트웨어를 법적 회색 지대에 남겨두었습니다. 법원은 결함 있는 상품을 규율하는 이전 지침에 따라 특정 코드가 "제품"에 해당하는지를 결정하는 데 어려움을 겪었습니다. 2024년 개정안은 다운로드형, 하드웨어 내장형 또는 클라우드 서비스로 제공되는 소프트웨어를 제품으로 명시적으로 정의함으로써 이러한 불확실성을 제거합니다. 이 단일 정의는 기업이 출시하는 모든 코드 라인에 대해 리스크를 평가하는 방식을 재편합니다.

무과실 책임의 의미

무과실 책임 하에서는 청구인이 개발자의 과실을 증명할 필요가 없습니다. 원고는 소프트웨어에 결함이 있었고, 그 결함이 손해를 일으켰으며, 해당 손해가 법률의 보호 범위 내에 있다는 세 가지 요소만 입증하면 됩니다.

책임 소재

책임은 더 이상 원제조업체(OEM)에 국한되지 않습니다. 지침은 부품을 시장에 출시하는 모든 엔티티, 즉 수입업자, 부품 제공자, 그리고 결정적으로 모델을 파인튜닝하여 상업적 서비스의 일부로 배포하는 모든 이에게 책임을 확대합니다. 실제로 유료 서비스를 위해 오픈 소스 모델을 조정하는 데이터 과학 팀은 해당 AI 제품의 "제조업체"로 간주될 수 있습니다.

학습형 AI와 출시 후 변경 사항

이 법은 출시 후에도 계속 학습하거나 진화하는 제품을 명시적으로 포함합니다. 사용자 행동에 반응하여 알고리즘을 업데이트하는 자기 최적화 추천 엔진은 배포 후에 결함이 발생했다는 주장만으로는 책임을 피할 수 없습니다. 공급업체는 시스템의 전체 수명 주기에 대해 책임을 집니다.

증거 및 "블랙박스" 완화

법원은 피고에게 내부 로그, 학습 데이터 또는 모델 파라미터를 공개하도록 명령할 수 있습니다. 기업이 이를 거부할 경우, 법원은 제품에 결함이 있다고 추정할 수 있습니다. 시스템이 너무 기술적으로 복잡하여 일반인이 그 작동 방식을 이해할 수 없는 경우, 판사는 결함이 존재한다고 추정할 수 있습니다. 이러한 "복잡성 완화(complexity relief)"는 불투명한 "블랙박스" AI에 맞서 공정한 경쟁 환경을 조성합니다.

배상 가능한 손해 범위

지침은 책임 범위에 사망, 인적 상해, 재산 피해 및 데이터 손상까지 포함됨을 명확히 합니다. 잘못된 치료로 이어지는 오작동하는 의료 진단 AI나 고객의 재고 데이터를 손상시키는 물류 알고리즘은 새로운 규칙에 따라 완전한 보상을 촉발할 수 있습니다.

타임라인 및 범위

회원국은 2026년 12월 9일까지 규정을 채택해야 합니다. 책임 체계는 해당 날짜 이후 시장에 출시된 소프트웨어에만 적용되며, 기존 제품은 제외됩니다. 상업적 활동 이외에 생성된 자유 및 오픈 소스 소프트웨어에는 예외가 적용됩니다. 그러나 상업적 제품에 이러한 코드가 포함된 경우, 전체 서비스가 지침의 적용을 받습니다.

기업이 지금 해야 할 일

  • 공급망 감사. 상업적 제품에 포함되는 모든 코드, 서드파티 라이브러리 또는 AI 모델을 식별하십시오.
  • 책임 노출 매핑. 귀하의 조직이 파인튜닝 규칙에 따라 "제조업체"로 간주될 수 있는지 판단하십시오.
  • 문서화 강화. 잠재적인 법원 명령에 대비하여 학습 데이터, 버전 기록 및 배포 후 업데이트에 대한 상세한 기록을 유지하십시오.
  • 보험 검토. 제조물 책임 보험이 데이터 손실을 포함한 소프트웨어 관련 손해를 보장하는지 확인하십시오.
  • 마감 기한 계획. 2026년 12월 이후 출시 예정인 소프트웨어가 새로운 정의 및 안전 기대치를 준수할 수 있도록 제품 출시 일정을 조정하십시오.

개정된 지침은 유럽 내 소프트웨어 책임에 관한 수년간의 모호성을 종식시킵니다. 지금 행동하는 기업은 예상치 못한 소송을 피하고, 코드가 더 이상 회색 지대의 상품이 아니라 명확한 법적 책임이 따르는 규제 대상 제품인 시장에서 우위를 점할 수 있을 것입니다.