Microsoft는 Azure AI Foundry의 Prompt Flow가 2026년 4월 20일에 새로운 기능 제공을 중단하고, 2027년 4월 20일에 은퇴(retired)할 것이라고 발표했습니다. Microsoft는 개발자들에게 워크로드를 Microsoft Agent Framework로 이전할 것을 권고하고 있습니다. 이 마감 기한이 중요한 이유는 Prompt Flow를 구동하는 런타임 이미지가 곧 보안 업데이트 지원을 중단하게 되어, 서비스를 계속 유지하는 조직에 컴플라이언스 문제를 야기할 수 있기 때문입니다.

Prompt Flow는 대규모 언어 모델(LLM) 파이프라인을 위한 Azure AI Foundry의 시각적 오케스트레이터였습니다. "flow"는 기본적으로 입력, 출력 및 노드 시퀀스를 설명하는 flow.dag.yaml 파일을 포함하는 폴더입니다. 시각적 에디터를 통해 사용자는 구성 요소를 드래그 앤 드롭할 수 있었지만, 버전 관리 시스템이 실제로 추적하는 것은 그 기반이 되는 YAML 파일입니다.

이번 변경 사항이 중요한 이유

  • 컴플라이언스 리스크 – 보안 업데이트가 없으면 런타임 이미지에서 발견되는 모든 취약점이 패치되지 않은 상태로 남게 됩니다. 규제 기관은 특히 자격 증명(credentials)을 다루는 경우, 유지 관리되지 않는 코드를 비준수(non-compliant)로 분류하는 경우가 많습니다.

여전히 알아두어야 할 핵심 개념

Prompt Flow를 중단할 계획을 세우더라도, 이 서비스가 권장했던 패턴들은 여전히 가치가 있습니다. 이러한 패턴을 이해하면 Agent Framework로의 전환을 원활하게 할 수 있습니다.

  • 폴더 기반 정의 – flow의 YAML 파일에는 모든 노드, 유형 및 데이터 계약(data contracts)이 나열됩니다. 이 파일을 소스 제어 하에 두십시오. 이것이 단일 진실 공급원(single source of truth)입니다.
  • 결정론적 작업을 위한 Python 노드 – 파싱, 검증 또는 동일한 입력에 대해 동일한 결과를 생성해야 하는 로직에는 Python 단계를 사용하십시오. 이를 통해 비결정론적인 LLM 호출을 격리하고 다운스트림 테스트를 더 쉽게 만들 수 있습니다.
  • 비밀 정보를 위한 Connection 객체 – 자격 증명은 코드 내가 아닌 별도의 connection 필드에 저장됩니다. 이러한 설계 덕분에 flow 정의를 수정하지 않고도 개발용 키를 운영용 키로 교체할 수 있습니다.
  • 평가 데이터셋 – Prompt Flow의 가장 강력한 기능은 내장된 평가 루프였습니다. 실제와 유사한 입력과 예상 출력을 쌍으로 구성한 JSONL 파일은 어떤 프레임워크에서도 재사용할 수 있으므로, 이를 휴대 가능한 테스트 데이터로 취급하십시오.
  • 시스템 수준의 메트릭 – 단일 노드의 출력만 측정하는 것은 오해의 소지가 있을 수 있습니다. 결정론적 체크(예: 정규식 일치)와 엔드 투 엔드(end-to-end) 메트릭을 결합하여 전체 파이프라인이 실행된 후에만 나타나는 회귀(regression) 문제를 포착하십시오.

마이그레이션 로드맵

Prompt Flow에서 Agent Framework로 이동하는 것은 클릭 한 번으로 변환되는 작업이 아닙니다. 각 노드의 의미론(semantics)을 다시 작성해야 합니다.

  1. LLM 노드 매핑 – 시각적 LLM 블록을 에이전트 클래스로 래핑된 명시적인 API 호출로 교체합니다. 에이전트는 기존 YAML에 정의된 것과 동일한 입력 스키마를 수용해야 합니다.
  2. Python 노드 변환 – Python 코드를 새로운 오케스트레이터가 호출할 수 있는 일반 함수나 메서드로 전환합니다. 이를 기반으로 구축한 결정론적 계약을 그대로 유지하십시오.
  3. 연결 재구성 – Prompt Flow에서 connection 정의를 내보내고 이를 Agent Framework의 secret store로 가져옵니다. 환경별 값이 여전히 올바르게 해결되는지 확인하십시오.
  4. 평가 데이터 이관 – 기존 JSONL 파일을 새 프레임워크의 테스트 하네스(test harness)에 입력합니다. Agent Framework의 보고 형식에 맞게 메트릭 계산 방식을 조정합니다.
  5. 엔드 투 엔드 검증 – 실제 트래픽 샘플을 사용하여 전체 파이프라인을 실행합니다. 드리프트(drift)를 감지하기 위해 최종 출력을 기존 Prompt Flow 베이스라인과 비교합니다.
  6. 오케스트레이션 반복 개선 – 워크플로에 프로세스 재시작 시에도 복원력이 필요하다면, 시각적 flow를 다시 구축하는 대신 Azure Durable Functions 또는 다른 내구성 있는(durable) 오케스트레이터를 고려하십시오.

향후 주의 사항

핵심 요약: 2027년 4월 마감 기한을 최종 시한으로 간주하십시오. 새로운 Prompt Flow 프로젝트는 중단하고, 재사용 가능한 요소(YAML 정의, Python 로직, connection 설정, 평가 데이터)를 추출하여 보안 업데이트가 제공되는 동안 Agent Framework에서 재구축을 시작하십시오. 지금 기울이는 노력은 나중에 서두르고 위험한 마이그레이션을 방지해 줄 것입니다.

출처: https://dev.to/multigrid/building-a-prompt-flow-in-azure-ai-foundry-2bbn