Microsoft mengumumkan bahwa Prompt Flow dari Azure AI Foundry akan berhenti menerima fitur baru pada 20 April 2026 dan akan dihentikan pada 20 April 2027. Microsoft mendesak para pengembang untuk memindahkan beban kerja mereka ke Microsoft Agent Framework. Tenggat waktu ini sangat penting karena runtime images yang menjalankan Prompt Flow akan segera kehilangan pembaruan keamanan, yang dapat menimbulkan masalah kepatuhan bagi organisasi mana pun yang tetap menjalankan layanan tersebut.

Prompt Flow adalah orchestrator visual dari Azure AI Foundry untuk pipeline large-language-model (LLM). Sebuah “flow” pada dasarnya adalah folder yang berisi file flow.dag.yaml yang mendeskripsikan input, output, dan urutan node. Editor visual memungkinkan pengguna untuk melakukan drag-and-drop komponen, namun file YAML di baliknya adalah apa yang sebenarnya dilacak oleh sistem kontrol versi.

Mengapa perubahan ini penting

  • Risiko kepatuhan – Tanpa pembaruan keamanan, setiap kerentanan yang ditemukan pada runtime images akan tetap tidak diperbaiki. Regulator sering kali melabeli kode yang tidak dipelihara sebagai tidak patuh (non-compliant), terutama jika kode tersebut menangani kredensial.

Konsep inti yang tetap perlu Anda ketahui

Meskipun Anda berencana untuk meninggalkan Prompt Flow, pola-pola yang didorong oleh layanan ini tetap berharga. Memahaminya akan memperlancar transisi ke Agent Framework.

  • Definisi berbasis folder – File YAML dari flow mencantumkan setiap node, tipenya, dan kontrak datanya. Simpan file ini di bawah kontrol sumber (source control); ini adalah satu-satunya sumber kebenaran (single source of truth).
  • Node Python untuk pekerjaan deterministik – Gunakan langkah Python untuk parsing, validasi, atau logika apa pun yang harus menghasilkan hasil yang sama dengan input yang sama. Hal ini mengisolasi panggilan LLM yang nondeterministik dan mempermudah pengujian downstream.
  • Objek koneksi untuk rahasia (secrets) – Kredensial disimpan dalam bidang koneksi terpisah, bukan di dalam kode. Desain ini memungkinkan Anda menukar kunci pengembangan dengan kunci produksi tanpa menyentuh definisi flow.
  • Dataset evaluasi – Fitur terkuat Prompt Flow adalah loop evaluasi bawaannya. File JSONL yang memasangkan input realistis dengan output yang diharapkan dapat digunakan kembali di framework apa pun; perlakukan file tersebut sebagai data pengujian yang portabel.
  • Metrik tingkat sistem – Mengukur hanya output dari satu node saja bisa menyesatkan. Gabungkan pemeriksaan deterministik (misalnya, kecocokan regex) dengan metrik end-to-end untuk menangkap regresi yang hanya muncul setelah seluruh pipeline berjalan.

Roadmap migrasi

Berpindah dari Prompt Flow ke Agent Framework bukanlah operasi klik-dan-konversi; ini memerlukan penulisan ulang semantik dari setiap node.

  1. Petakan node LLM – Ganti blok LLM visual dengan panggilan API eksplisit yang dibungkus dalam kelas agent. Agent tersebut harus menerima skema input yang sama dengan yang didefinisikan dalam YAML asli.
  2. Terjemahkan node Python – Pindahkan kode Python ke dalam fungsi atau metode biasa yang dapat dipanggil oleh orchestrator baru. Pertahankan kontrak deterministik apa pun yang telah Anda bangun di sekitarnya.
  3. Sambungkan kembali koneksi – Ekspor definisi koneksi dari Prompt Flow dan impor ke dalam secret store milik Agent Framework. Verifikasi bahwa nilai spesifik lingkungan (environment-specific) masih teresolusi dengan benar.
  4. Pindahkan data evaluasi – Masukkan file JSONL yang ada ke dalam test harness framework baru. Sesuaikan perhitungan metrik apa pun agar sesuai dengan format pelaporan Agent Framework.
  5. Validasi end-to-end – Jalankan seluruh pipeline pada sampel trafik nyata. Bandingkan output akhir dengan baseline Prompt Flow asli untuk mendeteksi adanya drift.
  6. Iterasi pada orkestrasi – Jika alur kerja Anda membutuhkan ketahanan (resilience) saat proses dimulai ulang, pertimbangkan Azure Durable Functions atau orchestrator tahan lama lainnya daripada membangun ulang flow visual.

Apa yang perlu diperhatikan selanjutnya

Kesimpulan: Anggap tenggat waktu April 2027 sebagai batas akhir yang mutlak. Hentikan sementara proyek Prompt Flow baru, ekstrak bagian-bagian yang dapat digunakan kembali—definisi YAML, logika Python, konfigurasi koneksi, dan data evaluasi—dan mulailah membangunnya kembali di Agent Framework selagi pembaruan keamanan masih tersedia. Upaya sekarang akan mencegah migrasi yang terburu-buru dan berisiko di kemudian hari.

Sumber: https://dev.to/multigrid/building-a-prompt-flow-in-azure-ai-foundry-2bbn