Microsoft ने जाहीर केले आहे की Azure AI Foundry च्या Prompt Flow ला २० एप्रिल २०२६ पासून नवीन फीचर्स मिळणे बंद होईल आणि २० एप्रिल २०२७ रोजी ती सेवा पूर्णपणे बंद (retire) केली जाईल. डेव्हलपर्सना त्यांचे वर्कलोड Microsoft Agent Framework कडे वळण्याचे आवाहन करण्यात आले आहे. ही डेडलाईन महत्त्वाची आहे कारण Prompt Flow ला आधार देणाऱ्या रनटाइम इमेजेसना (runtime images) लवकरच सुरक्षा अपडेट्स मिळणे बंद होईल, ज्यामुळे ही सेवा सुरू ठेवणाऱ्या कोणत्याही संस्थेसाठी कंप्लायन्सच्या (compliance) अडचणी निर्माण होऊ शकतात.

Prompt Flow हे large-language-model (LLM) पाइपलाइनसाठी Azure AI Foundry चे व्हिज्युअल ऑर्केस्ट्रेटर (visual orchestrator) होते. "flow" म्हणजे प्रामुख्याने एक फोल्डर असते ज्यामध्ये flow.dag.yaml फाईल असते, जी इनपुट्स, आउटपुट्स आणि नोड्सचा क्रम (sequence of nodes) स्पष्ट करते. व्हिज्युअल एडिटर वापरकर्त्यांना घटक ड्रॅग आणि ड्रॉप करण्याची सुविधा देत असे, परंतु व्हर्जन-कंट्रोल सिस्टम प्रत्यक्षात खालील YAML फाईलचा मागोवा घेतात.

हा बदल का महत्त्वाचा आहे

  • Compliance risk (अनुपालन जोखीम) – सुरक्षा अपडेट्सशिवाय, रनटाइम इमेजेसमध्ये आढळलेली कोणतीही त्रुटी (vulnerability) न सुटलेली (unpatched) राहते. नियामक (Regulators) अनेकदा देखभालीशिवाय असलेल्या कोडला 'नॉन-कंप्लायंट' मानतात, विशेषतः जेव्हा तो क्रेडेंशियल्स हाताळतो.

तुम्हाला माहित असणे आवश्यक असलेले मुख्य संकल्पना

तुम्ही Prompt Flow सोडून देण्याचे नियोजन करत असलात तरी, त्याद्वारे वापरले जाणारे पॅटर्न आजही मौल्यवान आहेत. ते समजून घेतल्यास Agent Framework कडे होणारे संक्रमण (transition) सोपे होईल.

  • Folder-based definition – फ्लोच्या YAML फाईलमध्ये प्रत्येक नोड, त्याचा प्रकार आणि त्याचे डेटा कॉन्ट्रॅक्ट्सची यादी असते. ही फाईल सोर्स कंट्रोलमध्ये ठेवा; तीच माहितीचा एकमेव विश्वसनीय स्रोत (single source of truth) आहे.
  • Deterministic कामासाठी Python nodes – पार्सिंग, व्हॅलिडेशन किंवा अशा कोणत्याही लॉजिकसाठी Python स्टेप्स वापरा ज्याने समान इनपुट दिल्यास नेहमी समान निकाल मिळायला हवा. यामुळे nondeterministic LLM कॉल्स वेगळे होतात आणि डाउनस्ट्रीम टेस्टिंग सोपे होते.
  • Secrets साठी Connection objects – क्रेडेंशियल्स कोडमध्ये नसून एका वेगळ्या कनेक्शन फील्डमध्ये असतात. या डिझाइनमुळे तुम्ही फ्लो डेफिनेशनमध्ये बदल न करता डेव्हलपमेंट की (keys) बदलून प्रोडक्शन की वापरू शकता.
  • Evaluation datasets – Prompt Flow चे सर्वात मोठे वैशिष्ट्य म्हणजे त्याचे इन-बिल्ट इव्हॅल्युएशन लूप. वास्तववादी इनपुट्स आणि अपेक्षित आउटपुट्सची जोडी असलेली JSONL फाईल कोणत्याही फ्रेमवर्कमध्ये पुन्हा वापरली जाऊ शकते; तिला पोर्टेबल टेस्ट डेटा म्हणून वापरा.
  • System-level metrics – केवळ एका सिंगल नोडचे आउटपुट मोजणे दिशाभूल करणारे ठरू शकते. संपूर्ण पाइपलाइन चालल्यानंतर दिसणारे रिग्रेशन्स (regressions) पकडण्यासाठी डिटरमिनिस्टिक चेक (उदा. regex matches) आणि एंड-टू-एंड मेट्रिक्स एकत्र वापरा.

Migration roadmap

Prompt Flow कडून Agent Framework कडे जाणे ही केवळ 'क्लिक-अँड-कन्व्हर्ट' प्रक्रिया नाही; यासाठी प्रत्येक नोडच्या सिमेंटिक्सचा (semantics) पुनर्लेखन करणे आवश्यक आहे.

  1. LLM nodes मॅप करा – व्हिज्युअल LLM ब्लॉक्सच्या जागी एजेन्ट क्लासमध्ये (agent class) गुंडाळलेले स्पष्ट API कॉल्स वापरा. एजेन्टने मूळ YAML मध्ये परिभाषित केलेल्या समान इनपुट स्कीमाचा स्वीकार केला पाहिजे.
  2. Python nodes ट्रान्सलेट करा – पायथन कोड नियमित फंक्शन्स किंवा मेथड्समध्ये रूपांतरित करा जे नवीन ऑर्केस्ट्रेटर कॉल करू शकेल. त्यांच्याभोवती तुम्ही तयार केलेले कोणतेही डिटरमिनिस्टिक कॉन्ट्रॅक्ट्स जसेच्या तसे ठेवा.
  3. Connections पुन्हा जोडा (Rewire) – Prompt Flow मधून कनेक्शन डेफिनिशन्स एक्सपोर्ट करा आणि ते Agent Framework च्या सिक्रेट स्टोअरमध्ये (secret store) इम्पोर्ट करा. एन्व्हायर्नमेंट-विशिष्ट व्हॅल्यूज योग्यरित्या रिझॉल्व्ह होतात की नाही याची खात्री करा.
  4. Evaluation data पोर्ट करा – अस्तित्वात असलेली JSONL फाईल नवीन फ्रेमवर्कच्या टेस्ट हार्नेसमध्ये (test harness) वापरा. Agent Framework च्या रिपोर्टिंग फॉरमॅटशी जुळण्यासाठी मेट्रिक कॅल्क्युलेशनमध्ये आवश्यक बदल करा.
  5. End-to-end व्हॅलिडेट करा – रिअल ट्रॅफिकच्या नमुन्यावर संपूर्ण पाइपलाइन चालवून पहा. 'ड्रिफ्ट' (drift) ओळखण्यासाठी अंतिम आउटपुट्सची तुलना मूळ Prompt Flow बेसलाइनशी करा.
  6. Orchestration वर काम करा – जर तुमच्या वर्कफ्लोला प्रोसेस रिस्टार्ट्स दरम्यान लवचिकता (resilience) हवी असेल, तर व्हिज्युअल फ्लो पुन्हा तयार करण्याऐवजी Azure Durable Functions किंवा इतर ड्युरेबल ऑर्केस्ट्रेटरचा विचार करा.

पुढे काय पाहावे

महत्त्वाचा मुद्दा (Takeaway): एप्रिल २०२७ ची डेडलाईन एक अंतिम मुदत (hard stop) म्हणून समजा. कोणतेही नवीन Prompt Flow प्रोजेक्ट्स थांबवा, पुन्हा वापरण्यायोग्य भाग—YAML डेफिनिशन्स, Python लॉजिक, कनेक्शन कॉन्फिग्स आणि इव्हॅल्युएशन डेटा—काढून घ्या आणि सुरक्षा अपडेट्स मिळत असतानाच ते Agent Framework मध्ये पुन्हा तयार करण्यास सुरुवात करा. आता घेतलेले कष्ट भविष्यातील घाईघाईने आणि जोखमीच्या मायग्रेशनपासून वाचवतील.

स्रोत: https://dev.to/multigrid/building-a-prompt-flow-in-azure-ai-foundry-2bbn