𝗛𝘂𝗺𝗮𝗻-𝗶𝗻-𝘁𝗵𝗲-𝗟𝗼𝗼𝗽 𝗗𝗲𝘀𝗶𝗴𝗻 𝗳𝗼𝗿 𝗘𝗺𝗮𝗶𝗹 𝗔𝗴𝗲𝗻𝘁𝘀
एक रिफंड विनंती तुमच्या सपोर्ट क्यू (queue) मध्ये येते. तुमचा AI एजंट ९१% आत्मविश्वासाने (confidence) नॉलेज बेसमध्ये योग्य माहिती शोधतो. तरीही, एजंटने तो उत्तर पाठवू नये.
बहुतेक टीम्स मानवी देखरेखीकडे (human oversight) एक साधा पर्याय म्हणून पाहतात: एकतर AI एकट्याने ईमेल पाठवेल किंवा माणूस सर्व काही तपासेल. दोन्ही पद्धती अपयशी ठरतात.
पूर्ण ऑटोमेशनमुळे चुकीची उत्तरे मिळतात ज्यामुळे तुमच्या ब्रँडचे नुकसान होते. पूर्ण मानवी पुनरावलोकन (review) केल्यामुळे AI केवळ एक महागडा ड्राफ्ट जनरेटर बनतो, ज्यामुळे वेळेची कोणतीही बचत होत नाही.
स्विचऐवजी डायल (dial) वापरा. संदेशाच्या प्रकारावर आधारित ऑटोमेशनची पातळी सेट करा.
Gate 1: Knowledge Match हे गेट AI उत्तराबाबत किती खात्रीशीर आहे हे तपासते.
• ८५% किंवा त्यापेक्षा जास्त आत्मविश्वास: थेट लेखातून उत्तर ड्राफ्ट करा. • ६०% ते ८५% आत्मविश्वास: उत्तर ड्राफ्ट करा पण सोर्स लिंक समाविष्ट करा जेणेकरून माणूस ते पटकन पडताळून पाहू शकेल. • ६०% पेक्षा कमी आत्मविश्वास: ड्राफ्ट करू नका. मॅन्युअल रिव्ह्यूसाठी फ्लॅग करा.
Gate 2: Risk Level हे गेट चुकीच्या परिणामांकडे लक्ष देते. हे कॉन्फिडन्स स्कोअरकडे दुर्लक्ष करते.
• कमी जोखीम (पासवर्ड रिसेट, FAQs): मानवी मंजुरीसाठी उत्तर ड्राफ्ट करा. • मध्यम जोखीम (रिफंड, बिलिंग बदल): उत्तर ड्राफ्ट करा पण अतिरिक्त मानवी तपासणीची आवश्यकता असेल. • उच्च जोखीम (कायदेशीर धमक्या, फसवणूक): ड्राफ्ट करू नका. त्वरित एखाद्या व्यक्तीकडे सोपवा (Escalate करा).
म्हणूनच ९१% आत्मविश्वासाने दिलेले रिफंडचे उत्तर पाठवले जात नाही. आत्मविश्वास तुम्हाला सांगतो की AI ला उत्तर माहित आहे की नाही. जोखीम (Risk) तुम्हाला सांगते की जर AI चुकले तर काय होईल. तुम्ही या दोन संकल्पना वेगळ्या केल्या पाहिजेत.
नियम साधा आहे: पाठवण्यापूर्वी नेहमी ड्राफ्ट दाखवा. कधीही ऑटो-सेंड करू नका.
मानवी देखरेख हा कोणताही कर (tax) नाही. भविष्यात अधिक ऑटोमेशन करण्यासाठी आवश्यक डेटा गोळा करण्याचे ते एक साधन आहे. 'ड्राफ्ट-अँड-अप्रूव्ह' कडून 'फुल-ऑटो' कडे जाण्यासाठी, तुमची अचूकता सिद्ध करण्यासाठी लॉग्सचा (logs) वापर करा. केवळ भावनेवर अवलंबून राहू नका.
या आठवड्यात तुमच्या संदेशांच्या प्रकारांचे या तीन जोखीम स्तरांमध्ये (risk tiers) वर्गीकरण करा. तुम्ही कुठे गरजेपेक्षा जास्त पुनरावलोकन करत आहात आणि कुठे तुम्ही खूप जास्त जोखीम घेत आहात, हे ठरवा.
Source: https://dev.to/qasim157/human-in-the-loop-design-for-email-agents-3fhc
Optional learning community: https://t.me/GyaanSetuAi