ઈમેલ એજન્ટ્સ માટે હ્યુમન-ઇન-ધ-લૂપ (Human-in-the-loop) ડિઝાઇન
રિફંડની વિનંતી તમારી સપોર્ટ ક્યુ (queue) માં આવે છે. તમારો AI એજન્ટ 91% વિશ્વાસ (confidence) સાથે નોલેજ બેઝમાં મેચ શોધી કાઢે છે. તેમ છતાં, એજન્ટે તે જવાબ મોકલવો જોઈએ નહીં.
મોટાભાગની ટીમો માનવ દેખરેખને (human oversight) એક સરળ પસંદગી તરીકે જુએ છે: કાં તો AI એકલું જ ઈમેલ મોકલે છે અથવા તો માણસ બધું તપાસે છે. બંને રીતે નિષ્ફળતા મળે છે.
સંપૂર્ણ ઓટોમેશન ખરાબ જવાબો તરફ દોરી જાય છે જે તમારી બ્રાન્ડને નુકસાન પહોંચાડે છે. સંપૂર્ણ માનવ સમીક્ષા AI ને એક મોંઘા ડ્રાફ્ટ જનરેટર તરીકે બનાવી દે છે જે સમય બચાવતું નથી.
સ્વિચને બદલે ડાયલનો ઉપયોગ કરો. મેસેજના પ્રકારના આધારે ઓટોમેશનનું સ્તર નક્કી કરો.
ગેટ 1: નોલેજ મેચ (Knowledge Match) આ ગેટ એ જુએ છે કે AI જવાબ વિશે કેટલું ચોક્કસ છે.
• 85% કે તેથી વધુ વિશ્વાસ (Confidence): સીધો આર્ટિકલમાંથી જવાબનો ડ્રાફ્ટ તૈયાર કરો. • 60% થી 85% વિશ્વાસ: જવાબનો ડ્રાફ્ટ તૈયાર કરો પરંતુ સોર્સ લિંક સામેલ કરો જેથી માણસ તેને ઝડપથી ચકાસી શકે. • 60% થી ઓછો વિશ્વાસ: ડ્રાફ્ટ તૈયાર ન કરો. તેને મેન્યુઅલ રિવ્યુ માટે ફ્લેગ કરો.
ગેટ 2: જોખમનું સ્તર (Risk Level) આ ગેટ ભૂલના પરિણામો પર ધ્યાન આપે છે. તે કોન્ફિડન્સ સ્કોરને અવગણે છે.
• ઓછું જોખમ (પાસવર્ડ રીસેટ, FAQs): માનવ મંજૂરી માટે જવાબનો ડ્રાફ્ટ તૈયાર કરો. • મધ્યમ જોખમ (રિફંડ, બિલિંગ ફેરફારો): જવાબનો ડ્રાફ્ટ તૈયાર કરો પરંતુ વધારાની માનવ તપાસની જરૂર પડશે. • ઊંચું જોખમ (કાનૂની ધમકીઓ, છેતરપિંડી): ડ્રાફ્ટ તૈયાર ન કરો. તરત જ કોઈ વ્યક્તિ પાસે મોકલી દો (Escalate કરો).
આ જ કારણ છે કે 91% વિશ્વાસ ધરાવતો રિફંડનો જવાબ મોકલવામાં આવતો નથી. વિશ્વાસ (Confidence) તમને જણાવે છે કે AI જવાબ જાણે છે કે નહીં. જોખમ (Risk) તમને જણાવે છે કે જો AI ખોટું હોય તો શું થશે. તમારે આ બંને વિચારોને અલગ કરવા જોઈએ.
નિયમ સરળ છે: મોકલતા પહેલા હંમેશા ડ્રાફ્ટ બતાવો. ક્યારેય ઓટો-સેન્ડ (auto-send) ન કરો.
માનવ દેખરેખ એ કોઈ ટેક્સ નથી. તે એ રીતે ડેટા એકત્રિત કરવાની રીત છે જે પછીથી વધુ ઓટોમેશન કરવા માટે જરૂરી છે. 'ડ્રાફ્ટ-અને-એપ્રૂવ' થી 'ફુલ-ઓટો' પર જવા માટે, તમારી ચોકસાઈ સાબિત કરવા માટે લોગ્સ (logs) નો ઉપયોગ કરો. માત્ર અહેસાસો પર આધાર રાખશો નહીં.
આ અઠવાડિયે તમારા મેસેજ પ્રકારોને આ ત્રણ જોખમના સ્તરોમાં વહેંચો. નક્કી કરો કે તમે ક્યાં વધુ પડતી સમીક્ષા કરી રહ્યા છો અને ક્યાં તમે વધુ જોખમી બની રહ્યા છો.
સ્ત્રોત: https://dev.to/qasim157/human-in-the-loop-design-for-email-agents-3fhc
વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi