עיצוב Human-in-the-loop עבור סוכני אימייל
בקשת החזר נכנסת לתור התמיכה שלכם. סוכן ה-AI שלכם מוצא התאמה במאגר הידע בביטחון של 91%. הסוכן עדיין לא אמור לשלוח את התשובה הזו.
רוב הצוותים רואים בפיקוח אנושי בחירה פשוטה: או שה-AI שולח אימיילים לבדו, או שאדם בודק הכל. שתי הדרכים נכשלות.
אוטומציה מלאה מובילה לתשובות גרועות שפוגעות במותג שלכם. בדיקה אנושית מלאה הופכת את ה-AI למחולל טיוטות יקר שלא חוסך זמן.
השתמשו בחוגה במקום במתג. הגדירו את רמת האוטומציה בהתאם לסוג ההודעה.
שלב 1: התאמת ידע שלב זה בוחן עד כמה ה-AI בטוח בתשובה.
• רמת ביטחון של 85% ומעלה: הכנת טיוטה של התשובה ישירות מהמאמר. • רמת ביטחון של 60% עד 85%: הכנת טיוטה של התשובה אך הכללת קישור למקור כדי שבן אדם יוכל לאמת אותה במהירות. • רמת ביטחון מתחת ל-60%: אל תכינו טיוטה. סמנו אותה לבדיקה ידנית.
שלב 2: רמת סיכון שלב זה בוחן את ההשלכות של טעות. הוא מתעלם מציון רמת הביטחון.
• סיכון נמוך (איפוס סיסמאות, שאלות נפוצות): הכנת טיוטה לאישור אנושי. • סיכון בינוני (החזרים, שינויים בחיובים): הכנת טיוטה אך דרישת בחינה אנושית מעמיקה יותר. • סיכון גבוה (איומים משפטיים, הונאה): אל תכינו טיוטה. העבירו מיד לאדם.
זו הסיבה שתשובת החזר עם רמת ביטחון של 91% לא נשלחת. רמת הביטחון אומרת לכם אם ה-AI יודע את התשובה. הסיכון אומר לכם מה יקרה אם ה-AI יטעה. עליכם להפריד בין שני הרעיונות הללו.
הכלל הוא פשוט: תמיד הציגו את הטיוטה לפני השליחה. לעולם אל תשלחו באופן אוטומטי.
פיקוח אנושי אינו מס. זו הדרך שבה אתם אוספים את הנתונים הדרושים כדי לאוטומציה רבה יותר בהמשך. כדי לעבור ממצב של "טיוטה ואישור" לאוטומציה מלאה, השתמשו בלוגים כדי להוכיח את הדיוק שלכם. אל תסתמכו על תחושות בטן.
מיפו את סוגי ההודעות שלכם לשלוש רמות הסיכון הללו השבוע. החליטו היכן אתם מבצעים בדיקה יתרה והיכן אתם לוקחים סיכון גבוה מדי.
מקור: https://dev.to/qasim157/human-in-the-loop-design-for-email-agents-3fhc
קהילת למידה אופציונלית: https://t.me/GyaanSetuAi