איך אנחנו משתמשים ב-AI בלי להמציא עובדות

בינה מלאכותית תגיד לכם שלכלי יש מסלול חינמי כשאין לו. היא תיתן לכם מחיר ישן או תכונה שלא קיימת. אלו אינן טעויות הקלדה. המודל פשוט ממלא פערים במילים שנראות נכונות.

אם אתם מפרסמים ביקורות, הטעות הזו היא מסוכנת. היא גורמת לקוראים שלכם להירשם למסלולים הלא נכונים.

אנחנו משתמשים ב-AI כדי לכתוב את המאמרים שלנו. אנחנו אומרים לכם בכל פעם ש-AI נוגע בפוסט. המטרה שלנו היא למנוע מה-AI להמציא עובדות. הנה התהליך שלנו.

אנחנו מפרידים בין שני תפקידים. אנחנו לא נותנים ל-AI לבצע את שניהם.

  • תפקיד 1: כתיבת הטקסט.
  • תפקיד 2: מציאת העובדות.

ה-AI יכול לבצע את התפקיד הראשון. אסור לו לבצע את השני לעולם.

כל עובדה בביקורות שלנו מגיעה ממקור שאנחנו בודקים בעצמנו. אנחנו בודקים דפי מחירים, יומני שינויים (changelogs) ותיעוד (documentation). אנחנו מכניסים את העובדות הללו למסמך הערות עם URL ותאריך. רק אז ה-AI כותב את הטקסט סביב העובדות הללו.

הפרומפטים שלנו שונים. רוב האנשים שואלים: "ספר לי על התמחור של הכלי הזה." אנחנו אומרים: "הנה ארבע עובדות תמחור שתוקפו היום. השתמש רק בעובדות הללו כדי לכתוב פסקה. אמור לי אם אתה רוצה להוסיף משהו אחר."

זה הופך את הדחף של ה-AI לשקר לרשימה שבן אדם צריך לבדוק.

אנחנו עוקבים אחר הכללים הללו:

  • אנחנו לא סומכים על מספרים ללא מקור. כל מחיר, מגבלה או תאריך נחשבים "אשמים" עד שאנחנו מוכיחים אותם באמצעות מקור ראשוני.
  • אנחנו לא נותנים ל-AI לצטט מקורות. אם ה-AI אומר "לפי מחקר", אנחנו מוחקים את זה אלא אם יש לנו את הקישור הממשי.
  • אנחנו משתמשים ב-AI למבנה. זה עוזר לנו לארגן הערות, לתקן דקדוק או לבנות שלדים של טבלאות. משימות אלו אינן דורשות מה-AI להכיר עובדות מהעולם האמיתי.
  • אנחנו מבצעים שתי קריאות נפרדות. הקריאה הראשונה היא לאיכות. הקריאה השנייה היא רק עבור טענות. אנחנו שואלים: "מאיפה הגיע המשפט הספציפי הזה?" אם הוא לא מופיע בהערות שלנו, אנחנו מוחקים אותו.

ביקורת יכולה להיות נכונה היום ושגויה בעוד שלושה חודשים. כלים משנים את המחירים שלהם. אנחנו שומרים קישורים למקורות עם תאריך כדי שנוכל לבדוק מחדש את העובדות שלנו לפי לוח זמנים.

המערכת היא פשוטה:

  • ה-AI כותב.
  • בני אדם מחזיקים בבעלות על העובדות.
  • לכל טענה יש מקור מתוארך.
  • אנחנו בודקים פעמיים לפני שאנחנו מפרסמים.

אל תבקשו מה-AI להיות משהו שהוא לא יכול להיות.

Source: https://dev.to/pickuma/how-we-use-ai-without-letting-it-hallucinate-into-reviews-1of5