AI לא חייב להיות צודק. הוא רק צריך להישמע פרוצדורלי

ל-AI לא נדרשת סמכות פורמלית כדי לשנות חברה. הוא רוכש סמכות באמצעות דקדוק.

מנהל קורא דו"ח של AI. כתוב בו: "נקבע כי המבנה הנוכחי אינו בר-קיימא עוד."

אף אדם לא מופיע במשפט הזה. לא מצוין שם של אנליסט. לא מוצגת שיטה. אף אחד לא אחראי.

ובכל זאת, המשפט הזה נשמע רשמי יותר מ: "המודל חוזה כי המבנה עלול ליצור בעיות בהתבסס על נתונים מוגבלים."

המשפט הראשון נשמע כמו מסקנה. השני נשמע כמו פרשנות. ההבדל הזה משנה את האופן שבו אנשים פועלים.

איך AI יוצר "סמכות חדשה":

• הוא מסיר את האדם מההחלטה. • במקום "צמצמו את התקציב", הוא אומר "נדרש צמצום בתקציב". • במקום "אנחנו דוחים את המועמד", הוא אומר "המועמד לא נחשב מתאים".

הדקדוק הופך החלטות לעובדות טבע. כשמשפט נשמע לא אישי, אנשים מתייחסים אליו כתהליך מוגמר. הם מפסיקים להטיל ספק בלוגיקה מכיוון שהשפה מסתירה את חוסר הוודאות.

הסיכון הוא לא רק ש-AI יטעה. הסיכון הוא ש-AI יגרום לחוסר ודאות להיראות כמו הכרח.

משפט מלוטש יכול להסתיר נתונים חלשים. טון מקצועי יכול להסתיר היעדר הוכחות. משתמשים טועים לעיתים קרובות ומפרשים טון בטוח בעצמו כתהליך קפדני.

כדי לתקן זאת, עליכם להחזיר את הסוכן החסר. אל תקבלו "הוחלט". שאלו:

אל תתנו ל-AI להפוך ניחוש סטטיסטי לכלל ארגוני. אובייקטיביות היא לא סגנון. היא קשר שניתן לעקוב אחריו בין טענה לבין ההוכחה שלה.

מקור: https://dev.to/agustin_v_startari/ai-doesnt-need-to-be-right-it-only-needs-to-sound-procedural-1ob0

קהילת למידה אופציונלית: https://t.me/GyaanSetuAi