ШІ не обов'язково бути правим. Йому лише потрібно звучати процедурно
ШІ не потребує формальної влади, щоб змінити компанію. Він здобуває авторитет завдяки граматиці.
Менеджер читає звіт ШІ. Там сказано: «Було встановлено, що поточна структура більше не є життєздатною».
У цьому реченні немає жодної людини. Жоден аналітик не названий. Жоден метод не показаний. Ніхто не несе відповідальності.
Проте це речення звучить офіційніше, ніж: «Модель прогнозує, що структура може створити проблеми на основі обмежених даних».
Перше речення звучить як висновок. Друге — як інтерпретація. Ця різниця змінює поведінку людей.
Як ШІ створює «новий авторитет»:
• Він усуває людину з процесу прийняття рішення. • Замість «Скоротіть бюджет» він каже «Необхідне скорочення бюджету». • Замість «Ми відхиляємо кандидата» він каже «Кандидат не був визнаний придатним».
Граматика перетворює рішення на факти природи. Коли речення звучить безособово, люди сприймають його як завершений процес. Вони перестають ставити під сумнів логіку, тому що мова приховує невизначеність.
Ризик полягає не лише в тому, що ШІ припускається помилок. Ризик у тому, що ШІ змушує невизначеність виглядати як необхідність.
Відшліфоване речення може приховати слабкі дані. Професійний тон може приховати відсутність доказів. Користувачі часто помилково приймають впевнений тон за ретельний процес.
Щоб виправити це, ви повинні повернути відсутнього суб'єкта. Не приймайте «Було вирішено». Запитуйте:
- Хто або що прийняло рішення?
- Які дані це підтверджують?
- Який метод було використано?
- За яких умов це є правдою?
Не дозволяйте ШІ перетворювати статистичне припущення на організаційне правило. Об'єктивність — це не стиль. Це простежуваний зв'язок між твердженням і його доказами.
Source: https://dev.to/agustin_v_startari/ai-doesnt-need-to-be-right-it-only-needs-to-sound-procedural-1ob0
Optional learning community: https://t.me/GyaanSetuAi