AIは正解である必要はない。手続き的に聞こえればいいのだ。

AIが企業を変えるのに、形式的な権限は必要ない。AIは文法を通じて権限を獲得する。

あるマネージャーがAIのレポートを読む。そこにはこう書かれている。 「現在の構造はもはや持続不可能であると判断された。」

その一文に人物は登場しない。アナリストの名前も出ない。手法も示されない。責任を負う者もいない。

しかし、その一文は次のような表現よりも、より公式なものに聞こえる。 「限られたデータに基づくと、モデルはこの構造が問題を引き起こす可能性があると予測している。」

最初の文は「結論」のように聞こえる。二番目の文は「解釈」のように聞こえる。この違いが、人々の行動を変えるのだ。

AIがいかにして「新しい権威」を生み出すか：

• 意思決定から人間を排除する。 • 「予算を削減せよ」ではなく、「予算の削減が必要である」と言う。 • 「その候補者を不採用とする」ではなく、「その候補者は適切ではないと判断された」と言う。

文法は意思決定を「自然界の事実」へと変貌させる。文章が非個人的に聞こえるとき、人々はそれを完了したプロセスとして扱う。言葉が不確実性を隠してしまうため、人々はその論理に疑問を持つことをやめてしまうのだ。

リスクは、単にAIが間違いを犯すことではない。リスクとは、AIが不確実性を必然性に見せかけることにある。

洗練された文章は、脆弱なデータを隠すことができる。プロフェッショナルな口調は、証拠の欠如を隠すことができる。ユーザーは、自信に満ちた口調を、厳密なプロセスであると誤解しがちだ。

これを解決するには、欠落している「主体」を取り戻さなければならない。「決定された」という言葉をそのまま受け入れてはいけない。こう問いかけるのだ：

AIに、統計的な推測を組織のルールへと変えさせてはならない。客観性とはスタイルではない。それは、主張とその証拠との間にある、追跡可能なつながりのことである。

Source: https://dev.to/agustin_v_startari/ai-doesnt-need-to-be-right-it-only-needs-to-sound-procedural-1ob0

Optional learning community: https://t.me/GyaanSetuAi