AIに抗うすべて
AIは私たちの生き方を変える。そして、考え方をも変える。そのリスクを理解するためには、哲学に目を向けなければならない。
カール・ポパーは「開かれた社会」を提唱した。彼は批判の重要性と、アイデアが間違っていることを証明できる能力を信じていた。AIは、いくつかの方法でこれを脅かしている。
人間的な行為の喪失 ハンナ・アーレントは、人々が活動する公共圏が失われることについて警告した。AIは意思決定を自動化する。これにより、人間の行為は機械的な計算へと変貌する。私たちは、選択の背後にある「人間」を見失ってしまうのだ。
純粋な論理の危険性 フランクフルト学派は「道具的理性」について警告した。これは、目的を達成するためだけに用いられる論理のことである。AIはしばしば、このように機能する。AIは、その目的が正しいかどうかを問うことなく、目的のための手段を計算する。ポパーは、AIが機能するためには、私たちがそれを問い、制御できなければならないと示唆している。
制御不能なシステム ノーバート・ウィーナーは、知的な機械が人間に害を及ぼすような目標を設定する可能性があると警告した。もしAIが、人間が修正できる手段を持たないまま学習を続ければ、それは一種の教条（ドグマ）となる。自由を維持するためには、人間がプロセスに関与する（human in the loop）必要がある。
新たな支配の形態 ミシェル・フーコーは、権力がどのように私たちのあり方を形作るかを示した。AIは単に意見を封殺するだけではない。AIはあなたをプロファイリングし、行動を予測する。そして、特定の選択が不可能であるかのように、あるいは非効率であるかのように感じさせる。これが、静かな支配の形態を生み出すのである。
無用者階級の台頭 ユヴァル・ノア・ハラリは、AIが政治的権力を持たない人々の階級を生み出す可能性があると警告している。アルゴリズムはしばしば、疑いようのない権威として振る舞う。これは「開かれた社会」とは正反対の姿である。
テクノ・ソリューションニズム エヴゲニー・モロゾフは、あらゆる社会問題には技術的な解決策があるという考えを批判している。人々はこれをテクノ・ソリューションニズムと呼ぶ。これは、複雑な人間社会の問題を単純な数学の問題へと変えてしまう。その結果、真の議論が封じられてしまうのだ。
私たちがすべきこと アルゴリズムに密室での決定を委ねるわけにはいかない。技術的なツールは、公の議論にさらされるべきである。
ポパーは私たちに基準を与えてくれた。それは「開かれた社会」と「絶え間ない批判」である。他の思想家たちは、AIがいかにその基準を脅かしているかを私たちに示している。
Source: https://dev.to/luigiippolito/tutti-contro-lia-pn0
Optional learning community: https://t.me/GyaanSetuAi