Redditは、新しいアカウントが事前に高いカルマ（karma）スコアを獲得することなく投稿できるようにする、AI主導のモデレーションの導入を開始しました。一部のコミュニティでの初期試験では、全体的な不正利用レベルは一定に保たれたまま、新規ユーザーによる投稿が22%増加したことが示されました。
この変化が重要である理由
これまで、多くのサブレディット（subreddit）では、ユーザーが投稿を行う前に、最低限のカルマやアカウント作成期間のしきい値を必要としていました。これらのルールはスパムや嫌がらせを防ぐ役割を果たしてきましたが、一方で、特にニッチなトピックや急成長しているトピックにおいて、正当な初投稿者を阻害することにもなっていました。評判に基づく制限を、AIが生成する「信頼スコア（trust score）」に置き換えることで、Redditは摩擦を軽減し、参加の幅を広げることを目指しています。
この施策の背後にあるテクノロジー
Redditのエンジニアは、すべての投稿とコメントをリアルタイムでスキャンする機械学習モデルを構築しました。このシステムは、過去数百万件ものモデレーション決定からデータを抽出しており、従来のルールベースのフィルターよりも広い視野を持っています。その機能には以下が含まれます：
- 言語分析：有害な発言パターンを検知し、フラグを立てます。
- 画像および動画認識：視覚的な不正利用を特定します。
- 動的なルールセット：各コミュニティのトラフィック量の変化に適応します。
新規ユーザーにとっての意味
- カルマ稼ぎの負担軽減 – ユーザーは、まずアップボート（upvotes）を大量に集めることなく、アイデアを共有できるようになります。
- 信頼スコアによるアカウント年齢確認の代替 – AIがアカウントの作成期間ではなく、投稿の質を評価します。
- より多様な視点 – 高い参入障壁によって排除されていると感じていた人々も、議論に参加できるようになります。
初期の結果
r/technologyなどのサブレディットでは、パイロット運用により新規投稿者のアクティビティが22%増加しました。重要なのは、フラグが立てられたスパムや嫌がらせの割合は上昇しなかったことであり、これはAIがシグナル対ノイズ比（signal-to-noise ratio）を適切にコントロールしながら、新規ユーザーに門戸を開いていることを示唆しています。
人間によるセーフティネット
Redditは、AIが万能ではないことを認めています。異議申し立ての仕組みにより、ユーザーは削除決定に対して不服を申し立てることができ、人間のモデレーターがそれらの申し立てを審査します。これらの審査結果はトレーニングデータにフィードバックされ、時間の経過とともにモデルを洗練させていきます。
今後の注目点
- モデルのスケールアップ – プラットフォーム上の数十万ものサブレディットに展開される際、AIは精度を維持できるでしょうか？
- モデレーターの作業負荷 – コミュニティからのフィードバックが、システムの調整方法に影響を与える可能性があります。