政府はいつAIモデルを規制すべきか？
Anthropicは最近、重大な問題に直面しました。米国政府は、外国籍の者が同社のFable 5およびMythos 5モデルを使用することを禁止する指令を出しました。法律に従うため、Anthropicはすべての顧客のアクセスを無効にしました。
これは巨大な転換です。
フロンティアAIは、もはや単なるソフトウェアではありません。それは戦略的なインフラになりつつあります。ソフトウェアがインフラになると、政府が介入してきます。
私たちはAIを、チャットボットや画像生成器のような製品カテゴリーとして扱うことがよくあります。しかし、真の転換はその下で起きています。現代のAIシステムは、コードを書き、セキュリティの脆弱性を見つけ、ワークフローを実行できます。それらは半自律的に動作します。
これによりリスクが変わります。標準的なアプリの規制は容易です。サイバー攻撃を自動化するシステムは、国家安全保障インフラに近いものとなります。
規制を支持する立場 モデルがバイオセキュリティのリスク、詐欺、または大量監視を加速させる場合、無制限のアクセスは危険です。エンジニアはすでに、化学物質、軍事機器、および重要インフラに対する制限を受け入れています。AIが脅威の状況を変えるのであれば、アクセス制御は理にかなっています。
過剰規制に反対する立場 政府による統制は、無骨で政治的になり得ます。突然の制限は、研究者、スタートアップ、エンジニアに打撃を与えます。また、競争の問題も引き起こします。複雑な規則に従う余裕があるのが大企業だけになれば、中央集権化が進みます。中央集権化は、監査の減少とレジリエンスの低下を招きます。
解決策：能力ベースのルール ハイプや人気に基づいてモデルを制限すべきではありません。モデルが「実際に何ができるか」に基づいて制限すべきです。
次の問いを立ててみてください：
- セキュリティの脆弱性を見つけ、悪用できるか？
- 非専門家のために有害なタスクを実行できるか？
- 監視なしでシステムをまたいでツールを操作できるか？
- 負荷がかかった際に安全ガードをバイパスするか？
エンジニアがこの議論を主導しなければなりません。政策は抽象的な法律であってはなりません。モデルの能力、ツールへのアクセス、およびデプロイメントのコンテキストに関する技術的な知識が必要です。
真の主戦場：アクセス制御 AIの安全性は、単にモデルの重みに関するものではありません。それはアクセス制御に関するものです。
誰がシステムを使用できるか？これは古典的なエンジニアリングの問題です。自然言語のプロンプトが、多くのシステムにわたるアクションをトリガーする可能性があります。権限は、後付けではなく、インフラの一部である必要があります。脆弱な製品シェルの中に強力なモデルが入っている状態は危険です。
私の見解 AIを禁止することは持続可能ではありません。ルールなしにすべてを公開することは無責任です。
介入が正当化されるのは、以下の3つの要素が揃ったときです：
- 高い能力
- 高い悪用可能性
- 低い説明責任
目標は、イノベーションを停滞させることなく、破滅的な事態を防ぐことです。
AIは、ルールが整備される前にインフラになりつつあります。システム設計におけるあなたの選択（権限、ロギング、および人間の承認）が、世界がどのようにAIを統治するかを形作ることになるでしょう。
AI統治の未来は、インフラによって書き込まれることになるでしょう。
Source: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo
Optional learning community: https://t.me/GyaanSetuAi