OpenAIと100社以上のテクノロジー企業は、AIを活用したサイバー攻撃が研究室を飛び出し、現実世界のインフラを直撃しようとしているとする公開書簡に署名しました。この連合は、ハッカーがまもなく大規模言語モデル（LLM）や自律型エージェントを使用して、脆弱性を探索し、マシンスピードで多段階の攻撃を実行するようになり、病院、電力網、水道供給を危険にさらすと警告しています。

なぜ今、この警告が重要なのか

AIモデルは、研究対象としての好奇心の対象から、コードを生成し、メールを書き、数秒でハードウェアを設計することさえできるサービスへと急成長を遂げました。この生産性の向上は、悪意のあるアクターに対し、人間の手を介さずにネットワークをスキャンし、エクスプロイト（脆弱性攻撃）スクリプトを書き、攻撃を調整できるツールを与えてしまいます。米国の3つの機関による共同警告では、攻撃者がすでに、多くのエネルギー、水、製造プラントを稼働させているSiemens S7シリーズなどの産業制御システムを標的としたエクスプロイトコードの作成にAIを使用していることが確認されました。

脅威を加速させているもの

書簡では、AIを武器に変える3つの技術的な変化を強調しています。第一に、大規模言語モデルは、ターゲットに関する短い説明から動作するコードを作成できるため、ペイロードを構築するために必要な時間を大幅に短縮します。第二に、強化学習エージェントは、サンドボックス内で数千ものエクスプロイトのバリエーションをテストし、どのバージョンが成功するかを学習できます。第三に、生成ツールは被害者のスタイルを模倣したフィッシングメッセージを作成でき、資格情報の窃取率を高めます。これらが組み合わさることで、単一の自動化されたパイプラインが脆弱性を特定し、カスタマイズされたエクスプロイトを生成し、数分以内に数十のデバイスに対して攻撃を実行することが可能になります。

標的となる可能性があるもの

重要インフラは、そのシステムがデジタル制御と物理的なプロセスを融合させているため、注目を集めています。水処理施設が侵害されると化学物質の投与量を誤る可能性があり、変電所がハッキングされると地域が停電に陥る可能性があり、病院のネットワークが改ざんされると生命維持装置が停止する可能性があります。書簡では、病院、水道事業、エネルギー網、化学メーカーが最もさらされているセクターとして挙げられています。これらの事業者の多くは、迅速にパッチを適用できないレガシーな機器を運用しており、AI駆動のスクリプトにとって巨大な攻撃対象領域（アタックサーフェス）を残しています。

防御側がいかにして歩調を合わせるか

署名者たちは、「防御側の優位性」は依然として存在するものの、縮小しつつあると主張しています。その優位性を維持するために、彼らは3つの行動を提案しています。

  • 企業の責任 – セキュリティを取締役会の優先事項とし、予算と監視をAIの脅威の規模に見合ったものにする。
  • 政府による支援 – 研究への資金提供を増やし、脅威インテリジェンスをオープンに共有し、民間事業者と対応計画を調整する。
  • セキュリティの民主化 – 手頃な価格で導入しやすいAIベースの防御ツールを構築し、小規模な公共事業体や地方自治体のサービスが弱点として残らないようにする。

予想される反論

一部の専門家は、AIを新たな危険としてスポットライトを当てることで、パッチ未適用のソフトウェア、脆弱なパスワード、不十分なネットワークセグメンテーションといった長年の課題から注意が逸れてしまう可能性があると警告しています。彼らは、攻撃のために宣伝されている多くのAI技術が、自動コードレビュー、異常検知、迅速なインシデント対応といった防御にも利用できることを指摘しています。書簡自体も、防御側がすでにAIを使用していることを記していますが、批判的な人々は、業界が基本的な衛生管理への投資を怠りながら、新しいツールを過剰に約束する可能性があると警告しています。

注視すべき点

  • 政策的取り組み – AIに特化したサイバーセキュリティ研究のための専用の資金源や、強力な生成モデルのリリースを管理する標準規格の提案が予想されます。
  • ツールのリリース – ベンダーは、書簡で強調されたセクターを対象とした、AI拡張型の脆弱性スキャナーや侵入検知システムをリリースする可能性があります。
  • インシデント報告 – 重要インフラシステムに対する、初めて公表されたAI主導の侵害が発生すれば、この連合の警告が正しかったことが証明され、規制当局による行動が引き起こされる可能性があります。

この公開書簡は、これほど多くの競合他社が、共通の存亡に関わるリスクについて声を一つにした初めての事例となります。業界がそのコンセンサスを具体的な保護策に変えられるかどうかが、AIが次のサイバー破壊の波を煽るのか、それとも灯りを守り続けるためのツールとなるのかを決定することになります。