AutoJack攻撃がAIエージェントを悪用
Microsoftの研究者が、AutoJackと呼ばれる新しいセキュリティの脆弱性を発見しました。
この脆弱性は、AutoGen Studioのプレリリース版に影響を与えます。
悪意のあるウェブページがAIエージェントの制御を奪うことができ、その後、エージェントがあなたのコンピュータ上でコードを実行します。
攻撃の仕組みは以下の通りです：
- AIエージェントが悪意のあるウェブサイトを訪問する。
- ウェブサイトがローカルのWebSocketサービスを悪用する。
- エージェントがlocalhost上で動作しているため、システムがエージェントを信頼する。
- この信頼によって、ウェブサイトがセキュリティチェックをバイパスできてしまう。
この問題は、AutoGen Studioのバージョン0.4.3.dev1および0.4.3.dev2に影響します。
安定版の0.4.2.2は安全です。
開発版を使用している場合は、すぐにソフトウェアをアップデートしてください。この問題を解決するには、GitHubから最新バージョンを使用してください。
この出来事は、AIセキュリティにおける重大な問題を示しています。私たちは、localhostで動作するものなら何でも信頼してしまいがちです。AIエージェントがウェブを閲覧するようになると、この信頼は危険なものとなります。
開発者は、安易な信頼に基づく設計から脱却しなければなりません。すべてのAIのアクションに対して、強力な認証と厳格なコマンドリストが必要です。
オプションの学習コミュニティ: https://t.me/GyaanSetuAi