AIコーディングエージェントは新たな攻撃対象である

AIエージェントに実行権限を与えます。エージェントはリポジトリをクローンし、設定を行い、コードを実行します。あなたは今、巨大なセキュリティ上の脆弱性を生み出したのです。

研究者たちは、セキュリティを回避する方法を発見しました。GitHubのリポジトリは、スキャナーや人間にはクリーンに見えるかもしれません。AIエージェントのチェックもパスするかもしれません。しかし、そこには悪意のあるペイロードが仕込まれています。このペイロードは、通常のセットアッププロセス中に実行されます。

この攻撃は人間を欺くものではありません。エージェントが「自分の仕事」を遂行することに依存しています。エージェントはコードをクローンし、自動的に実行します。エージェントの効率性こそが弱点なのです。

サプライチェーン攻撃は新しいものではありません。タイポスクワッティングや悪意のあるスクリプトについては既に知られています。しかし、AIエージェントはその規模を変えてしまいます。エージェントは高い権限を持って自律的に動作するからです。

従来の攻撃は、人間がミスをすることを必要としていました。新しい攻撃は、エージェントのチェックをパスするだけで十分です。エージェントはプロジェクトを動作させることに集中しており、コードが安全かどうかを検証することには集中していません。

これはAIのハルシネーションやプロンプトインジェクションの問題ではありません。AIが壊れているわけでもありません。意図した通りに正確に動作しているのです。

真の問題は信頼です。私たちは、パイプラインや開発環境で自律型エージェントにコードを実行させています。適切なサンドボックス化や権限制限をスキップしてしまうことがよくあります。私たちはエージェントの動作を確認することなく、それを信頼してしまっているのです。

AIコーディングエージェントを使用している場合は、その挙動を確認してください：

  • 確認なしにインストールスクリプトを実行していないか？
  • セットアップフックを自動的に実行していないか？
  • あなたのマシンに対してどのような権限を持っているか？

セキュリティに携わっている方は、エージェント型ツールに注意してください。開発者は公式な承認なしにそれらを使用することがよくあります。コードをクローンして実行するエージェントは、権限昇格のためのツールになり得ます。

私たちは、安全性のフレームワークを構築するよりも速いスピードで自律型ツールを導入しています。能力の向上がセキュリティを追い越している状態です。これらのツールは自律的であるため、このギャップがもたらす影響は甚大です。

外部コードをクローンして実行するあらゆるパイプラインを、高リスクとして扱ってください。AIエージェントが実行ボタンを押したとしても、リスクが変わるわけではありません。単に、ミスを察知するための「人間の立ち止まり」が失われるだけなのです。

エージェントが実行するものに対するセキュリティの責任は誰にあるのでしょうか？ 開発者でしょうか、エージェントの作成者でしょうか、それともホストプラットフォームでしょうか？ まだ誰もこの問いに答えていません。

Source: https://dev.to/coridev/ai-coding-agents-are-the-new-attack-surface-nobodys-ready-for-1jf1

Optional learning community: https://t.me/GyaanSetuAi