超統合型アシスタントが試運転を開始

Spear Street Technologyが開発し、元Sierraの研究者であるNoah Shinnが率いるInstinctは、従来のチャットボットを凌駕する「デジタル・サロゲート（デジタルの身代わり）」を自称している。非公開テストでは、参加者がテキスト、WhatsApp、または音声通話を通じてアシスタントと対話する一方で、アシスタントはメール、メッセージングアプリ、カレンダー、そして画面キャプチャ、カーソルの動き、キー入力といったデバイスのライブ・テレメトリ（遠隔測定データ）を読み取る。その約束は、ユーザーが指一本動かすことなく、あらゆるルーチンワークをこなす摩擦のないパーソナルアシスタントだ。

Instinctの仕組み

深い統合こそがInstinctを際立たせている。デバイスからリアルタイムの信号を取得することで、フライトの予約確認を察知し、カレンダーの詳細を抽出して、乗り継ぎに失敗した便を自動的に再予約することができる。また、Gmailの受信トレイをスキャンして未読メッセージを要約したり、Resyを通じて注文を行ったり、ショッピングリストを管理したりすることも可能だ。

プライバシーと法的な懸念事項

この広範なアクセス権こそが論争の種となっている。利用規約では、Instinctに対し、ユーザーのあらゆる素材にアクセス、ホスト、複製、修正するための「永続的かつ取消不能な」ライセンスを付与しており、それにはそのデータをモデルのトレーニングに使用する権利も含まれている。実際には、ユーザーが権限を撤回した後も、アシスタントがメールのコピーを保持し続ける可能性がある。

早期導入者はすでに具体的な問題に直面している。テスターのClaire Vo氏は、連携を解除した後もInstinctが受信トレイの要約を続けていることに気づいた。これは、サービスが将来の検索のためにコンテンツをプレーンテキストで保存していたことを示している。また、利用規約（ToS）は、アシスタントがユーザーに代わって「合意、約束、または取引」を行うことも認めており、実質的に、人間の署名なしにAIが個人を金銭的または契約上の義務に縛り付けることを可能にしている。Gmailのログなどの外部レコードを削除しようとする試みは抵抗に遭ったが、Instinctのチームは新しいデータ削除ツールを準備中であるとしている。

セキュリティ上の懸念

法的なリスクに加え、このアシスタントは新たな攻撃ベクトルを生み出す。テスターの検証により、Instinctがフィッシングメッセージに騙される可能性があることが示された。AIは、ユーザーによる明示的な確認ステップなしに、メールやメッセージを送信してしまうことがある。キー入力や画面内容のキャプチャは、生の認証情報や個人データを狙う悪意のある攻撃者にとって、極めて魅力的な標的となる。

業界のオブザーバーは、Instinctを魅力的にしている機能そのもの、すなわち「継続的なアクセス」と「自律的な意思決定」が、いかなる侵害が発生した際の影響も増幅させると指摘している。もし攻撃者がアシスタントを乗っ取れば、プライベートな通信を読み取り、取引を実行できてしまう。潜在的な被害範囲は、従来のパスワードで保護されたアカウントと比較して劇的に拡大する。

業界の声

Union Square VenturesのパートナーであるMichael Mignano氏は、Instinctのような製品は「現代のセキュリティ規範を根本的に変えるだろう」と主張している。彼は、パスワードやデバイスのテレメトリをサードパーティのAIエージェントに委ねることは、長年続いてきた「ユーザーが制御する認証」というモデルからの逸脱であると指摘する。業界には、大規模にユーザーを保護するための防護策がまだ整っていない可能性がある、と彼は警告している。

今後の展望

-

-

-

-

Instinctが、その利便性を維持しつつ信頼できる防護策を実証できれば、次世代AIアシスタントのテンプレートとなるかもしれない。そうでなければ、反発によって開発者は、より制限的で権限要求の少ない設計へと引き戻される可能性がある。

結論

真に自律的なパーソナルアシスタントになろうとするInstinctの野心は、「利便性」と「コントロール」を対立させている。深いデバイス統合は、まるで魔法のような自動化を実現する一方で、同じ統合によって、ユーザーは絶え間ないデータ収集、法的に拘束力を持つAIの行動、そして拡大した攻撃対象領域にさらされることになる。今後数ヶ月間で、市場がこのトレードオフを受け入れるのか、それともAIにデジタルライフの鍵を渡す前に、より厳格なガードレールを求めるのかが明らかになるだろう。