スタンフォード大学のAI卒業生であるMax Spero氏とBradley Emi氏によって設立されたニューヨークのスタートアップ、Pangramは、Menlo Venturesが主導する900万ドルのシリーズAラウンドを完了した。この資金は、プラットフォーム向けのAPIと、月額20ドルのChrome拡張機能の開発に充てられる。この拡張機能は、AIが補助したテキストを99%の精度で検知できると主張しており、ジャーナリスト、学者、採用担当者が真正性を検証する方法を根本から変える可能性がある。

急増するAI生成の「スロップ（slop）」

大規模言語モデル（LLM）は現在、記事やSNSの投稿、さらには法的引用までも大量に生成している。その結果、低品質なSEOスパム、組織的な偽情報キャンペーン、そして人間がAI生成の草稿を推敲するというグレーゾーンが溢れかえっている。各機関はすでに反応を示している。プレプリントサーバーのarXivは、査読されていないLLMの出力を提出した著者は1年間の投稿禁止処分を受ける可能性があると警告しており、裁判所もAIが作成した捏造された引用に頼った弁護士に対して制裁を科し始めている。人間の成果物と機械の成果物を区別せよという圧力が高まっており、Pangramは自社の技術がデフォルトの検証レイヤーになれると賭けている。

シンセティック・ミラーリング：あらゆる文書の「双子」を用いた学習

Pangramの旗艦モデルであるPangram 4は、同社が「シンセティック・ミラーリング（synthetic mirroring）」と呼ぶ手法を採用している。数千万件に及ぶ検証済みのデータセットに含まれる、人間が書いた各文書に対し、チームは最先端のLLMを用いて対となる文書を生成した。この「合成された双子（synthetic twin）」は、トピック、長さ、トーンにおいてオリジナルと一致するが、AIによって生成されたものである。両方のバージョンを同じニューラルネットワークに投入することで、Pangramはモデルに対し、書き手が機械的な出力を隠蔽するための「AIヒューマナイザー（AI humanizer）」ツールを使用した場合でも、AI生成テキストに残留する微細な統計的指紋を見つけ出すよう学習させている。

競合他社はメタデータや不可視の電子透かしに頼っているが、これらは削除されたり無視されたりする可能性がある。対照的に、Pangramはスタイルの分析に焦点を当てている。つまり、モデルの出力において一貫して残る、語彙の選択、文章のリズム、トークン分布のパターンである。同社の発表によると、内部テストにおいて、このシステムはAIが補助した文章を99%の精度で検知した。

APIからブラウザへ：技術の展開先

Pangramは、単一目的のアプリではなく、インフラストラクチャとしての地位を確立しようとしている。同社のAPIはすでにSubstackと統合されており、ニュースレターにはAI生成コンテンツの割合を示すラベルが表示されている。初期導入事例には、Q&AプラットフォームのQuora、複数の大学のライティングセンター、そして候補者の提出物の独創性を検証する必要がある人材紹介会社などが含まれる。

個人ユーザー向けには、X、LinkedIn、Reddit、Mediumなどのサイト上に「フィード・ヘルス・スコア（feed health score）」をオーバーレイ表示するChrome拡張機能を提供している。このスコアは、モデルが人間によるものと判断したテキストとAIによるものの割合を内訳として示す。サブスクリプション会員は月額20ドルを支払うことで、リアルタイムのラベル表示や、疑わしい箇所を詳細なレビューのためにフラグ立てする機能を利用できる。

懐疑的な見方

精度に関する主張は、必然的に精査の対象となる。書き手がモデルの生成した草稿を編集するという「グレーゾーン」におけるAIの介在を検知することは、依然として困難な課題である。生成モデルが向上するにつれ、Pangramが依拠しているスタイルの差は縮まる可能性があり、検知技術と回避技術のいたちごっこを引き起こす可能性がある。また、批判的な人々は「偽陽性（false positives）」についても警告している。正当な人間による著作物をAI生成と誤判定することは、特に利害関係の大きい学術的または法的な文脈において、評判を傷つける恐れがある。

Pangramはこの課題を認めており、新しいLLMが登場するたびに、最新のシンセティック・ミラーを用いてモデルを継続的に再学習させていると述べている。しかし、同社は内部テスト以外の独立したベンチマーク結果を開示しておらず、99%という数字の検証はコミュニティ全体に委ねられている。

注視すべき点

今後数ヶ月間で、Pangramがパイロット運用を超えて、より広範なプラットフォームへの採用へと進めるかどうかが明らかになるだろう。主な指標は以下の通りである：

  • 現在の初期パートナーのリストを超えた、API契約の拡大。
  • 偽陽性率や編集ワークフローへの影響に関する、機関ユーザーからのフィードバック。
  • 人間のスタイルをより密接に模倣することを目的としたモデルのアップデートで対抗してくる可能性がある、LLM開発者からの反応。
  • 特定の出版物や学術的な提出物に対して、AI検知ツールの使用を義務付ける可能性のある規制の動向。

もしこのスタートアップが低いエラー率を維持しながら検知における優位性を保つことができれば、デジタルな真正性のデファクトスタンダードとなる可能性がある。そうでなければ、市場はそれぞれにトレードオフを持つ競合ツールが乱立するパッチワークのような状態になるかもしれない。

結論

Pangramへの900万ドルの資金注入は、AIによる執筆支援の検知においてほぼ完璧な精度を謳う検出戦略を推進している。この戦略は、2つの文書を用いる「ツインドキュメント」トレーニング手法に依拠するものだ。その成否は、進化し続ける言語モデルに対して手法が拡張性を持ち続けられるか、そして、最もそれを必要とするプラットフォームや機関から信頼を得られるかどうかにかかっている。