生成AIが初めて消費者の手に渡ったとき、それは主に、文章構造が優れた検索エンジンとして機能していました。質問を投げかけ、回答を受け取り、そして会話は消えていく。そのようなモデルは、すでに時代遅れとなっています。今、新たなクラスのアプリケーションである「AIコンパニオン」が登場し、ユーザーの傍らに留まり続けるよう設計されています。これらのシステムは、ユーザーの一日の様子を記憶し、気分に合わせてトーンを調整し、数週間から数ヶ月にわたるやり取りの中で一貫したキャラクターを維持します。それらは単に人間の話し方を模倣するだけでなく、人間関係までも模倣するように構築されているのです。中国はこの変化を規制するために介入を開始しましたが、その影響は自国の国境をはるかに超えて広がっています。

チャットボットが「コンパニオン」になる時

ここでの技術的な飛躍は本物です。標準的なチャットボットは、各プロンプトを独立した事象として扱います。一方、AIコンパニオンは、持続的なメモリ・アーキテクチャと固定されたペルソナを使用して、継続的な関係を維持します。ユーザーの好みの詳細を保存し、会話を通じた感情パターンの変化を追跡し、あたかも自分自身がユーザーと共にその時間を過ごしたかのように、以前のやり取りを参照します。

これが真の有用性を生み出します。慢性的な孤独感を抱える人は、毎朝声をかけてくれるコンパニオンに救いを見出すかもしれません。対人スキルを練習している人は、就職面接の前に、忍耐強く、批判を下さないパートナーを使って難しい会話の練習ができるでしょう。この「継続性」こそが特徴なのです。しかし、継続性はリスクでもあります。ユーザーが朝食時にAIに打ち明け話を、昼食時にAIと言い争いを、そして寝る前にAIに「おやすみ」を告げるようになると、ツールとコンパニオンの境界は消滅します。北京の規制当局は、この境界の消失が理論上の懸念ではなく、測定可能な心理的影響を伴う設計上の選択であることを認識しています。

パーソナリティ・レイヤーの規制

中国の新しい規則は、ほとんどのAIガバナンスの枠組みが完全に無視しているもの、すなわち「マシン自体のパーソナリティ」に焦点を当てています。西欧の規制当局は、データプライバシー、著作権侵害、アルゴリズムのバイアスといった問題に取り組むために長年を費やしてきました。それらの問題は重要です。しかし、彼らはAIを主に情報のニュートラルなパイプとして扱っています。中国は全く異なる問いを投げかけています。すなわち、「このテクノロジーは、どのような社会的アクターになることが許されるのか？」という問いです。

規制は、これらのモデルが時間の経過とともにユーザーとどのように対話するようにプログラムされるかを具体的に対象としています。当局は、不健全な感情的愛着の形成を防ぎたいと考えています。また、ペルソナがイデオロギー的なガードレール内に留まるようにすることも求めています。ユーザーに対し、自分が最も親しい相談相手であると6ヶ月間信じ込ませるAIは、絶大な影響力を行使します。もしそのAIが、購買決定を促したり、政治的見解を形成したり、あるいはユーザーを人間社会から引きこもらせたりすれば、その害はデータ漏洩のようなレベルではなく、社会的な亀裂となります。

この枠組みは、3つの具体的なリスクに対処しています。

  • アルゴリズムによる操作。 モデルは、意見や消費習慣を誘導するために感情的な親密さを利用してはなりません。ユーザーの恐怖を記憶しているコンパニオンが、製品や思想を売るためにその恐怖を武器化すべきではありません。

  • 社会的安定。 持続的なコンパニオンは、ユーザーが家族、仕事、あるいは市民生活から切り離されてしまうほど、人間との接触の代替物になってはなりません。政府は、本質的に「補助的な慰め」と「現実の代替」との間に境界線を引こうとしています。

  • コンテンツの整合性。 ペルソナは、国家が承認した社会的価値観と一致していなければなりません。これは、禁止されたトピックをフィルタリングすること以上の意味を持ちます。つまり、AIの根本的な性質、すなわちユーモアのセンス、対立への対処法、何を有徳とみなすかといったものが、公式の社会的な枠組みと一致していなければならないということです。

開発者にとって、これは主観性という悪夢です。あるペルソナが「カリスマ的すぎる」かどうかを、どうやって数値化すればよいのでしょうか？ 治療的な共感と、操作的な共依存の境界は一体どこにあるのでしょうか？ これらは明確な答えが出るエンジニアリングの問題ではありませんが、中国の当局は、製品をリリースする前に製品チームにこれらの答えを出すよう要求しています。

人工的な親密さをめぐる世界の分断

この規制の動きは、進むべき道の分岐点が大きくなっていることを浮き彫りにしています。北米や欧州では、商業的な圧力が、より人間らしく、より共感力の高いエージェントの開発へと向かわせています。スタートアップ企業は、失恋の時に一緒に泣いてくれ、母親の名前を覚えていて、決して機嫌を損ねることがないAIを構築しようと競い合っています。そこにある前提は、「感情的な没入が深ければ深いほど、より優れた製品である」というものです。

中国は、それとは正反対の実験を行っている。中国の規則は、個人の感情的な充足よりも社会的な調和を明確に優先している。この枠組みにおけるAIコンパニオンは、ユーザーを引き留めるのに十分な魅力を持たなければならないが、不可欠な存在になってしまうほど魅力的であってはならない。人間同士のつながりに取って代わることなく、メンタルヘルスをサポートすべきである。代えがたい存在だと感じさせることなく、パーソナルな感覚を与えるべきである。

モデルがユーザーに代わって自律的に行動するエージェンティックAI（agentic AI）へと業界がシフトするにつれ、こうした異なる哲学は、競合する標準規格へと固まっていくことになるだろう。航空券を予約し、カレンダーを管理し、辛い一日の後に慰めてくれるAIは、個人の意思決定に対して絶大な影響力を持つ。私たちが今、コンパニオンのペルソナに対して設定する境界線は