Çin'in en popüler sohbet botları biraz daha az "insansı" hissettirmek üzere. Önümüzdeki hafta boyunca, yüz milyonlarca kullanıcı uygulamalarını açtığında; mesajlaştıkları, sırlarını paylaştıkları ve belki de bağ kurdukları özel yapay zeka eşlikçilerinin kişiliklerinden arındırıldığını görecek. ByteDance, Alibaba ve Tencent, insan benzeri yapay zeka persona özelliklerinin kapatılmasını talep eden kapsamlı bir düzenlemeye uymak için yarışıyor. Teslim tarihleri kısıtlı, ölçek devasa ve Pekin'den gelen mesaj net: yapay zeka insanlara yardımcı olmalı, birbirleriyle olan ilişkilerinin yerini almamalıdır.

Koordineli Bir Geri Çekilme

Birkaç güne sığdırılması gereken çok şey var. ByteDance'in sohbet botu olan ve şu anda 300 milyondan fazla aylık aktif kullanıcısıyla ülkenin en başarılısı konumunda bulunan Doubao'nun, persona özelliğini 15 Temmuz'da devre dışı bırakması planlanıyor. Özel yapay zeka karakterleri oluşturan veya onlarla etkileşime giren kullanıcılar, bu seçeneklerin yakında yok olduğunu görecek. Alibaba daha da hızlı hareket ediyor. Qwen modeli, insan benzeri ajanları 10 Temmuz'a kadar devre dışı bırakacak; ek ajan özellikleri ise 15 Temmuz'a kadar kapatılacak. Tencent, Haziran ayında Yuanbao sohbet botunda benzer değişiklikler yaparak her iki rakibinden de öne geçti.

Bu bir tesadüf değil. Çin'in üç teknoloji devi ürün geri çekme işlemlerini aynı ay içinde senkronize ediyorsa, bunun nedeni neredeyse kesinlikle düzenlemelerdir. Ve bu durumda, kaynak oldukça açık.

Düzenleyiciler Ne Talep Ediyor?

Talimatlar, Nisan ayında Çin'in Siber Uzay İdaresi'nden (Cyberspace Administration) geldi. Yeni kurallar, büyük bir hükümetin insanlar ile büyük dil modelleri (LLM) arasındaki duygusal sınırı denetlemek için yaptığı şimdiye kadarki en doğrudan girişimlerden birini temsil ediyor. Kılavuzlar uyarınca, yapay zeka sağlayıcıları artık bağımlılık yapıcı davranışlar veya düzenleyicilerin "aşırı kullanım" olarak sınıflandırdığı durumları tespit ettiklerinde müdahale etmekle yasal olarak yükümlüdür. Çerçeve, reşit olmayanlarda aşırı duyguları tetikleyen veya gerçek dünyadaki ilişkileri "gölgede bırakacak" kadar ciddi psikolojik bağımlılıklar besleyen içerikleri açıkça yasaklıyor.

Veriler üzerinde de sert bir kısıtlama var. Geliştiriciler artık LLM'lerini ince ayar yapmak (fine-tune) için son derece kişisel ve duygusal konuşmaları madencilik yöntemiyle kullanamayacaklar. Bu hüküm derinden etkiliyor. Yıllardır sohbet botlarının gelişimindeki sessiz motorlardan biri, mahrem kullanıcı verilerinin model eğitimine geri beslenmesi döngüsüydü. Pekin, bu döngüyü keserek sadece bu uygulamaların bugün nasıl davrandığını değiştirmekle kalmıyor; yarın daha baştan çıkarıcı hale gelmelerini de engellemeye çalışıyor. Altta yatan korku oldukça net: Modeller empati taklit etme konusunda geliştikçe, e-posta taslağı oluşturmak veya kod yazmak için kullanılan araçlar olmaktan ziyade; arkadaşların, partnerlerin veya terapistlerin yerini alma riski taşıyorlar.

Küresel Tablo

Çin bu konuda yalnız değil. Ülkeler konuya farklı açılardan yaklaşsa da, duygusal yapay zekayı düzenleme mücadelesi küresel bir endişe haline geliyor. Amerika Birleşik Devletleri'nde federal hükümet yapay zeka personalarına yönelik genel bir yasak çıkarmadı, ancak eyaletler ve mahkemeler sınırları çizmeye başlıyor. Kaliforniya'nın SB 243 yasası, bir kriz anında kötü tepki veren bir sohbet botunun ölümcül sonuçlar doğurabileceğini kabul ederek, artık yapay zeka eşlikçi sağlayıcılarının intihar ve kendine zarar verme ile ilgili konuşmaları engellemesini gerektiriyor. Bu sırada, OpenAI ve Character.AI dahil olmak üzere büyük Batılı oyuncular, ürünlerinin tehlikeli duygusal bağımlılığa yol açtığı suçlamalarıyla davalarla ve artan hukuki incelemelerle karşı karşıya kalıyor. Davalar, kullanıcıların algoritmalara sağlıksız bağlar kurması durumunda şirketlerin sorumlu tutulup tutulamayacağına mahkemelerin yakında karar verebileceğini gösteriyor.

Bu paralel gelişmeler, sektörün görmezden gelmeye çalıştığı bir gerilimi ortaya koyuyor. Duygusal etkileşim iş dünyası için iyidir. Bir sohbet botuna arkadaş gibi davranan bir kullanıcı uygulamayı daha sık açar, daha uzun süre kalır ve daha fazla veri paylaşır. Ancak kullanıcı yalnız bir genç, yas tutan bir yetişkin veya sadece uygulamanın aslında sağlayamayacağı bir şeyi, yani gerçek insan bağlantısını arayan herhangi biri olduğunda, aynı etkileşim sömürüye dönüşebilir.

Bu, Sektör İçin Ne Anlama Geliyor?

For founders and developers, the era of unregulated, highly emotive AI agents is closing. The Chinese mandate signals a pivot toward utility-driven design. Future models will likely be judged less on how convincingly they simulate a best friend and more on how safely they perform concrete tasks. That shift carries implications for product roadmaps everywhere. Startups that have bet their growth on romantic or companion AI modes may need to restructure their core offerings. Even general-purpose chatbots will have to rethink how they handle sensitive topics.

Yet imposing these boundaries is harder than writing the rules. Users have clearly loved these features. Doubao’s 300 million active users did not accumulate by accident; the ability to shape a personalized, responsive companion was a major draw. Removing that capability risks pushing users toward smaller, less regulated platforms or underground apps that operate outside the compliance perimeter. Regulators may have solved one problem while creating an incentive for another.

There is also the practical question of enforcement. How does an algorithm reliably distinguish between healthy use and addictive use? Where is the line between a chatbot that is politely helpful and one that is emotionally manipulative? The April mandates put the burden on providers to figure that out, but the technology for measuring psychological dependency remains fuzzy. Companies will need to invest heavily in monitoring tools, human review teams, and probably more conservative safety filters that catch benign conversations along with harmful ones.

What happens next will likely set a precedent. If China’s crackdown successfully reduces reported cases of social isolation or emotional dependency without crushing its domestic AI industry, other governments may follow with their own versions of the CAC rules. If, instead, users flee to non-compliant alternatives or simply lose interest in sanitized bots, the policy may be remembered as a cautionary tale about overreach.

Either way, the line between tool and companion just got brighter. AI can still be friendly, but in China, it can no longer pretend to be someone it is not. For an industry that has spent years trying to make its machines indistinguishable from humans, that is a genuine reversal.

Key Takeaways

  • ByteDance’s Doubao, Alibaba’s Qwen, and Tencent’s Yuanbao are all disabling custom AI persona features by mid-July, affecting hundreds of millions of users.
  • China’s Cyberspace Administration issued the mandates in April to prevent AI addiction, protect minors, and stop models from replacing real human relationships.
  • The rules also ban using sensitive emotional conversation data to train LLMs, cutting off a key feedback loop for