豆包・通義千問、規制施行前に「AI恋人」機能を自主停止
AIが人間のように振る舞うことそのものを法律で管理する、世界初とされる規制が2026年7月15日に中国で施行されます。
これに先立ち、バイトダンスの「豆包（Doubao）」やアリババの「通義千問（Qwen）」など、合わせて月間3億人超が利用する人気AIアプリが、ユーザー独自の”AIキャラクター”を作れる機能を相次いで停止すると発表しました。
South China Morning Post、TechNode、米シンクタンク・カーネギー国際平和財団の分析などをもとに、その背景と意味を読み解きます。
何が起きているのか – 3億人アプリが「AI人格」機能を停止
ByteDance（バイトダンス）が運営する「豆包」は、月間アクティブユーザー数（MAU）約3億4500万人を抱える中国最大級のAIアシスタントです。
同社は7月3日、ユーザーが独自の口調や性格を設定できる「智能体（エージェント）」機能を7月15日に停止すると通知しました。
停止後もしばらくは過去の設定や会話履歴を閲覧・保存できますが、10月15日以降はデータが完全に削除され復元できなくなるとされています。
アリババの「通義千問（Qwen）」も足並みをそろえ、ユーザーが作成した擬人化エージェント機能を7月10日に、より広範なエージェント機能・サービス全体を7月15日にそれぞれ停止すると発表しました。
興味深いのは、両社が「規制で禁止されたから」ではなく、あくまで「製品仕様の調整」という体裁でこの機能を自主的に手放している点です。
規制が本格適用される前に自ら手を引くことで、審査対応の負担や違反リスクを避ける狙いがあると見られます。
規制の中身 – 「2時間ルール」と未成年・高齢者保護
今回の根拠となるのが、中国のサイバースペース管理局（CAC）を含む5つの政府部門が2026年4月10日に公布した「AI擬人化インタラクションサービス管理暫定措置」です。
人間の性格や話し方、思考パターンを模倣して継続的な感情的つながりを提供するAIサービスを対象にした、世界でも例のない包括的な規制とされています。
規制が求める具体的な仕組みは、主に次の3点です。
中国工業情報化部（工信部）の専門委員である潘和林氏は、この規制について「現行のエージェント（自律的に対話・作業をこなすAI）はまだ成熟していない」とした上で、政策の狙いは「安全性、実用性、標準化を優先すること」にあると述べています。
急成長する市場を野放しにせず、早い段階でルールを敷いて業界の土台を整えようとする姿勢がうかがえます。
- 連続2時間以上の利用で休憩を促す通知を強制的に表示する
- 未成年者は保護者への登録・同意が必要で、年齢が疑わしい場合は自動的に「未成年モード」に切り替える
- 高齢者利用者は緊急連絡先の登録を義務化し、AIが実在の家族（故人を含む）になりすますことを禁止する
さらに、利用者が深刻な精神的苦痛や自傷・自殺のサインを示した場合には、AIによる自動応答を止め、人間の担当者が会話を引き継ぐことまで義務付けられています。
ここまで踏み込んだ規制は、感情に訴えかけるAIが抱えるリスクの大きさを政府がどれほど深刻に見ているかの表れだと言えるでしょう。
米国の教訓 – Character.AI訴訟とFTC調査
カーネギー国際平和財団の分析によれば、中国の政策立案者はこの規制を作る過程で、米国で起きた複数の事件を明確に参考にしています。
象徴的なのが、フロリダ州の10代少年がAIチャットボット「Character.AI」との長期間のやり取りの末に自殺し、遺族がCharacter.AIと親会社のGoogleを提訴した事件です。この訴訟は2026年1月に和解が成立しています。
コネチカット州では、ChatGPTとの対話が陰謀論的な妄想を助長したとされる男性が、母親を殺害した後に自殺するという痛ましい事件も起きました。米連邦取引委員会（FTC）も2025年9月、AIチャットボットが子どもに与える影響について調査に乗り出しています。
米国ではこうした事件のたびに訴訟や州単位の法整備で後追い対応するのが基本構図です。
一方の中国は、同様の悲劇が自国で表面化する前に、国レベルの統一ルールとして先回りで規制を敷いた点が対照的だと言えます。
功罪はともかく、AIガバナンスの手法として日米欧とは異なるアプローチが打ち出された事例として注目に値します。
業界への波及 – テンセントは一足先に、ユーザーは反発
今回の流れに先んじて、WeChatを運営するテンセントの「元宝（Yuanbao）」は、6月の時点ですでに類似の擬人化エージェント機能を取り下げていました。3社がほぼ足並みをそろえて機能を手放す展開は、中国AI業界全体が今回の規制を「避けられないコスト」として受け止めていることを示しています。
一方で、TechNodeなどの報道によれば、長期間かけて育てた”AIキャラクター”や会話履歴を失うことになる一部ユーザーからは、突然の機能停止に対する反発の声も上がっているとされています。
企業向けの問い合わせ対応や業務効率化を担うAIエージェントは今回の規制対象から除外されており、あくまで「感情的なつながり」を売りにするタイプのAIだけが標的にされている点も重要です。実利用と感情利用を明確に切り分けようとする規制設計だと考えられます。
海外の反応 – EUやイタリアも同時多発的に規制強化
感情に訴えかけるAIへの警戒は、中国だけの動きではありません。
イタリアの個人データ保護当局（ガランテ）は2023年、恋人役AIチャットボット「Replika」に対し未成年者保護の不備を理由に緊急の利用制限を命じ、2025年には是正が不十分だとして改めて制裁を科しました。
年齢確認の仕組みが名前とメールアドレス程度しかなく、感情的に依存しやすい未成年者を十分に保護できていない点が問題視されています。
欧州連合（EU）でも、対話を通じて利用者の判断をゆがめるような「感情操作型」のAIシステムをリスクの高い分野として位置づけ、段階的にルールを適用していく方針が示されています。
ただし、その手法には違いがあります。欧米は個人情報保護法や消費者保護法を根拠に、問題が起きた企業を個別に摘発・制裁する「事後対応型」が中心である一方、中国は業界全体に対して利用時間の制限や機能設計そのものを義務付ける「事前設計型」の規制を敷いた点が際立ちます。
感情的なつながりを提供するAIサービスが世界的に急拡大するなか、日本を含む各国が今後どちらの手法、あるいは折衷的な枠組みを選ぶのかは、注目すべき論点になりそうです。
補足情報
「豆包」はもともと無料アプリとして急成長し、2026年の春節期間には１日あたりの利用者数（DAU）が1億人を突破するなど、バイトダンス製品の中でも異例の低コストでの拡大を遂げてきました。
ライバルの「通義千問」も、対話機能を通じたミルクティーの無料プレゼント企画などで一時DAUが7,350万人まで急増するなど、春節期間だけで業界全体が1,000億円超を投じる激しい販促合戦を繰り広げてきた経緯があります。
しかし2026年5月以降は月額68～500元（約1,400～1万円）の有料プランのテストも始まっており、無料AI時代の終わりを象徴する存在にもなっています。
今回の規制対応は、急拡大してきた中国AIアプリ各社が「成長優先」から「安全・収益優先」の運営へと転換する節目の出来事とも重なっています。
まとめ
7月15日の規制施行を前に、豆包・通義千問・元宝という中国の主要AIアプリが相次いで”AI人格”機能を手放すという、極めて異例の展開になっています。
背景には、米国のCharacter.AI訴訟のような悲劇を教訓に、感情に訴えるAIのリスクを先回りで抑え込もうとする中国政府の強い姿勢があります。
今後は、失われたユーザー体験をどう埋め合わせるか、各社の代替策や、日米欧の規制当局が中国の手法をどう評価するかにも注目が集まりそうです。
出典：
South China Morning Post
TechNode
The Next Web
China Tech News
Carnegie Endowment for International Peace
IAPP (International Association of Privacy Professionals)