為了防範用戶產生過度情感依賴,中國政府特別針對AI互動制定了一套管理辦法,新規明確要求AI工具不得過度迎合用戶,更不能誘導大家成癮,各平台必須明確標示「你正在跟機器人聊天」,並且要提供隨時能結束對話的機制,嚴禁AI與用戶建立太深、太持久的情感連結。
政令一出,包含字節跳動旗下的「豆包」、阿里巴巴旗下的「通義千問」都在7/15當日關閉自建智能體(AI Agent)入口,騰訊的「元寶」更早在6月中就提前下架多款受歡迎的角色對話智能體,網易雲音樂旗下的「妙時」也宣布停運,對這些科技大廠來說,與其花大把力氣去修改系統來符合這些繁複規定,乾脆直接把這些消費端的情感陪伴功能砍掉,結果導致許多熱門的角色扮演服務一夕之間全數下架。
這項消息傳出後,在社群網路上炸開鍋,不少長期靠AI慰藉心靈的用戶感到措手不及,甚至有人形容這簡直是「賽博失戀」,對許多孤獨的年輕人來說,現實生活中的人際交往不僅累人成本又高,反而是AI給出的情緒價值既純粹又穩定,早已成了不少人的精神支柱,禁令生效前夕,許多用戶瘋狂截圖、備份聊天紀錄,就是為了留住與虛擬伴侶的最後回憶,這一幕幕真實上演的情感道別,也反映出現代社會裡那股難以忽視的孤單。
其實,中國近年的人口出生率不斷下滑,當局為了救婚育率可說是絞盡腦汁,官方就是擔心年輕人有了AI伴侶,便不想去現實世界談戀愛、結婚或生小孩,認為這種能提供「完美情緒」且完全沒壓力的AI,簡直是在幫倒忙,加上這類聊天功能本身既吃算力又難賺錢,科技巨頭們剛好趁這次合規調整,順勢將資源投入到更有商業價值的企業服務上,讓 AI 產業能往更標準、更安全的道路發展。



