不准過度擬人？中國擬立法監管 AI 「情感互動」防範心理依賴

火報記者 陳銳/報導

中國網路監管機構近日公布《人工智慧類人交互規範》草案，並對外徵求公眾意見，針對能模擬人類個性、與使用者進行情感互動的人工智慧服務提出更明確的管理方向。

根據草案內容，相關規範適用於在中國境內向公眾提供的人工智慧產品與服務，特別是具備擬人化特徵、能模擬人類思維模式與溝通方式，並透過文字、圖像、音訊或影像與使用者進行長時間互動的系統。監管單位認為，這類服務在提升使用體驗的同時，也可能引發心理依賴、情緒操控等潛在風險，因此有必要提前介入規範。

在使用管理方面，草案要求服務提供者應對使用者進行清楚提醒，避免過度使用相關功能，並在系統識別出成癮傾向時主動採取干預措施。相關企業也被要求對產品的整個生命週期負起安全責任，建立完善的演算法審查機制，以及資料安全與個人資訊保護制度，確保技術發展不會對使用者造成長期傷害。

草案同時將焦點放在心理健康風險上，要求平台具備評估使用者情緒狀態與依賴程度的能力。若系統發現使用者出現極端情緒反應，或對服務產生明顯依賴行為，平台應即時採取必要措施，包括限制功能、提供提示或其他干預方式，以降低風險擴散。

此外，規範也明確劃定人工智慧內容生成的底線，要求相關服務不得產生危害國家安全、散布不實資訊，或涉及暴力、色情等內容。這些條款被視為對類人互動型 AI 行為邊界的具體界定，試圖避免技術被濫用或對社會秩序造成衝擊。

外界普遍認為，這份草案反映出中國正在加快建立人工智慧治理體系的腳步，尤其是在面向消費者的情感互動型 AI 領域，監管態度明顯趨於審慎。未來相關規範是否正式落地，以及對產業發展帶來的實際影響，仍有待後續觀察。

這篇文章 不准過度擬人？中國擬立法監管 AI 「情感互動」防範心理依賴 最早出現於 火報。