人工智能（AI）正在从“工具”走向“伙伴”。相关调研显示，超七成用户与AI建立起情感联结，甚至产生过依赖感。从日常工作学习到聊天辅助，从情感倾诉到虚拟陪伴，当AI扮演起“社交避风港”“情绪止痛药”等角色时，其背后的价值观引导、虚拟情感成瘾等潜在风险不容忽视。
日前，国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），将于7月15日起施行。《办法》鼓励拟人化互动服务创新发展，对拟人化互动服务实行包容审慎和分类分级监管，也规定了拟人化互动服务提供者的未成年人、老年人权益保护和个人信息保护等义务。AI拟人化互动产业进入了有规可依的新发展阶段。
中国政法大学人工智能法研究院院长、教授张凌寒分析，不同于传统的AI信息发布或检索服务，拟人化互动服务具有主动性、个性化和情感化特征，通过模拟人类的语言、表情、行为方式等，能够与用户建立类似人际关系的互动模式，其影响力和渗透性远超传统互联网服务。“这种高度拟人化的交互模式所产生的风险，与一般AI应用存在本质差异，表现为情感依赖与社交异化、认知操纵与价值观引导，以及心理健康与安全风险等。”
腾讯研究院一项针对2903名18岁至40岁中国青年网民的调查显示，AI社交已近乎全面渗透，94.4%的调研对象至少听说过一种AI社交产品或功能，其中98.8%的人有过实际使用经验。AI社交辅助类工具的使用率最高，达到62.5%。当产生“难以对人说出口”的想法时，选择向AI倾诉的比例（56.0%）是选择向真人倾诉（14.4%）的近4倍。
“大语言模型技术已经从单纯的认知智能向情感智能跃迁。”赛迪顾问人工智能与大数据研究中心研究分析师白润轩观察到，2025年以来，AI社交互动的用户黏性极高，部分应用人均使用频次甚至超过了短视频和游戏。“这种深度的情感链接虽然带来了巨大的商业价值，但也伴生了深度沉迷、伦理边界模糊等风险。”
特别是对于未成年人，长期的AI拟人化情感互动带来持续的情感反馈与情绪刺激，促使多巴胺反复分泌并强化心理愉悦感，逐步形成行为渴求与依赖惯性，“成瘾”可能性更大。此次《办法》的出台旨在把隐性风险显性化、标准化，降低长期不确定性。不过，合规发展并非“一刀切”，而是分类分级、风险匹配。例如，《办法》要求服务提供者建立情感边界引导、心理健康保护等安全能力，设置防沉迷提醒，对长时间、高强度的互动进行干预，规定用户连续使用超过2个小时，就将以弹窗等方式提醒用户。
“AI拟人化互动带来的无摩擦式情感陪伴，确实容易挤占未成年人现实社交空间，弱化其线下交往能力与社会适应能力。”张凌寒表示，受业态发展阶段、技术适配性以及行业现实等多重因素制约，《办法》目前只是确立了原则性、框架性规则。她建议，在后续落地实施中，需结合风险等级、应用场景、群体差异进行分层细化，建立更具量化标准、可落地执行的法律判定阈值，实现精细化治理。
白润轩认为，此次《办法》并非“急刹车”，而是行业已达“设护栏的临界点”，旨在防止技术异化，确保人机关系良性发展。“过去，部分产品依靠打擦边球、诱导消费来获取流量，一定程度上透支了行业的未来。新规实施后，合规成本会上升，但也会倒逼企业从流量思维转向产品思维。短期内可能会有洗牌，但长期看，情绪经济将进入规范化高质量发展的新阶段。监管不是消灭AI陪伴，而是把危险的依赖关系变成安全的辅助关系，为养老、教育、心理健康、文化传播等打开更大空间。”
未来，AI陪伴类应用的算法优化需引入更复杂的奖励模型。白润轩举例介绍，训练AI在识别到用户出现极端情绪、不合理决策或危险倾向时，应温和但坚定地进行干预，而非盲目附和，这需要从RLHF（人类反馈强化学习）阶段就植入心理健康和安全准则。再比如，当监测到用户连续使用超过一定时长，或者在非常规时间段高频互动时，AI不仅要弹窗提醒，更要在对话策略上主动引导用户回归现实生活。（本文来源：经济日报 作者：中国经济网记者 李 方）
忠琦配资提示：文章来自网络，不代表本站观点。
