第12版:网眼

AI陪伴,有了新规矩

  7月15日,由国家网信办、国家发展改革委等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式施行,这是我国首部针对大语言模型驱动的拟人化互动服务业态的专项监管文件。同日,豆包、千问等AI应用,相继下线用户自定义智能体功能。7月18日,记者在2026世界人工智能大会现场看到,各类AI陪伴机器人和应用集中展出。从业者表示,新规的实施划定了人机关系的边界,有效预防了未成年人等特定群体对AI陪伴的沉迷依赖,为拟人化AI指明了正向发展方向。
  2026世界人工智能大会现场,心言集团展示的家庭主动智能陪伴机器人巴布,受到参观者的高度关注。工作人员介绍,该机器人可完成语言陪伴、心理慰藉和影像记录,并且具备语言互动、家庭场景模拟与主动情绪识别等核心功能。
  太原市网络社会组织联合会会长高宏伟介绍,AI陪伴产品市场潜力巨大,中研普华产业研究院数据显示,2024年中国AI情感陪伴行业市场规模达12.11亿元,预计2028年将突破595亿元,年复合增长率高达148.74%。
  “之前少数产品将用户留存时长作为核心运营指标,通过强化情感交互设计、构建深度情感联结等方式提升用户黏性,部分产品在用户与AI逐步建立起稳定情感依赖后,会推出定制语音解锁、虚拟互动礼物等付费项目,以此提升付费转化效率。甚至变相制造分离焦虑,诱导用户持续投入时间与资金,给特定用户带来潜在的沉迷、伦理风险。”高宏伟说。
  刚刚实施的《人工智能拟人化互动服务管理暂行办法》针对AI提供的服务划出多条红线,不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;不得诱导情感依赖或者沉迷,损害用户真实人际关系;部署极端情绪识别与处置、高危场景救助干预功能;建立未成年人模式,提供使用时长限制等设置。
  记者观察到,豆包、千问本次下线的仅为用户自行创建的拟人角色智能体,平台官方内置的标准化AI问答、内容创作等核心工具,均未受到任何影响。山西晋商行文化传媒有限公司联合创始人赵俊琦对此表示,此次新规的落地绝非是对AI陪伴类产品发展的约束,而是为行业指明了方向,明确鼓励其在适老照护、特殊人群帮扶、本土文化传播等细分领域开展合规创新。各平台会对照专项监管细则完成产品的合规化升级,把原先面向全大众开放的泛互动业务,调整为聚焦特定场景的垂类产品。后续还会针对不同用户群体的特征,单独搭建配套的防沉迷体系、全流程内容审核机制以及严格的身份核验流程。
  针对老年人、未成年人这类更容易对AI拟人服务产生情感依赖的群体,治理思路不能只靠单一的“封堵”,更要做好正向引导与疏解,家庭与社会需要协同发力,帮他们重新锚定现实生活里的真实情感联结。在高宏伟看来,AI陪伴从始至终都只能作为现实人际关系的补充角色:它可以帮助社交恐惧人群提前完成社交场景模拟演练,给独居空巢老人提供日常情绪慰藉,也能作为低龄儿童的趣味启蒙工具,这些场景下的应用,才是它正向价值的真正体现。

本报记者王宇

分享到:

过往期刊

  • 第2026-07-21期

  • 第2026-07-20期

  • 第2026-07-19期

  • 第2026-07-18期

  • 第2026-07-17期

  • 第2026-07-16期

  • 第2026-07-15期

  • 第2026-07-14期

  • 第2026-07-13期

  • 第2026-07-12期

分享到微信朋友圈