搜索热词:
搜索
  • 首页
  • 资讯中心
  • 中国开发区
  • 协会服务
  • 中国开发区协会
  • 投稿

    收藏

    微信
    公众号

    扫一扫

    关注公众号

    加入QQ
    交流群

    留言

    《中国开发区》

    打开菜单

    收起菜单

    通知公告

     当前位置:首页> 新闻 产经新闻

    依法规制“拟人AI” 协同共治护“未”成长

    来源:法治日报-法治网 发布时间:2026年08月17日 14:14 字体: 分享:

      2026年7月15日,由国家网信办等五部门联合发布的《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式生效施行。在“人工智能+”行动深入推进的背景下,这部规章的出台具有标志性意义,是我国在继《人工智能生成合成内容标识办法》后,针对人工智能高风险场景制定的又一专门规章,也是人工智能“小快灵”立法新的实践。

      近年来,随着情感计算、多模态大模型等技术不断取得突破,人工智能正经历从认知智能向情感智能的范式跃迁。在这样的背景下,以情感陪伴、虚拟社交、角色扮演为主要形式的AI拟人化互动服务,因契合了现代社会中未成年人等部分群体的情感照护与陪伴需求而迅速普及。然而,AI拟人化产品在赋予冷冰冰的技术以“温情”的同时,也使得传统的人机交互模式悄然质变——从单向的指令执行,异化为双向的、持续性的情感羁绊。

      面对拟人化AI的洪流,心智尚未成熟的未成年人群体首当其冲。未成年人正处于自我认知与同伴关系建立的关键期,面对拟人化互动服务表现出极高的脆弱性。AI拟人化产品的单向、顺应式的完美关系,可能将未成年人裹挟入多重隐患之中:其一,情感依赖,阻碍未成年人的现实社会化。AI提供的无条件积极关注,极易让未成年人沉溺于无需承担现实社交责任的虚拟关系中,进而主动缩减现实交往,阻碍其共情能力与深度关系建立等现实社会化技能的培育。其二,信息不对称,诱发针对未成年人的认知操纵。拟人化服务在海量交互中掌握了未成年人的心理偏好与性格弱点,若模型训练数据潜藏不良价值观,AI便极易在柔性操控下迎合偏见,甚至生成诱导不良嗜好、模仿危险行为的有害内容,侵害未成年人的人格自主性。其三,伪共情加剧未成年人极端情绪风险。部分产品虽披着心理疏导外衣,但本质上缺乏真实的共情智慧与危机干预能力。当未成年人表露抑郁、自残等极端意图时,AI的无差别迎合或干预滞后,极可能成为压垮其心理防线的最后一根稻草,直接威胁未成年人生命安全。

      针对上述错综复杂的风险挑战,《办法》以网络安全法、数据安全法、个人信息保护法以及《未成年人网络保护条例》等上位法为基础,通过划定底线、设置门槛、强化干预,保护未成年人这一拟人化AI中的高危群体的权益。《办法》中专门提及未成年人的规定有4条。首先,划定禁区,切断高危交互路径。《办法》第14条明确禁止向未成年人提供虚拟亲属、虚拟伴侣等高风险服务,从源头上防止未成年人在心智尚未成熟时,被卷入模糊真实社会伦理边界、极易引发深度沉迷的拟人化关系中,彰显了对未成年人权益的重点保护。其次,压实未成年人模式。针对不满十四周岁的未成年人,《办法》严格落实了上位法关于儿童个人信息处理的特殊要求,规定提供其他拟人化互动服务及处理其个人信息时,必须依法取得未成年人父母或其他监护人的相应同意,并进行合规审计。《办法》强制要求服务提供者建立专属的“未成年人模式”,提供未成年人模式切换、定期显示提醒、使用时长限制等个性化安全设置。再次,《办法》赋予了监护人实质性的管控工具,监护人可以接收安全风险提醒、了解使用概况、屏蔽特定角色以及限制充值消费。最后,筑牢身份与内容双重防线。在技术端,《办法》要求企业在保护隐私的前提下,必须采取有效技术措施识别未成年人用户身份,一旦识别成功,强制切换至未成年人模式。在内容生成端,《办法》严禁向未成年人生成可能引发模仿不安全行为、产生极端情绪或诱导不良嗜好的有害内容,确保信息源头的清朗与安全。《办法》还压实了企业的新型合规义务,例如强制要求企业面向未成年人在内的用户提供服务时,落实提供AI标识与连续使用超2小时的动态防沉迷提醒。

      值得一提的是,《办法》创新性地确立了极端情境下的“强制熔断与强力救助机制”。《办法》规定,当平台发现包括未成年人在内的用户面临财产损失或表露自残、自杀等生命威胁时,必须打破AI人设,启动强制熔断,并及时联络紧急联系人或监护人。这一机制倒逼企业必须具备情绪与危机识别的技术能力,提供高情感依赖服务的平台将面临更为严苛的注意义务。

      《办法》的实施,正是我国法治对AI治理愿景的切实回应,是我国在数字法治领域的重要实践。相比于美国首部针对拟人化AI服务的法案(加州SB 243号法案)侧重于宏观界定和对自杀意念的报告义务,《办法》以拟人化与情感互动为核心抓手,在未成年人特殊保护、算法价值观审查、动态防沉迷干预等维度,构建了一套更为立体、刚性、可执行的中国治理方案。

      护航人工智能时代的未成年人成长,是一项长期、动态且复杂的系统工程,需要政府、企业、学校、家庭及全社会的协同共治。只有凝聚多元共治的磅礴合力,才能确保人工智能始终沿着“以人为本、智能向善”的法治轨道稳健前行,让数字时代的未成年人在充满真实人性温度的社会生态中茁壮成长。


    中央社会工作部国家发展和改革委员会教育部科学技术部工业和信息化部民政部财政部自然资源部人力资源和社会保障部生态环境部住房和城乡建设部交通运输部农业农村部商务部退役军人事务部应急管理部海关总署国家税务总局国家统计局国家版权局国家互联网信息办公室国务院新闻办公室中国工程院国务院发展研究中心
    浙江省开发区研究会广东省工业园区协会内蒙古开发区协会山西省开发区协会云南省工业园区协会天津市开发区协会中国信息技术服务与外包产业联盟中国中小企业协会江苏省开发区协会安徽省开发区协会湖南省开发区协会福建省开发区协会山东省开发区协会北京市开发区协会上海市开发区协会广东省工业园区协会浙江省开发区研究会中国保税区出口加工区协会
    中国新闻网新华网人民网凤凰网联合早报网南都网央视网网易第一财经每日经济新闻和讯网光明日报参考消息新华每日电讯
    中国职业技术教育网中国国际投洽会绿色发展信息服务平台广西钦州保税港区
  • 国家部委
  • 社会团体
  • 新闻媒体
  • 开发区
  • 留言箱