虚拟伴侣擦边内容被整治!拟人化互动服务之变:机器人伦理规制下的AI伴侣行业洗牌#
创始人2026-07-23 13:29:27
未成年人模式虚设、身份核验失效、系统预设角色低俗擦边……南都N视频报道《AI虚拟伴侣乱象调查:可选小三暴力剧情,角色表达带性暗示》推出两个多月后,“网信中国”于7月20日发文指出,中央网信办开展专项行动,重点整治“部分AI软件创设不良人设角...
未成年人模式虚设、身份核验失效、系统预设角色低俗擦边……南都N视频报道《AI虚拟伴侣乱象调查:可选小三暴力剧情,角色表达带性暗示》推出两个多月后,“网信中国”于7月20日发文指出,中央网信办开展专项行动,重点整治“部分AI软件创设不良人设角色,输出暧昧、低俗内容”等多个突出问题。
7月15日,国内首个针对AI虚拟伴侣等情感互动服务的监管法规——《人工智能拟人化互动服务管理暂行办法》(下称《办法》)正式施行。南都N视频调查报道持续助力“矫正”AI虚拟伴侣服务:中央网信办点名整治,属地网信部门介入,多个涉事平台强化实名认证,多地消委会呼吁规范服务。

新规落地前后,多条赛道悄然生变。虚拟伴侣App加速整改;豆包、千问、元宝集中下线“AI智能体”功能,将其从平台中“剥离”;优必选推出主打“情感陪伴”的超仿生人形机器人。优必选有关负责人告诉南都N视频记者,公司以《办法》为合规底线,已率先落地行业前置治理机制,成立了人工智能与机器人科技伦理委员会。
虽载体和形态不同,它们却共同指向同一个命题:在监管框架下,拟人化互动服务如何找到发展与规范的平衡点?中国政法大学人工智能法研究院院长张凌寒认为,新规落地最大的难点在于触发干预的“临界点”模糊不清。无论是判定AI是否构成“诱导沉迷”,还是识别用户情绪是否已触及需人工介入的红线,目前均缺乏量化标准,导致平台风控两难。
所有文章未经授权禁止转载、摘编、复制或建立镜像,违规转载法律必究。
举报邮箱:1002263188@qq.com