中国拟收紧AI“数字人”监管：拟强制标识、禁未经同意克隆他人形象

北京讯——在AI“数字人”席卷社交平台之际，中国网络监管机构正着手收紧相关风险。国家互联网信息办公室4月发布关于“数字人”的管理征求意见稿，拟对其开发与应用设定边界，要求内容明确标识，防止危害未成年人、威胁社会稳定，或在未经同意的情况下制作与真实人物相似的形象。草案对外公开征求意见至5月上旬，违规行为将依法追责，罚款幅度为1万元至20万元。 这些拟人化的合成影像在中国社交媒体上几乎无处不在，常以灵活逼真的动作推销商品，也正进入私人领域。辽宁的Zhang Xinyu女士（47岁）在父亲因癌症去世后，于两年前委托公司Super Brain制作了一个与父亲外貌和声线相仿的AI化身。她对法新社表示，能在网上与“父亲”对话让她“瞬间满血复活、重新充满动力”。也有朋友担心她沉溺其中、难以走出悲伤，称这是一种“虚假的安慰”。她回应称，“即便安慰是模拟的，背后的爱是真实的”。 据新华社2025年报道，2024年中国“数字人”产业规模约41亿元人民币（约合7.64亿新加坡元），同比大增85%。悉尼科技大学副教授Marina Zhang指出，中国对新兴数字技术的治理历来遵循“先发展、再监管、在过程中完善”的路径。 草案提出，对“数字人”内容须进行清晰标注，并禁止在未获同意的情况下，利用个人信息生成深度伪造的个人克隆。网信部门表示，违反规定将依法处理，处以相应罚款。此前，监管方已整治在电商直播中使用AI深度伪造冒充公众人物的行为，称其“严重破坏”网络生态。 产业方面，Super Brain创始人Zhang Zewei对法新社表示，新规“不可避免”，并称这是“在规范化监管与行业发展之间实现平衡的积极进展”。该公司专门为逝者家属制作AI化身。今年4月，一段老年女性不知情地与已故儿子的高度拟真化身视频通话的短片在社交媒体广泛传播，相关话题在微博的阅读量超过9000万。该化身高度还原了其儿子的说话方式和动作，令她一度误以为是在与儿子视频通话。这一事件引发关于生成式AI伦理的激辩，不少声音呼吁加强监管以防诈骗等不法行为。Zhang Zewei称，家属在儿子遭遇车祸去世后主动联系公司，制作化身的初衷是一个“善意的谎言”，并表示公司会征得逝者家属的同意。 观察人士认为，此轮规则旨在在科技雄心与风险可控之间找到平衡。新加坡拉惹勒南国际研究院（S.

Rajaratnam School of International Studies）研究员Manoj Harjani指出，中国推动新技术监管的目标之一，是维护其“主权与政治目标”。下一步，相关意见将在5月上旬前继续征集，后续制度如何落地、行业实践如何规范，仍将考验监管与创新的拿捏尺度。