日前，著名表演艺术家、《西游记续集》中沙僧扮演者刘大刚先生病逝的消息在网络传开，但随着缅怀出现的，是“沙僧”开始在直播间唱歌，以及各种根据指令生成的《西游记》角色人物原型在录音棚唱歌、打鼓的AI视频。一时间，网友惊诧，这到底是虚拟还是现实？
当沙僧和孙悟空“隔空”组合，主打“经典IP+现代反差”的视频霸屏，创意背后，会否有隐忧？
近段时间，《西游记》角色在AI世界里变得很忙：黑熊精戴着时尚耳机在录音棚唱歌，银角大王喊话孙悟空，玉兔精对着专业话筒倾情演唱……甚至还有人分享起这些视频的制作流程，包括从生成人物图片到创作歌曲，再到数字人视频生成和最终剪辑，称普通人也能轻松制作出吸引眼球的《西游记》角色唱歌视频。
视频传播量惊人，但也让人质疑，当经典角色被AI重塑和“复活”，什么正在越界？
不可否认，AI生成正在重塑我们的互联网生态，同时，它也正在模糊真实与虚假的界限。举个例子赢在策略，前不久演员温峥嵘就因为自己被“AI换脸”，同时现身多个直播间带货而十分苦恼。在同一时段，“AI温峥嵘”化着不同的妆，在不同的直播间里说着同样的话，叫卖着不同的产品，但真正的温峥嵘此时却坐在沙发上，在直播间里发问：“你是温峥嵘，那我是谁？”
多个直播间同时出现 “温峥嵘” 的影像，但这些均非其本人出镜（网络截图）图据界面新闻
是啊，你是“我”，她也是“我”，那我又是谁呢？温峥嵘的烦恼，何尝不是互联网用户们的普遍感知？
当一个人的形象、声音可以被随意复制、修改和生产，这些所谓的“AI换脸”“AI穿越”“AI复活逝者”的视频，在未经允许或授权的情况下擅自使用，涉嫌侵犯当事人肖像权、名誉权、荣誉权、隐私权等多种人格权。另一方面，在直播间利用其数字形象和姓名进行带货、引流、表演，属于典型的“以营利为目的”的使用。侵权者不仅需要承担停止侵害、赔礼道歉、赔偿损失等民事责任，还可能面临行政处罚，情节严重的甚至需要承担刑事责任。
有人可能会反驳，AI技术的影响有积极正向的方面。包括“AI沙僧”“AI孙悟空”，可以让用户一键化身《西游记》中的人物原型赢在策略，赋予他们更多新鲜的场景和行为，这种利用AI技术介入文化传承的方式，让每个普通人可以成为经典的参与者和共创者。
即便如此也需要警惕。不妨把AI生成的场景理解成一个“数字深渊”。当你凝望深渊时，它其实也在凝望你。比如，除了“复活”逝者以外，AI还能让在世名人“参与”他们从未涉足的活动——如让某外国名人说中文相声。更令人忧心的是，伪造普通人形象的“深度合成”视频也层出不穷，被用于虚假宣传、网络诈骗，甚至制作不雅内容。这些技术的门槛正日益降低，普通用户通过几个简单App就能制作出相当逼真的虚拟视频。
一些买家利用AI工具对产品照片进行“伪毁损”处理，申请“仅退款”，平台自动过审致商家损失 图据央视新闻
实际上，AI生成的内容，足以欺骗很多“单纯”的用户，让人不知不觉踏入一个由算法精心编织的“楚门的世界”。上述案例，其实也尖锐地指向了一组问题：面对AI视频，我们应该如何辨别和认定？对于个人而言，形象和声音是否可以成为一组数据，任人拆解、重组和贩卖？或者说，当现实世界的真诚相待变成一种可被量化和模拟的技术指标时，人类社会最珍贵的情感和互动方式，是否会因此贬值？
当那些虚假的信息被披上“真实”的外衣，说不定，今天可以是“AI温峥嵘”在几十个直播间同时带货，明天就可能是“你”在视频那端做着令你瞠目结舌的事情。当假象变成所谓的“实景”，信任就变得稀缺，我们或将进入一个“看什么都像假的”的数字幻象时代。
图据视觉中国
在移动互联网时代，面对这样的情景，一味放开或者禁止，都不合时宜，理想的路径是，完善法规，建立多层次的管理框架，既鼓励创新，又防范风险。
当AI开始造假，我们更应该去较真。比如，能否明确界定“数字人格权”的概念，将其作为人格权的重要组成部分？不只是明星会面临侵权难题，普通公众尤其是在认定侵权主体、确定责任归属等方面，都可能会付出更多更大的心力。因此，法律作为兜底措施，对公众关切细节应进一步明晰，且应以案说法，正告那些不怀好意的肇事者：AI造假，有些须承担高额的民事赔偿，有些则可能被纳入刑事打击范畴。
同时，审核和监管也应有所作为。自2025年9月1日起施行的《人工智能生成合成内容标识办法》，提出对生成合成内容强制添加显式和隐式标识等规范要求，即用AI生成的文图及音视频，都必须强制亮明“数字身份证”，但现实中执行情况显然不尽如人意。而《互联网信息服务深度合成管理规定》更细化了标识要求，明确人脸替换等可能导致公众混淆的服务，必须在内容合理位置进行显著标识；其第十四条还规定，提供人脸、人声等生物识别信息编辑功能的，应当提示使用者依法告知被编辑的个人并取得其单独同意。
此外，社交媒体和电商直播间等平台，也绝不能以“技术中立”为借口，对出现的AI造假内容袖手旁观，而必须前置“守门人”的责任，利用技术手段主动识别、标注和限制未声明的AI生成内容。只有审核和监管部门切实担负起责任，严格执行相关法律法规及部门规章赢在策略，游走于灰色地带、侵犯他人权益的情形才会越来越少。
富灯网提示：文章来自网络，不代表本站观点。
