近日，网信办、工信部与公安部联合发布《互联网信息服务深度合成管理规定》，强调不得利用深度合成服务从事法律、行政法规禁止的活动。该规定自2023年1月10日起施行。

“深度合成”是近年来人工智能领域的新宠技术，已在传媒、影视、游戏、教育与电商等领域大发神威，成为“元宇宙”等互联网新生态的引擎。

也许公众最为熟知的“深度合成”技术要数“深度伪造”（deep fake）：任何人几乎都可以轻易摇身一变，享受与名人明星“共享人生”的虚拟现实。

此外，深度合成也在各行各业掀起了惊涛骇浪。“AI绘画”已经大有挑战职业插画师生计之虞，深度合成的绘画几可以假乱真、“巧夺人工”；深度合成的虚拟形象已经可以取代新闻主播进行工作，甚至成为明星级的虚拟偶像；在“元宇宙”里，深度合成技术更是支柱级的存在，助力搭建了无数虚拟场景与虚拟部件，已有能力创造一个物理世界之外的虚拟世界。

该规定针对的正是极易引发争议的AI图像生成、数字仿真、人脸生成/替换、语音合成、虚拟场景等技术。正是利用这些技术，“深度合成”用于“深度伪造”的犯罪案例早已出现。

比如几年前喧腾一时的“假靳东”事件，深度伪造的人造假靳东在侵犯“真靳东”肖像权与人格权的同时，又骗取了众多中年女性的钱财与感情；电信诈骗“从业者”也越来越青睐“深度伪造”这款神器。在“温州好友事件”里，陈先生就被AI打造的“好友”骗取了五万元；更不必说，如今不少幸进之徒盗用公民肖像，制造色情视频牟利乃至敲诈威胁，将这项技术“应用”到了令人发指的地步。

就“AI图像生成”而言，深度合成技术凭借大数据与大量练习，已然攻克了人类画师的艺术高峰。从现有的AI绘画作品而言，它们不但能够博采人类画师之长，而且还能规避诸多人类画师的缺点，实现画作“按需定制”的同时甚至还能青出于蓝。

除了让人类画师颇有“卢德运动时代工人”的恐惧外，“AI图像生成”还确实侵犯了不少人类画师的版权。“深度换脸”技术更是早就争议满满，虚假账号、网络诈骗、色情信息借助这项技术“如虎添翼”，侵害肖像权的同时还带来种种安全隐患。“长此作伪者，初伪而终失其伪”，以假面示人者久则以假面为真面，并且注定会在真实的物理世界带来法律纠纷。

“深度合成”技术还不由得让人进一步担心，历史学家尤瓦尔•赫拉利预言的“只剩两种人类”的前景（“控制算法的人”与“被算法控制的人”）会不会进一步以虚拟世界为基地，慢慢变成真实世界的现实。

“技术中立”这四个字并不能保证技术“不作恶”。从马斯克近来披露的美国科技巨头一系列操作而言，这种担忧绝非无的放矢。要想避免这种可怖的预言“不幸言中”，人们就要仔细考量人工智能技术发展全过程中的每个细节，对“深度合成”背后的算法加以监督，并积极研究相关的公共政策。算法并不天然成为平等抑或不平等的力量，关键的是谁来利用算法，以及如何利用算法。

不过公众也不必太过惊慌于“技术之恶”，担心以深度合成为代表的新型AI技术会带来所谓的“楚门的（美丽新）世界”。事实证明，媒介的每一次改变都重新塑造了人类对自我对世界的认知，类似“深度合成”的冲击在史上已经发生过不止一次。“媒介即人的延伸”，无论这种延伸是真实抑或虚幻、便利还是笨拙。新技术与新媒介或许会便利“作恶”，但未尝不可以助人行善。人为地禁止新技术与彻底放任新技术，无疑都是愚蠢的做法。

“算法没有价值观”符合数字技术的逻辑与事实，赋予算法以价值观的仍然是每一个活生生的人。从这个意义而言，该规定出炉的目的首先是保证深度合成“不作恶”，下一步才是慢慢地“导之向善”。既然“深度合成”技术是在虚拟世界发挥功用，那么也许可以借用尼采那句“真善每托始于伪善”（hypocrisy is sometimes the beginning of virtue），先让虚拟世界里的“fake”善良起来，保证顶着虚拟形象的真实人类不至作恶。

王兢