商汤科技发布元宇宙伦理白皮书

近日，由中国计算机学会主办的我国计算领域最大、最具影响力的学术、技术、教育和产业盛会CNCC 2022中国计算机大会以线上会议形式隆重举办。

商汤科技受邀出席大会“如何构建数字世界的伦理秩序”分论坛，并发布《“以实为本”的数字世界发展观——元宇宙可持续发展报告》。

报告指出，元宇宙的可持续发展正面临多种伦理挑战。商汤致力于发展“负责任且可评估”的人工智能，结合数字经济可持续发展的内在需求，提出“以实为本”的数字世界发展观，为推动数字世界的健康可持续发展贡献商汤的思考与实践。

“以虚强实”，“以实为本”的数字世界发展观

数字经济作为继农业经济和工业经济之后一种全新经济形态，如今已从数字产业化进入产业数字化的“下半场”。

随着人工智能、5G、XR等新一代数字技术加速向传统行业渗透，“元宇宙”概念由此而生，它将实现“人、物、场”在数字世界和现实世界的实时交互、融合共生，为产业数字化带来新的想象空间。

从“复活”古生物，到线上问诊的AI数字医生，再到方便快捷的AR购物，元宇宙为物质层面的产业升级及精神层面的文艺复兴提供了新的发展机遇，助推现实世界可持续发展，“以虚强实”成为基本共识。

伴随技术不断迭代，元宇宙的发展将经历从数字孪生到数字原生，再到数实共生的演进过程，“人、物、场”也将在不同发展阶段产生出不同的创新应用模式。但与此同时，元宇宙作为多种新兴数字技术的交汇点，数字世界和现实世界的融合体，与“人、物、场”相关的信息和应用被误用、滥用的问题和伦理风险，也会更加突出而复杂，给不同阶段元宇宙的发展带来诸多挑战。

“数字孪生”阶段主要实现对于现实世界的动态复刻。

对于“人”而言，人们在通过XR设备进入元宇宙过程中所产生的大量敏感个人身份数据，存在被窃取冒用的风险。

对于“物”来说，文化产品、历史文物在转为数字资产后，也会为产权信息窃取等不法行为带来可乘之机;

针对城市、工厂、园区、自然环境等“场”的可视化呈现，意味着可能存在地理空间和经济活动等敏感信息的暴露。

在“数字原生”阶段，元宇宙将在AIGC技术的支持下逐渐超越真实场景，拓展时空体验。AIGC将激发虚拟形象在各行各业广泛应用，随之也会出现“数字替身行为不轨”、“AI艺术剽窃”等问题，成为“人”的一大挑战;而在“物”方面，NFT数字藏品促进了元宇宙的活跃度，却也引发投机炒作等问题;“场”方面，人们在根据自身喜好构建不同虚拟场景的同时，则容易对虚拟场景产生精神依赖，形成“信息茧房”。

到“数实共生”阶段，数实交互将带来更具真实感、临场感和沉浸感的交互体验。相应地，数实交互也意味着“人”受到侵害时的感知会愈发真实;针对“物”的高实时交互技术，在生产流程中的应用也存在被篡改、盗取的风险;以数字孪生城市为代表的“场”的数实交互，同样有着被入侵干扰而带来隐私安全、经济安全等风险。

元宇宙发展所存在的这些伦理风险，将会对“以虚强实”发展路径的可持续性造成影响。

对此，商汤认为，数字世界的可持续发展应当遵循“以实为本”的发展观，以“满足现实需求”为根本定位、以“遵循现实规则”为基本原则、以“符合现实利益”为最终目标。

其中，“满足现实需求”是指数字世界的发展应有利于回应现实世界的发展问题和诉求;

“遵循现实规则”是指数字世界的规范发展应以现实世界的规则体系为基础;

“符合现实利益”是指数字世界的发展应服务于现实世界的发展利益。

做好元宇宙的伦理治理，可以为数字技术在经济社会重要行业领域中的规模化应用提供有效保障。

“以实为本”，实现数字世界发展三大“现实”目标

作为人工智能治理的实践者，商汤已将“以实为本”的数字世界发展观，贯彻到了自身的实践发展中，通过技术创新和实体产业结合，实现“满足现实需求”、“遵循现实规则”、“符合现实利益”的目标，推动数字经济与实体经济的融合发展。

围绕“满足现实需求”目标，商汤致力于通过多套技术工具，在保证数据隐私安全前提下，更好地实现数据要素的流通，满足生产、消费等发展需求。商汤开发的敏感信息脱敏技术工具，不仅可对生物特征数据、自动驾驶等各类业务的敏感数据进行脱敏，还备有敏感信息检测、可还原脱敏等功能。商汤还建立了产品研发全流程的个人信息保护评估审核机制，确保产品和服务达到严格的隐私安全保护水平。

为促进数据要素的流通利用，商汤创新提出了数据沙箱，可实现数据不搬家，数据可用不可见，在保证数据隐私安全的前期下实现数据价值转化。面向系统安全需求，商汤自研的模型体检工具能够面向活体识别、图像分类、目标检测等商业化应用开展对抗安全检测、鲁棒安全检测、后门安全检测，不仅能够支持多种任务类型，还能够开箱即用，提供一键式测评反馈，目前已应用于商汤的大量商业化模型的检测。

围绕“遵循现实规则”目标，商汤自研了鲁棒数字水印技术，基于深度学习对数字内容实施加密数字水印，实现版权保护、内容溯源，促进元宇宙数字内容的健康有序发展。商汤还将自研一系列技术工具赋能创作版权审查、创作风格审查、特定信息内容审查等不同类型的数字内容审查需求，促进数字内容创作实现合法合规，同时还建立了覆盖产品全生命周期的伦理审查体系，确保技术创新和产品应用的每个环节都合乎伦理。

围绕“符合现实利益”目标，商汤已开发并落地多种AI应用，让技术发展符合包括人类、经济、社会、环境的可持续发展利益。诸如疫情期间的AI基础教育“停课不停学”解决方案，AI+AR电网运维巡检等，都是数字技术服务人类现实利益的典型范例。

元宇宙作为AI赋能实体经济的重要创新应用领域，势必将成为技术伦理治理的重要阵地。近年来，商汤积极探索人工智能伦理治理工作体系建设，并全面纳入到自身的产品研发体系中，形成从理论到实践的伦理治理闭环。

此次《元宇宙可持续发展报告》的发布，不仅是商汤首份聚焦商业应用场景的伦理治理研究报告，也是商汤AI伦理治理工作向商业场景延伸的新起点。

审核编辑：汤梓红