商汤科技联合中国信通院云计算与大数据研究所发布《大模型可信赖研究报告》

近日，中国人工智能产业发展联盟（AIIA）第十次全体会议暨2023年通用人工智能创新发展论坛在重庆召开。

会上，商汤科技联合中国信息通信研究院云计算与大数据研究所（中国信通院云大所）共同发布行业首个《大模型可信赖研究报告》，系统化分析阐释了人工智能大模型发展风险要素及治理建议，具体包括：

重点梳理大模型发展现状，点明大模型风险来源。

从大模型涉及的关键要素和可信维度出发，全面分析大模型面临的各项风险并进行整理归纳，形成大模型风险全景视图。

针对大模型在框架、数据、模型和生成内容等层面风险，系统梳理产业界保障大模型可信赖的关键举措。

指出当前大模型可信赖发展面临的问题及挑战，从多个维度提出参考建议。

该《报告》为人工智能大模型的可信发展提供了重要的方向参考。同时，也对大模型风险管理体系化建设提供了框架依据。

此外，《报告》还对如何实现大模型的可信赖目标给出一系列实践方案，从技术、管理、监管等维度对大模型的可信赖目标实现进行了分析研究。

商汤SenseTrust可信AI基础设施

入选《报告》可信赖实践案例

今年7月，为迎接大模型全新挑战，基于“日日新SenseNova”大模型体系，商汤科技快速推出可信AI基础设施SenseTrust，构建领先的解决方案，推动大模型开发训练和应用治理可靠、可信。

“SenseTrust” 商汤可信AI基础设施

数据层面，商汤SenseTrust能够提供从数据脱敏、数据去毒、数据合规审查及偏见评估等治理工具。

模型层面，商汤SenseTrust基于自研模型体检系列平台，能够针对传统“小模型”、生成式“大模型”，以及基础模型提供标准化和定制化的模型评测能力。

应用层面，借助商汤在数据保护、数字取证及伪造检测等技术领域的深厚积累，逐步开发了基于生成、鉴伪和溯源三位一体的综合解决方案。

目前，商汤SenseTrust相关技术已服务于“商汤秒画SenseMirage”文生图平台、“商汤如影SenseAvatar”数字人等多个产品，以及内容创作、大数据客户，以及银行安全系统。

商汤也将持续通过“商汤AI安全治理开放平台”等多种形式，为行业提供AI治理公益技术服务，推动建设安全可信的人工智能产业生态。