商汤打造多维度闭环的人工智能伦理治理体系

“商汤已初步建立起人工智能伦理治理体系，力求实现从理论到实践、从组织到机制、从研发到产品的全生命周期的多维度闭环”。

在近日中国计算机学会计算法学分会举办的首届年会上，商汤科技副总裁、伦理与治理委员会主席张望，受邀在主论坛发表演讲，面向国内外百名专家学者和企业领导者，分享了“商汤科技AI伦理与治理前沿实践”的主题报告，从组织建设、伦理研究、治理实践、生态合作四方面重点介绍了商汤科技在人工智能伦理与治理方面的实践探索。

推进人工智能伦理治理工作体系建设

演讲中，张望首先介绍了商汤人工智能伦理治理的组织建设。

商汤在2020年1月正式成立“人工智能伦理与治理委员会”，是业界最先组建人工智能伦理与治理委员会，并将伦理治理工作作为公司战略级方向的科技创新企业之一。

委员会统筹推进人工智能伦理治理工作体系建设，日常职责包括制定伦理领域战略发展规划、产品伦理审核和风险把控、内部伦理通识培训与宣传，伦理治理生态体系建设、参与伦理标准讨论与制定、开展伦理联合研究等六个方面。

特别是在伦理联合研究方面，商汤早在2019年即开始持续推进人工智能伦理研究，并提出平衡发展的伦理观，倡导“可持续发展、以人为本、技术可控”的伦理原则。

同时，商汤与多所知名高校建立密切的伦理研究合作机制，积极开展合作课题，推动AI技术向负责任且可持续的方向发展。

坚持“平衡发展”的人工智能治理实践

在人工智能伦理治理实践中，张望阐述商汤科技坚持“平衡发展”的伦理观，把“可持续发展、以人为本、技术可控”的伦理原则落实到实际工作中，四年来不断推动伦理治理工作迭代升级。

商汤科技致力于将伦理原则嵌入到产品设计、开发、部署的全生命周期，今年在业界首次提出发展“负责任且可评估”的人工智能，并将其作为开展人工智能治理的愿景目标。

为实现这一目标，着力推进三方面的人工智能伦理治理实践：一是建立覆盖产品全生命周期的风险控制机制；二是开发一系列流程工具和技术平台；三是做好公司内部的科技伦理宣贯。

目前，商汤已建立起覆盖产品全生命周期的风险控制机制，针对人工智能领域面临的数据、算法及应用管理风险，初步形成了人工智能治理闭环。

例如，在应对算法风险上，商汤通过建立“算法定级备案管理与安全评估机制”，成立“算法安全管理工作组”，从技术局限、算法设计、软件缺陷、数据安全、框架安全等多个维度对算法风险进行安全评估。

商汤AI训练平台（AutoLink）荣获人工智能产业发展联盟（AIIA）“可信AI平台应用标杆案例”奖，伦理治理体系、算法评测工具，获“可信AI实践优秀案例”奖

在流程工具和技术平台方面，商汤开发一系列覆盖数据治理、算法测评、模型体检、伦理审查的流程工具和技术平台。

例如，在应对数据风险上，开发统一的数据治理平台以及规范的数据采集流程。在数据处理过程中，通过开发、使用自动化标注工具，减少人工接触数据量，在模型训练的源头降低引入人类偏见的风险，并且数据标注平台具备访问控制和身份验证功能，仅能由认证的数据标注人员进行访问。

此外，商汤科技还建立了伦理宣贯的定期宣传和培训机制，每周面向全体员工发送人工智能治理相关重要动态，定期组织研讨会、邀请内外部专家开展伦理治理培训。同时，强调“分类宣贯”，针对核心产品人员，风险联络人，管理层，公司全员都配有针对性的宣传内容及方案，全方位让伦理贴近员工工作视野。

最后，在科技伦理治理生态合作方面，张望也系统地介绍了“商汤成果”。

一方面，商汤积极与高校、科研院所、政府机构开展常态化交流，将一线人工智能企业伦理工作的机制建设、研究成果与学研层分享，提供各种有价值的一线研究案例。

另一方面，商汤也积极参与相关国内外组织活动，并参与建立相关组织机构。例如，今年与上海交通大学、新加坡AIII人工智能国际研究院等国内外机构联合发起“亚洲科技促进可持续发展目标联盟”

（Tech4SDG），旨在广泛开展科技伦理研究和合作，推动科技助力可持续发展目标的实现。

经过近四年探索，商汤科技伦理与治理实践已经实现多维度闭环，并获得社会认可。商汤发布的首份《AI可持续发展白皮书》被联合国《人工智能战略资源指南》收录；商汤人工智能伦理治理体系和相关技术工具，多次获得第三方机构积极评价，并先后入选《哈佛商业评论》及中国人工智能产业发展联盟“可信AI”优秀案例。