人工智能治理未来发展趋势分析

日前，人民智库与旷视AI治理研究院成立联合课题组，邀请中国人工智能产业发展联盟(AIIA)为课题支持，共同开展“2021 年度全球十大人工智能治理事件”遴选、评议，过程中得到了许多位行业权威专家和企业代表的大力支持。

通过此次梳理总结，力图从喧哗的舆论声音以及理性的专家点评中透析出 AI 治理未来发展趋势，研判 AI 在各领域、各场景应用的新空间、新作为，使其可控可靠可信服务于人类对科技改善生活、增进福祉的美好愿景。

接下来我们将把各位专家针对具体事件的精彩点评陆续发布出来，与所有 AI 从业者和关注负责任 AI 发展的朋友共勉。

事件五、强化算法综合治理，防范算法滥用风险，用户可选择关闭算法推荐

案例描述

2021 年 9 月底，九部委印发《关于加强互联网信息服务算法综合治理的指导意见》，要求防范算法滥用风险，维护网络空间传播秩序、市场秩序和社会秩序。2021 年 8 月 27 日，国家互联网信息办公室就《互联网信息服务算法推荐管理规定(征求意见稿)》向社会公开征求意见，提出应当向用户提供不针对其个人特征的选项，或向用户提供便捷的关闭算法推荐服务的选项等内容。

专家点评

张凌寒 北京科技大学法学院副教授、国家人工智能伦理与道德标准小组成员

2021 年堪称中国算法治理元年。2021 年伊始算法进入监管视野，监管部门展开系列算法执法活动。世界第一部系统性、全面性规制算法的法律文件《算法推荐管理规定》出台实施。《指导意见》宣布我国将在三年内建立起算法综合治理体系。欧盟和美国在数据保护立法领域走在了中国之前，算法规制方面中国则当仁不让地开世界先河。我国的算法治理体系以信息安全、市场竞争秩序和消费者权益保护为指导思想，《算法推荐管理规定》则确立了算法提供服务者的算法全生命流程监管责任，并构建了用户权益，尤其是未成年人、老年人和平台劳工等社会弱势群体的保护制度。2021 年的算法综合治理活动与相关立法，使得我国率先建立了世界上最为完备的囊括数据安全、个人信息保护和算法安全的互联网治理体系。

郭兵 浙江理工大学法政学院特聘副教授、杭州长三角大数据研究院副院长

当前，算法推荐等技术已经被广泛应用于电商平台、新闻平台、视听平台、社交平台等诸多应用场景中。算法推荐等技术为网络用户和网络平台带来便利和经济利益的同时，也引发了一系列新的法律问题。如果平衡好算法推荐等技术的创新发展与安全风险，成为了算法治理的一大难题。无论是已经出台的《关于加强互联网信息服务算法综合治理的指导意见》，还是正在制定中的《互联网信息服务算法推荐管理规定》都是应对算法滥用风险等难题的有益制度探索。

张军平 复旦大学计算机科学技术学院教授、博士生导师

由于存在人工智能算法上的偏见以及有意操纵大数据的采集，算法有可能会误导公民的舆论倾向，甚至打压竞争对手和侵害网民权益。因此，立法来杜绝这一事件，有利于公平化。

潘天群 南京大学哲学系教授、博导，南京大学科学技术与社会研究所所长

当前人们被各种网络信息所包裹，这些舆论、信息影响并控制人们的情绪、认知与行为。然而，这些舆论、信息等的产生、放大已经不是“自然”的，它们是被背后的人和组织通过技术手段所操纵，通过这种操纵，操纵人们的情绪、思维、行为，从而达到某种目的——无下限获利、打压竞争对手乃至实现某种政治目的。这种操纵已经成了公害。该《意见》的出台一定程度上能够抑制信息的操控，但是这可能远远不够。未来对网络信息的治理任重道远。

徐英瑾 复旦大学哲学学院教授、博导

近年来中国的互联网技术的发展的一个特点，即以免费提供应用软件下载服务为交换，大量获取网民的个人信息，而相关的互联网公司又以相关信息为基础，通过推送软件的推送服务获得更大的流量。这样的做法所带来的伦理上的负面效应，便是加强了传播学意义上的“信息茧房”效应，使得广大用户无法从互联网获得全面客观的信息。同时，这种做法也在客观上威胁到了广大用户的隐私安全。国家网信办的这一规定，使得广大用户能够自主选择不上传自身的特定数据，以此保护网民的隐私。从伦理角度看，国家对于互联网行业经营方式的这一干预是十分必要的。同时，这也为国内互联网公司对于基于大数据技术的人工智能开发路线敲响了警钟。

事件六、自动驾驶汽车 2021 年或将在英国合法化

案例描述

英国《卫报》报道，英国将推行计划，允许安装自动车道保持系统(Alks)技术的新车型在没有司机插手的情况下上路行驶。英国交通部长麦克莱恩(Rachel Maclean)表示，这是“英国安全使用自动驾驶车辆的一大进步，它使未来的出行更加绿色、便捷和可靠。”

专家点评

聂长海 南京大学计算机科学与技术系教授

这是人类迈出的一大步，必将推动这个领域的更大进步：除了道路等基础设施建设、自动驾驶汽车能力等自动驾驶相关的技术的进步，以此为示范和契机，将会带动更多的无人系统和自治系统的繁荣和发展。

宁阳 华北电力大学教授

自动驾驶汽车将在英国合法化，入选 2021 年全球十大人工智能治理事件，引起各方高度关注。这一方面标志着自动驾驶技术越来越走向成熟，它可能使未来出行变得更加绿色、便捷和可靠，并将促使道路交通和商业保险等相关法规的重新修订。但另一方面，也会带来人们对于自动驾驶安全性的担忧和丧失驾驶体验感的顾虑，但不管对其作出何种评价，这无疑是一项崭新的技术革命，自动驾驶市场前景广阔，自动驾驶领域必将成为科技巨头角逐的下一个行业蓝海。

王飞跃 中国科学院自动化研究所复杂系统管理与控制国家重点实验室主任、研究员

对于开放场景下的无人驾驶，欧美在法律制定、标准及政策等方面相比较中国更加灵活，而中国则因为对监管、人权和安全更加看重，目前仍处于「道路测试」或者「试运营」阶段。但在提升行业智能化水平等需求的推动下，在封闭或半封闭场景(如矿区、港口等)正在逐步落地无人驾驶，并已从技术上实现无安全员。

有人和无人驾驶的车辆共同上路面临着工程复杂性和社会复杂性所带来的巨大建模鸿沟。而通过平行驾驶，让人工系统对真实世界车辆和道路建模，构建软件定义的车辆及车路系统，同时建立控制计算中心，对真实数据及虚拟数据进行联合优化，虚实结合的方式保证无人驾驶的安全性，加速无人驾驶的商业化和规模化落地。

原文标题：事件五、六专家观点 | 2021年度全球十大人工智能治理事件

文章出处：【微信公众号：旷视MEGVII】欢迎添加关注!文章转载请注明出处。

审核编辑：汤梓红