电子发烧友网 > 人工智能 > 正文

阿里联合清华推动产学研合作 推动AI与安全发展相辅相成

2019年12月10日 15:56 次阅读

小学生用照片攻破丰巢人脸识别系统、自动驾驶汽车失控撞人、AI换脸让你一秒成为黄片主角……随着人工智能技术的快速发展、普及和应用,随之而来的安全、伦理等问题也引发普遍担忧。

“人工智能安全作为人工智能研究和产业化应用的重要组成部分,应推动政府、学术界和产业界进行更加深度和广泛的合作,对人工智能的安全进行系统布局,”12月8日,在清华大学举办的AI与安全研讨会上,清华大学副校长、中科院院士薛其坤表示:“这一领域是快速发展的,要在关键时刻把握正确的方向,抓住关键的技术,“相信通过这次AI与安全会议,能取得新的进展和收获。“

据悉,研讨会由清华大学、阿里安全、北京智源人工智能研究院联合举办,邀请高校、互联网公司、政府部门等多方科研人员参与,旨在提升各界对于AI与安全的重视程度,合作产出更多安全AI成果。

“在2019年天猫双11当天,我们的安全AI大脑完成风险防控388亿次,99%的黄牛被系统准确拦截,”阿里巴巴集团安全技术总经理钱磊指出,阿里具备当前产业界最复杂的商业场景,清华拥有极强的技术和研发能力,未来双方通过人才、项目等方面加强产学研合作,将是一个非常好的探索和命题。

清华大学计算机系党委书记刘奕群表示,阿里与清华一直合作密切,这次会议将促进各方更加深入的合作,推动我国人工智能领域的安全管理体系的建立,也将在国际人工智能的安全领域更好发出中国的声音。

发展可信、可解释的安全AI成共识

人工智能发展的快速和重要性已经不言而喻。2019年,美国、欧洲、日本等各国均出台各类促进人工智能发展的政策和国家战略;公开数据显示,2019年,中国人工智能相关公司总数超过2500家,到2020年,中国人工智能产业规模将接近500亿元。

“各类场景中,安防、医疗应用较为广泛,最近上海地铁一个摄像头抓到了潜逃20年的杀人犯,就是典型应用。”国家工业信息安全发展中心副主任李新社在报告中指出,但人工智能当前面临数据、算法、网络、信息、伦理等多方面的安全问题,“建立可信的人工智能将成为发展的重要考量。”

早在1987年就带领清华成立全国第一个以人工智能命名的国家重点实验室,见证、参与中国第一代、第二代人工智能技术发展,清华大学人工智能研究院院长、中科院院士张钹在主旨报告中强调,必须发展安全、可靠、可信的第三代人工智能,这样才有可能使人工智能技术得到安全广泛的应用。而发展技术的关键在于基础研究,必须在基础研究上进行重点投入和突破。

阿里联合清华推动产学研合作 推动AI与安全发展相辅相成

(清华大学人工智能研究院院长、中科院院士张钹在会议中做主旨报告)

“一张鸟的照片,加一点噪声,就能让AI识别为一只老虎,”张钹院士表示,人工智能的安全问题源于深度学习技术的底层缺陷,采用非常简单的神经网络系统,用概率统计的方法来提取出低层次的特征,而正确的方法应该是像人类一样去提取高层次的语义特征,“我们正在往这个方向努力,但现实情况是,没有永远安全的系统,也不要指望有永远安全的人工智能系统,只有加强基础研究,才有前瞻性的判断,及时采取措施。”

中国科学院院士、大数据算法与分析技术国家工程实验室主任徐宗本在主旨报告中也重点强调:人工智能的未来发展,特别是在医疗等关键领域的应用技术,需要充分利用数学等工具加强基础研究,突破精确性瓶颈,打破数据孤岛,实现小样本和可解释的深度学习。

AI与安全发展相辅相成

针对AI与安全的众多技术领域问题,中国科学技术大学网络空间安全学院副院长张卫明、上海交通大学网络空间安全技术研究院副院长伍军、西安交通大学网络空间安全副院长沈超、西交利物浦大学电气与电子工程系教授黄开竹、清华大学副教授张超等人在会上做了精彩的发言,并从各个角度提供建议,比如防止AI的滥用和误用、加强相关标准制定、加强人才培养、进一步深化人工智能与各个实体产业的融合等。

“当业界还在担忧AI安全性的问题,我们已经在阿里的安全场景中全面使用AI技术,安全本身的攻防对抗属性下,AI也在进化,”钱磊表示,阿里安全通过在打击假货、营商环境治理、网络安全、数据安全、新零售安全等领域的AI应用,希望打造出更安全、更可信、可解释的安全AI。

阿里联合清华推动产学研合作 推动AI与安全发展相辅相成

(阿里巴巴集团安全技术总经理钱磊在会议中分享阿里用AI解决安全问题的实践)

钱磊在现场公布了一组安全AI的防控数据:在打击假货方面,96%的疑似侵权链接一上线就被封杀、96%的知识产权投诉在24小时内被处理;在保障商家经营方面,每天应对千万级风险订单识别和判断,累计拦截上百万恶评攻击。

徐宗本院士点评称,AI打假提供了更多机器学习、大数据分析,对真假甄别意义重大,AI打假是数字技术、人工智能的应用场景,“阿里在这方面做得不错。”

冰冻三尺非一日之寒。阿里巴巴集团安全部成立于2009年,最早期为专家运营阶段,即通过离线数据分析研判,修复产品漏洞,“一直到2013年,基本都是这种人肉模式,但随着阿里业务体系不断扩大,如果每个业务都要两三个专家去分析,基本是不可能的,后面我们就进入数据智能时代。”钱磊表示,这一时期的特点是通过大量的信息,建立完善的安全体系、指标体系,通过人去解读指标变化,再变成规则落地、线上防控,“人依然是主导。”

“安全风控本质是一个识别、判定和处置的过程,我们尝试通过算法来提效,并在一些流量业务中使用,效果不错,从2018年开始,全面转向安全AI时代,”钱磊认为,安全能力的高低强弱和在场景中能使用多少数据,使用数据的水平,是正相关的,而AI技术在安全领域的大面积应用,将大大提升安全业务使用数据的水平,“安全的对抗性,又为AI技术的发展提供了丰富的多变的场景,推动AI技术的快速发展,两者相辅相成。”

2019年6月,阿里联合清华大学发起安全AI挑战者计划,分别进行了人脸识别、图像分类等场景的对抗样本测试,共计2000多名队伍报名,此次会议中也对前五名获奖队伍进行了现场颁奖。

“我们希望与更多方合作,在AI的可解释性、安全性上,在更多应用场景中,产出更多的成果,来推动人工智能和安全产业的发展。”钱磊表示。

下载发烧友APP

打造属于您的人脉电子圈

关注电子发烧友微信

有趣有料的资讯及技术干货

关注发烧友课堂

锁定最新课程活动及技术直播

电子发烧友观察

一线报道 · 深度观察 · 最新资讯
收藏 人收藏
分享:

评论

相关推荐

四轴机器人编程与应用

主题简介:本次直播主要讲解四轴机器人控制器基本原理及组成。四轴机器人的核心技术内嵌人工智能算法的工业级运动控制技术和伺服
发烧友学院发表于 2018-10-30 00:00 11918次阅读
四轴机器人编程与应用

人工智能技术不断积累 在全球人工智能专利布局中的...

随着人工智能应用场景逐渐落地,中国人工智能相关产业开始进入高速发展阶段。作为引领新一轮科技革命和产业....
发表于 2019-12-11 08:42 0次阅读
人工智能技术不断积累 在全球人工智能专利布局中的...

湖北加快布局新一代人工智能 加速推动高质量发展

12月8日,湖北省新一代人工智能战略研讨会在武汉举行。依托小米公司,我省将加快布局新一代人工智能技术....
发表于 2019-12-10 15:39 48次阅读
湖北加快布局新一代人工智能 加速推动高质量发展

人工智能起步较晚 想取得突破性发展还需努力

人工智能是新一轮科技革命和产业变革的重要驱动力量,正在对经济发展、社会进步、国际政治经济格局等方面产....
发表于 2019-12-10 15:38 48次阅读
人工智能起步较晚 想取得突破性发展还需努力

网络安全与人工智能相遇的结果如何

随着万物互联时代的来临,互联网以“开放”“包容”的姿态接纳各类型设备的接入,在带来更加便捷生活的同时....
发表于 2019-12-10 15:05 23次阅读
网络安全与人工智能相遇的结果如何

Redmi K30新技术,有望搭载120Hz显示...

12月9日消息,Redmi红米手机官方为Redmi K30预热,称其还有一个厉害的新技术。
发表于 2019-12-10 15:04 150次阅读
Redmi K30新技术,有望搭载120Hz显示...

深度强化学习你知道是什么吗

强化学习非常适合实现自主决策,相比之下监督学习与无监督学习技术则无法独立完成此项工作。
发表于 2019-12-10 14:34 36次阅读
深度强化学习你知道是什么吗

OPPO与IHS Markit发布白皮书,5G、...

5G时代即将破晓,它将迎来怎样的新机遇,已令世界摩拳擦掌。报告认为,5G时代的更新机遇将在AI、云、....
发表于 2019-12-10 14:34 179次阅读
OPPO与IHS Markit发布白皮书,5G、...

Nvidia是否真正面临竞争?

在PC市场饱和之后,下一个崛起的市场是移动市场,而随着智能手机的发展,移动市场对于GPU也有很高的需....
发表于 2019-12-10 14:30 117次阅读
Nvidia是否真正面临竞争?

人工智能和虚拟现实如何加强业务能力

人工智能和虚拟现实技术都提供了人们在数字营销领域从未见过的潜力。
发表于 2019-12-10 14:30 39次阅读
人工智能和虚拟现实如何加强业务能力

物联网还会有多少变数

物联网上的大部分交互发生在机器人之间,通常很少有人监督。
发表于 2019-12-10 14:26 41次阅读
物联网还会有多少变数

进入芯片设计的未知领域

光刻工艺的一大挑战是,错误可能会渗透到制造过程中,需要大量的测试来验证质量,并迫使晶圆厂扔掉性能不佳....
发表于 2019-12-10 14:14 134次阅读
进入芯片设计的未知领域

使用AI技术有哪一些障碍

人工智能就像个不断移动的标靶,而企业要做的就是努力“正中靶心”。
发表于 2019-12-10 14:12 23次阅读
使用AI技术有哪一些障碍

怎样来守护人工智能时代的隐私

人工智能、物联网、云计算等技术的发展,摄像头、传感器、可穿戴设备等技术的广泛应用,移动场景下的万物互....
发表于 2019-12-10 14:09 51次阅读
怎样来守护人工智能时代的隐私

怎样让人工智能解释自己

为了开发公平和负责任的人工智能,技术人员需要社会学家,心理学家,人类学家和其他专家的帮助,他们能够洞....
发表于 2019-12-10 14:05 32次阅读
怎样让人工智能解释自己

概率计算对于人工智能有影响吗

英特尔等许多公司押注于概率计算,致力于使未来的系统能够理解和计算自然数据中固有的不确定性,制造出能够....
发表于 2019-12-10 14:01 22次阅读
概率计算对于人工智能有影响吗

大数据和人工智能你了解多少

人工智能和大数据是人们耳熟能详的流行术语,但也可能会有一些混淆。
发表于 2019-12-10 13:54 61次阅读
大数据和人工智能你了解多少

AI+医疗的触角伸向基层 其社会价值逐渐显现出来

12月8日,《麻省理工科技评论》(MIT Technology Review)发布报告《AI医疗:亚....
发表于 2019-12-10 13:53 50次阅读
AI+医疗的触角伸向基层 其社会价值逐渐显现出来

英伟达备战数据中心

现在每个人都热切渴望。这是因为新技术加速了新市场的发展。过去10年,英伟达的新一代特斯拉GPU加速器....
发表于 2019-12-10 13:52 207次阅读
英伟达备战数据中心

智能云存储技术将成平安城市最有力的武器

在摄像头满天飞的时代,视频大数据、安防大数据已不再受困于“数量”不够,而是“乱”。
发表于 2019-12-10 13:52 23次阅读
智能云存储技术将成平安城市最有力的武器

企业人工智能平台建设的最佳实践的方式是什么

人工智能已经成为企业实现许多目标的迫切需求的功能之一,从开发新产品和不同的产品,到提高现有产品和服务....
发表于 2019-12-10 13:50 21次阅读
企业人工智能平台建设的最佳实践的方式是什么

AI在医疗领域智能帮我们诊断吗

AI可以采用深度学习技术,来重建高精度的人体运动三维模型,从而准确获取关节点、关节角等信息,进而帮助....
发表于 2019-12-10 13:44 20次阅读
AI在医疗领域智能帮我们诊断吗

人工智能技术可以让人永葆青春?

随着医疗保健行业与数据采集技术的发展,AI技术与生物医疗产业的结合呈现出巨大潜力,不仅在制药领域中的....
发表于 2019-12-10 13:40 46次阅读
人工智能技术可以让人永葆青春?

智能照明在人工智能时代会怎样变

智能照明系统将具备自我学习的能力,能够根据大数据的分析和学习提升,更智能地“揣测”出用户的需求偏好,....
发表于 2019-12-10 13:33 28次阅读
智能照明在人工智能时代会怎样变

AI提供的落子胜率可以直接比较大小吗

胜率只是AI衡量落子点好坏的指标之一,而人类棋手能否从AI推荐的着法中取得收益,直接取决于对其后续变....
发表于 2019-12-10 11:55 21次阅读
AI提供的落子胜率可以直接比较大小吗

5G+云计算+AI三者融合创新在数字化转型过程中...

12月9日,中国信息通信研究院发布了《“5G+云+AI”:数字经济新时代的引擎》的白皮书(以下简称“....
发表于 2019-12-10 11:48 66次阅读
5G+云计算+AI三者融合创新在数字化转型过程中...

AI辅助人的视觉需要跨过多少坎

人造视网膜技术具有很强的综合性和复杂性,需要机器视觉、IC设计、半导体工艺、纳米技术、神经科学、生物....
发表于 2019-12-10 11:47 29次阅读
AI辅助人的视觉需要跨过多少坎

AI芯片行业未来的发展空间有多大

智能手机市场逐渐饱和的情况下,大数据、云计算、人工智能、物联网成为科技发展的新风口。
发表于 2019-12-10 11:43 32次阅读
AI芯片行业未来的发展空间有多大

人工智能与实体经济深度融合 需要持续培养复合型人...

智能安保、语音识别、智能客服……几年间,被视为新一轮产业变革核心驱动力的人工智能技术边界不断扩大,已....
发表于 2019-12-10 11:40 111次阅读
人工智能与实体经济深度融合 需要持续培养复合型人...

英特尔斥巨资买AI然后卖奔腾 却难以重回辉煌

出于众所周知的原因,英特尔前不久被传出准备以10-20亿美元收购以色列AI创业公司Habana La....
发表于 2019-12-10 11:39 77次阅读
英特尔斥巨资买AI然后卖奔腾 却难以重回辉煌

人工智能的安全API如何使用

企业的数字转型通常是基于API(应用程序编程接口)之上的,API可驱动新的运营模型,提供对业务逻辑应....
发表于 2019-12-10 11:39 18次阅读
人工智能的安全API如何使用

人工智能怎样去影响交通运输行业

人工智能在很长的一段时间里已经超越了其在研究中心的理论存在,在人们日常生活中已经无所不在。
发表于 2019-12-10 11:35 43次阅读
人工智能怎样去影响交通运输行业

AI卓越中心怎样进行转型

AI卓越中心应该有集中的功能报告(强硬的),但它也必须在产生最大价值的地方(业务内部)嵌入操作(柔性....
发表于 2019-12-10 11:30 16次阅读
AI卓越中心怎样进行转型

初创公司Cerebras展示世界上最快的人工智能...

人工智能芯片初创公司Cerebras Systems宣称,由于拥有40万个计算内核的大型晶圆级引擎处....
发表于 2019-12-10 11:23 115次阅读
初创公司Cerebras展示世界上最快的人工智能...

人工智能在零售旺季如何实现其应用价值

如今,零售体验比以往任何时候都更加复杂,而且结账线长,库存低以及商品价格过高通常会促使消费者远离购买....
发表于 2019-12-10 11:20 127次阅读
人工智能在零售旺季如何实现其应用价值

SaaS 企业怎样做才会有未来

中国的 SaaS 企业之间出现今天的纷乱跨界竞争局面,只是一个新领域初期的暂时现象。那些不理性的竞争....
发表于 2019-12-10 10:54 13次阅读
SaaS 企业怎样做才会有未来

AI的发展有没有什么迹象

AI(人工智能)发展得越来越快、也越来越多,对我们的影响也越来越深。
发表于 2019-12-10 10:51 34次阅读
AI的发展有没有什么迹象

AI赋能中国医疗 落地的同时伴随着新的商机

根据世界卫生组织的估计,2030年亚洲地区需要超过1200万名新的医疗保健专业人员,比当前增长70%....
发表于 2019-12-10 10:47 54次阅读
AI赋能中国医疗 落地的同时伴随着新的商机

中国已超过美国成为人工智能领域专利申请量最高的国...

人工智能在"大智慧"时代扮演着越来越重要的角色,其技术广泛渗透到交通、医疗、教育、物流、养老、文化、....
发表于 2019-12-10 10:45 126次阅读
中国已超过美国成为人工智能领域专利申请量最高的国...

英特尔受到了人工智能什么影响

神经网络将被用于各种应用的前景已经变得很清晰,从产品推荐算法到客服机器人的自然语言处理。
发表于 2019-12-10 10:43 120次阅读
英特尔受到了人工智能什么影响

云+AI怎样坐定格局

云+AI已经成为行业默认的规则,搭载AI已经成为云计算未来的标配。
发表于 2019-12-10 10:35 204次阅读
云+AI怎样坐定格局

Facebook AI在纸牌Hanabi项目取得...

近日,Facebook AI部门宣布,其AI程序在日式纸牌项目“Hanabi”(疑似日本花札)中取得....
发表于 2019-12-10 10:06 98次阅读
Facebook AI在纸牌Hanabi项目取得...

英伟达人工智能转型之路会怎么样?

最近,端测的AI推理芯片市场一片火热,英伟达和英特尔正面对垒,初创企业如履寒冰。而云上AI训练市场,....
发表于 2019-12-10 09:48 165次阅读
英伟达人工智能转型之路会怎么样?

人工智能的发展对天体物理学会有什么影响

一位以钝器评估而闻名的理论物理学家说,物理学家避免使用“人工智能”一词:不仅因为它有点夸大其词,而且....
发表于 2019-12-10 09:11 165次阅读
人工智能的发展对天体物理学会有什么影响

中国在区块链和AI领域的位置怎样

从金融科技的角度来说,区块链技术是其中一个方面。
发表于 2019-12-10 09:00 18次阅读
中国在区块链和AI领域的位置怎样

被字节跳动超越的百度,计划藉由三大战略提振业绩

百度曾经被认为是中国科技产业发展的保守派,因为它拥有中国最大的搜索引擎以及广泛的门户网站和应用程序。....
发表于 2019-12-09 19:39 1210次阅读
被字节跳动超越的百度,计划藉由三大战略提振业绩

一文读懂WMS的进阶史

双十一高效配送的背后离不开各类物流系统的支持,WMS系统作为仓配中心的“智慧大脑”在其中发挥着重要作用。让我...
发表于 2019-12-06 11:44 128次阅读
一文读懂WMS的进阶史

【转载】如何从零入门人工智能(AI)具体学习步骤和方法

手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现+开发板)详情链接: 上次我们讲到人工智能的...
发表于 2019-11-28 16:20 170次阅读
【转载】如何从零入门人工智能(AI)具体学习步骤和方法

史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

近几年来,人工智能(AI)概念很火热,几乎人人都在学习人工智能,AI市场人才的抢夺也非常的激烈。根据百科的解释...
发表于 2019-11-27 12:10 355次阅读
史上最全AI人工智能入门+进阶学习视频全集(200G)【免费领取】

高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

高焕堂,台湾VR/AR产业联盟主席、台湾铭传大学《AI潮流下的创新设计思维》课程讲师、台湾科技大学VR技术培训...
发表于 2019-11-26 13:52 8376次阅读
高焕堂:VR/AR欺骗大脑,AI赋能大脑,两者结合创意无限

传感器和人工智能的关系

  谁来阐述一下传感器和人工智能的关系? 手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现+...
发表于 2019-11-25 15:51 237次阅读
传感器和人工智能的关系

5G与人工智能的关系

  谁来阐述一下5G与人工智能的关系? 手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片FPGA实现...
发表于 2019-11-22 17:08 274次阅读
5G与人工智能的关系

大彩智能屏在美容行业的应用.pdf

大彩智能屏在美容行业的应用:随着用户对显示效果的要求越来越高,传统的数码管已经不能满足客户的要求,智能彩屏显示...
发表于 2019-11-22 16:07 199次阅读
大彩智能屏在美容行业的应用.pdf

【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

       人工智能已成为各行各业离不开的主题,电子发烧友论坛和瑞芯微电子联合推出的RK1808试用...
发表于 2019-10-25 13:05 282次阅读
【瑞芯微RK1808计算棒试用体验】搭建Linux(Ubuntu18.04)环境试用RK1808

基于ARM9内核的智能灭火机器人怎么设计?

人工智能也称机器智能,是一门研究人类智能机理和如何用计算机模拟人类智能活动的学科。经过50多年的发展,人工智能已...
发表于 2019-10-21 06:39 277次阅读
基于ARM9内核的智能灭火机器人怎么设计?

AI的核心是什么?

AI概念笼统,范围广大,到底什么才是AI的核心? 手把手教你设计人工智能芯片及系统(全阶设计教程+AI芯片...
发表于 2019-10-18 06:39 233次阅读
AI的核心是什么?