WAIC 20204芯原微RISC-V论坛圆桌 AI的创新发展也要注意安全风险与治理

电子发烧友网报道(文/张迎辉)WAIC 2024世界人工智能大会的分论坛之一，由上海开放处理器产业创新中心、芯原微电子主办，中国RISC-V产业联盟协办的“智”由“芯”生 RISC-V和生成式AI论坛日前在上海世博中心成功举行。除了精彩的嘉宾演讲，活动的圆桌论坛同样干货满满，电子发烧友网现场带来及时的报道。


圆桌论坛同样还是由中国RISC-V产业联盟理事长、芯原创始人、董事长兼总裁 戴伟民主持的圆桌讨论环节。本次圆桌的主题是“生成式AI和RISC-V的融合与创新”，邀请到的嘉宾是RISC-V国际基金会理事长戴路，华东政法大学政治学研究院院长；人工智能与大数据指数研究院院长高奇琦，知合计算CEO 孟建熠，芯来智融半导体科技(上海)有限公司CEO 彭剑英，乌镇智库理事长张晓东。

戴伟民理事长在开场谈到圆桌对话议题的一个背景，全球人工智能的安全与治理的话题。他讲完把话筒递给了参加了WAIC高端安全治理话题的高奇琦院长。高院长接过话筒谈到了三个失。AI发展太快造成失业，这个很明显。其次是AIGC的应用会出现大量的信息，有可能会进一步导致失序。第三个问题是由于AGI的到来，有可能AI会产生自我意识，虽然很难定义，但也不能排除，同时也会出现恶意的份子，造成AI来制造病毒和超级武器，会可能造成失控。

所以高奇琦院长主张AI大模型的发展要分级。包括在硬件AGI的加速卡的分级，采取类比于核武器那种安全级别的方法，和未来建议一些类似于碳中和的政策。使用AI的同时也要交一笔税来解决AI带来的负面的问题。

知合计算CEO 孟建熠博士对此认为，在不同的领域，AI的智商能力可以不同。AI的“幻觉”能力在写文章的时候可以很强，但对于某些硬件的场景来说，AI的能力已经够用了。

乌镇智库理事长张晓东则表示，AI的算力资源在几年后会不会基本上集中在几个AI头部公司里面一样，也只能有少数几家的大模型生存着。还是我们有办法控制着，未来还是可能会有很多的小模型继续存在着，但是张晓东先生对此表示不乐观。

高奇琦院长谈到不同的国家有自己的主权大模型，不同的语言不同的文化，应该有自己的知识文化体系，全球统一的GPT大模型，会造成文化和知识的单一，这两种之间要平衡处理。

在谈到AI的芯片的话题时，今天的架构不能满足AI算力的需求。孟总认为，RISC-V的开源架构，也如同水一样，可以根据地型去演变成不同的芯片架构。可以包容不同的硬件架构和具体设计，都将其纳入到RISC-V的系统中来。创立两年的公司Etched AI，就能推出比英伟达H100快20倍的ASIC芯片SOHU，就说明了新架构会给产业特别的惊喜。


现场投标超过65%的投票认为，ASIC取代GPU，虽然这个结果并不一定代表现实的真实的结果，但从最近美国都开始查英伟达的技术垄断来看，AI算力苦英伟达已久，迫切希望有新的低成本的芯片技术来满足高算力的需求。


在AI环境中，RISC-V的优势更受期待，被50%的投票认可。当然，排第二的共存的选项也是非常理性的选择。省电，更有客制化的设计创新，以及满足未来不同国家不同需求的AI的需求，这就是RSSC-V的灵活性的优势。


芯来智融半导体科技(上海)有限公司CEO 彭剑英在圆桌讨论中发言表示，很多芯片公司在ASIC和GPGPU之间作考虑平衡。全球的趋势来说，懂C语言的开发者少了，大多开发是在C++,python等高级语言上编程，芯来智融的IP也有过了车规的标准，以新能源汽车来说，现在大多不再是硬件出来之后去做软件开发应用开发，而是软件驱动或软件定义硬件，这对整个芯片设计来说，产生了巨大的变化，这不仅是算力的增强，而可能是软件的体验更加的丰富。不同的芯片底层的逻辑是通用的，有AI的功用，安全和即时响应。以前的话，这些设计都比较割裂，未来是非常高度的集成，需求有统一的软件生态。RSIC-V的可升级化，便于定制以及底层统一，可以在硬件和软件上做到设计的闭环。

戴总预测，最后戴伟民总裁作了两个预测，一是到明年底用于终端的推理卡和云上训练卡会问世，不一定要比英伟达的好，但可能是够好或功耗低一些。另外就是用于车上的Chiplet芯片，标准和芯片会落地。（全文完）