芯原AI专题技术研讨会圆桌：大模型如何赋能终端设备？

日前上海举行的2024年“芯原AI专题技术研讨会”上，一场AI既前沿又热门的精彩的圆桌论坛，让AI业者广泛关注。由芯原创始人、董事长兼总裁戴伟民再次亲自主持圆桌，特别邀请到南京蓝洋智能科技有限公司软件高级副总裁池元武，芯原执行副总裁、IP 事业部总经理戴伟进，电子科技大学教授顾舒航，小米产业投资部总经理、管理合伙人孙昌旭，乌镇智库理事长张晓东、等重要AI产业的技术专家与投资人、学术专家等嘉宾一起探讨“大模型如何赋能终端设备”主题。圆桌期间现场观众与媒体也参与互动，“电子发烧友网”作为行业技术媒体应邀参与并作报道。

图1：2024芯原芯原AI专题技术研讨会圆桌论坛戴伟民总裁开场

戴伟民总裁圆桌开场讲道，ChatGPT出来以后，我们说“通用人工智能”、现在是强智能。我们怕的是“超智能”，有一天超过人类。实际上这个事情的到来，从最近的一些消息、比我原来想像的要快，可能在十年之内。很多人在担心这个事情，但是我们不拥抱这个“强智能”就是弱智能的群体。大家知道前三次工业革命我们起步晚、慢慢追上去，这一次第四次工业革命、我们不准的话，可以说是永远追不上。

他的这种担忧，确实是2024年人工智能国内业者的共情。中国国内的人工智能产业一方面受到了技术上外面的压制，另一方面我们又坚决要全面跟上。从现在的AP PC，AI PAD再到AIGC大模型去改变普惠教育，推动个性化教学，到AI手机的各种先进的功能，再到像Rabbit R1、AI戒指，AI眼镜，AI家电等基于新OS的各种新智能终端产品的出现，以及AI汽车和终级大boss级产品人形智能机器人的出现。新的基于大模型的智能终端产品不断涌现并受到产业投资的极大的关注。

投票1：AI手机的最重要的三个智能的功能

小米产业投资部总经理、管理合伙人孙昌旭在发言中介绍，小米汽车SU7 除了在智驾方面的智能化已经应用在车里，还在智能底盘上作新的开发。新的智能驾驶，要把车上的各个传感器融合进去，包括12个图像传感器，毫米波雷达和激光雷达，车的底盘调校、自动转身和悬架等。“大家说小米SU 7好开，是底盘调校做得好。现在没有应用到大模型，还是通过工程技术人员的工作堆起来的。未来大模型与底盘调架结合，可以更快地调得更好开。” 孙昌旭女士说。


除AI PC和AI手机外，最先会应用到AI大模型的终端设备的投票，结果显示汽车是排第一，其次是服务机器人。

在讨论AI的硬件加速器时，目前专门为生成式AI算法设计的硬件加速器有TPU、NPU、LPU、IPU等。那么，接下来哪种硬件加速器可以更好地在边缘端提升生成式AI模型的推理和微调效率？现场的投票结果如下：

NPU和GPU排在前两位。当然，LPU、IPU和TPU可能是因为技术还不能被现场参与者体会和理解。但在不同的场景下，智能终端会往不同的处理运算技术方向发展。神顶科技 董事长兼CEO 袁帝文认为大量的更贴近个人使用和家庭使用的机器人，又要隐私、又希望低成本。传感器用便宜的是一个手段，除此之外大模型所有的数据都往上面去跑其实也是一个问题。