最近的当红炸子鸡DeepSeek,无论是行业内还是行业外都在研究。毕竟现在各行各业都想利用AI为自己服务,图像处理领域也不例外。于是便有很多人向我们咨询RK3588+DeepSeek有没有“搞头”?
首先回答一下:仅靠RK3588自身是不现实的!但是可以外挂高算力模块。
DeepSeek的作用主要是作为一个前端决策大脑,在图像处理时可以帮我们对图像处理板处理的数据进行智能化决策,是实现全自动化作业的步骤之一。
要达到这个目的,需要的数据不可估量,因此越是大参数版本的DeepSeek模型越好,像完整版的DeepSeek模型671B的参数量级,以RK3588现在6.0TOPS的算力来看,显然不可能。
不久前有工程师成功在RK3588上部署了DeepSeek,但也仅仅是跑起来了DeepSeek R1(Qwen2 1.5B)模型。1.5B什么概念,也就能处理处理轻量级的文字任务,而且也不能做到快速实时响应。除了算力问题,模型的移植也是难点,很多网络层,瑞芯微的平台并不支持。
但这至少表明,在RK3588上运行DeepSeek是能够实现的,只是被自身硬件所限制。
如果在RK3588图像处理板的基础上外挂高算力模块,打造一个更高算力的RK3588图像处理板,理论上就能实现DeepSeek高参数模型的应用。
目前这个方向,我们整个团队也在深入研究,相信很快就会有结果。
-
AI
+关注
关注
89文章
38090浏览量
296559 -
RK3588
+关注
关注
8文章
492浏览量
7061 -
DeepSeek
+关注
关注
2文章
824浏览量
2809
发布评论请先 登录
OpenHarnomy5.1下对RK3588的编译环境搭建
RK3588主板:多元场景的硬核“芯”力量
RK3588 EVB开发板原理图讲解【八】 RK3588 power Tree
Banana Pi开源社区基于瑞芯微RK3588开发板,DeepSeek开发利器
添越智创基于 RK3588 开发板部署测试 DeepSeek 模型全攻略
ATK-DLRK3588开发板deepseek-r1-1.5b/7b部署指南
实战案例 | 眺望RK3588 RKLLM部署DeepSeek-R1全流程
在RK3588开发板上部署并测试DeepSeek模型
PET_RK3588_CORE核心板

RK3588+DeepSeek有没有“搞头”?
评论