【AIBOX】装在小盒子的AI足够强吗？
Firefly推出大语言模型本地部署的产品：AIBOX-1684X，目前已适配主流的大语言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的实机演示：ChatGLM3-6B采用更多元的训练数据和策略，在不同角度的数据集，采用了全新设计的Prompt格式，支持工具调用(Function Call)、代码执行(Code Interpreter)和Agent任务等复杂场景
性能实测结果
更强大的基础模型
ChatGLM3-6B (Base) 在选取的8个中英文典型数据集中进行性能测试：
在语义、数学、推理、代码、知识等不同角度的数据集上测评显示，ChatGLM3-6B-Base具有在10B以下的基础模型中最强的性能
更全面的开源序列
除了对话模型ChatGLM3-6B外，还开源了基础模型ChatGLM3-6B-Base、长文本对话模型ChatGLM3-6B-32K。以下是ChatGLM3-6B-32K在LongBench评测集上对模型进行测试：
在多个长文本应用场景下的估测试中，与二代模型相比，其效果平均提升程度大于50%。在论文阅读、文档摘要和财报分析等应用中，提升尤为显著
声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。
举报投诉
-
AI
+关注
关注
89文章
38091浏览量
296567 -
语言模型
+关注
关注
0文章
570浏览量
11255 -
Firefly
+关注
关注
2文章
546浏览量
9004
发布评论请先 登录
相关推荐
热点推荐
如何用FCU3501 AI边缘计算盒子，打造智慧工厂的视觉分析核心？
飞凌嵌入式FCU3501 AI边缘计算盒子，凭借“高可靠架构、强算力支撑、零门槛部署”的多重优势，能够为深陷转型困境的行业打造智慧工厂视觉质检与安全生产一体化系统，成为突破困局的关键动能。
低成本AI边缘计算盒子DIY：基于迅为RK3568和开源模型，轻松玩转智能识别
低成本AI边缘计算盒子DIY：基于迅为RK3568和开源模型，轻松玩转智能识别
国产超新星｜EA500I PRO智能工作站：小盒子大能量，千元级解锁大模型
随着AI从小模型向大模型的加速渗透，算力已成为企业构建智算能力的核心关键。对于渴望切入AI赛道的中小企业，既具备成本优势又能快速部署的边缘计算盒子，无疑是理想的选择；但市场上超100T算力的边缘计算
一文了解ai计算盒子（边缘计算盒子）是到底是什么产品？
在物联网与人工智能深度融合的当下，数据处理的效率和实时性成为各行业数字化转型的关键。ai计算盒子（又称边缘计算盒子、ai边缘计算盒子）作为连
AI边缘计算盒子连接不同的传感器，分别能实现什么功能？
AI边缘计算盒子也被称作“边缘计算服务器”或“边缘计算网关”，它能够实现数据的实时采集、高效处理和智能分析，更能连接各种传感器，实现更多与周围环境相关的智能互动，延伸更多的功能。下面就让天波小编为
中科创达与吉利汽车、NVIDIA联合发布创新产品AIBOX
产品AIBOX。该方案依托中科创达滴水AIOS和NVIDIA DRIVE AGX车载计算平台，首次实现7B大模型在车端实时流畅运行，打造了真正的AI座舱，标志着汽车产业正式进入AI大模型实车量产时代。
产品案例 | 遛“狗”新方式，盒子来帮忙
当一只机器狗被一个巴掌大的小盒子操控，躲避障碍、跟随指令完成转身、停止等动作时，围观人群纷纷发出惊叹：“这么小的盒子，居然能‘溜’机器狗？”。这个“小盒子”，正是机器狗的“智慧大脑”，它凭借强大
边缘AI盒子技术解析：ASIC/FPGA/GPU芯片及边缘-云端协同与自适应推理
电子发烧友网综合报道 边缘AI盒子是一种集成了高性能芯片、AI算法和数据处理能力的硬件设备，部署在数据源的边缘侧，如工厂、商场、交通路口等，能在本地进行数据采集、预处理、分析和决策，无需将所有
AIBOX 产品矩阵：支持主流大模型的私有化部署，满足个性化 AI 应用需求
AIBOX系列产品具备高性能、低功耗、环境适应性强等特点，算力覆盖6-157TOPS，通过搭配多样化深度学习算法，体积小巧，能够支持主流大模型的私有化部署，为多个智慧行业进行数字化赋能。目前
【AIBOX 应用案例】通过 U²-Net 实现背景移除
NVIDIA系列AIBOXAIBOX-OrinNano和AIBOX-OrinNX均搭载NVIDIA原装JetsonOrin核心板模组，标配工业级全金属外壳，铝合金结构导热，顶盖外壳侧面采用条幅格栅
传统摄像头为什么需要升级为AI盒子？多场景痛点解析
在安防监控、智慧零售、工业检测等领域，传统摄像头长期以来承担着视频采集的任务，但随着AI技术的快速发展，单纯依赖“看得见”的摄像头已无法满足智能化需求。AI盒子（智能视频分析终端）的出现，让传统监控
AIBOX 新成员，搭载 RK3588S 芯片全新上线
AIBOX产品矩阵再添新成员——AIBOX-3588S，支持AI大模型私有化部署，支持32GBLPDDR5超大内存，广泛适用于边缘计算、大模型私有化部署、智能安防、智能家居、智能工业等领域。八核
自制1个指纹保险箱，不到100元就能拥有！
| 实用至上，点亮便利生活，此前就一直想着给小朋友做一个小盒子，正好借这个机会忙里偷闲参与到活动当中，再体验一下电子 DIY 的乐趣。 本次制作了一个稍微实用价值的指纹开锁小盒子，旨在为日常生活中的物品收纳提供更安全、便捷的解决方案。 1、设计
AIBOX 全系产品已适配 DeepSeek-R1
国产AI大模型DeepSeek以出色的性价比和高效的模型技术，迅速成为全球AI关注的焦点。Firefly开源团队率先实现AIBOX系列产品对DeepSeek-R1的全面适配。R1模型性能数据
【AIBOX应用】通过 NVIDIA TensorRT 实现实时快速的语义分割
NVIDIA系列AIBOXAIBOX-OrinNano和AIBOX-OrinNX均搭载NVIDIA原装JetsonOrin核心板模组，标配工业级全金属外壳，铝合金结构导热，顶盖外壳侧面采用条幅格栅
工商网监
评论