Firefly开源团队文章

• 告别部署繁琐！Firefly LlamaPi，一键搭建本地 Agent 底座2026-09-17 18:16

  

  端侧AI与本地Agent正在快速落地，各类端侧硬件的NPU推理算力也得到大幅提升。但不少开发者在实际落地时依旧要面对重重门槛：手动下载模型权重、反复调试模型转换、手写NPU推理代码。好不容易调通环境，还会遇到模型精度受损、硬件算力无法充分释放、长期运行部署不稳定等现实问题。整个流程耗时长，上手门槛高，阻碍端侧大模型与Agent项目快速验证。针对这些痛点，Fi

  Agent AI 大模型 233浏览量

• 支持多卡级联推理，RK1828 边缘 AI 本地部署方案2026-09-10 18:07

  

  当AI从云端走向设备现场，单块端侧NPU的算力与内存有限，我们基于RK3588主控与RK1828NPU加速卡的多卡级联架构，将多块NPU的算力与内存统一调度、协同推理，让大参数模型、视觉理解、语音处理与Agent工具能力部署到本地设备，从单卡7B轻量推理、双卡12B、再到4卡27B推理的灵活扩展。方案采用RKNN3/RKLLM3推理软件栈，兼容网页交互和Op

  AI NPU 主控 409浏览量

• 200 TOPS 峰值算力，AIBOX-9075 让大模型走向端侧2026-08-27 16:37

  

  当AI从云端走向设备现场，算力、模型和开发工具缺一不可。AIBOX-9075以高性能硬件为基础，以丰富模型生态为支撑，以完整AidLux工具链降低开发门槛，帮助开发者将大模型与视觉AI真正部署到边缘端。算力强，支持复杂AI任务AIBOX-9075搭载高通跃龙(QualcommDragonwing)IQ9系列旗舰级工业SoC：IQ-9075，集成八核全大核构架

  AI 大模型 硬件 739浏览量

• 全栈 AI，一机到位：RK1828 边缘多模态推理平台2026-08-21 16:37

  

  近年来，大语言模型（LLM）与多模态大模型（VLM）的爆发式发展，将AI的能力边界推到了前所未有的高度。然而，当AI走向实际应用落地时，存在着多路视频上行带宽受限、网络往返延迟、云端API持续成本不可控、部署运维成本高等问题。针对上述问题，Firefly为边缘AI多模态推理平台提供强力的硬件支持，目前AppPortal已成功在边缘AI大模型计算盒AIBOXP

  AI Firefly 语言模型 1321浏览量

• Firefly 端侧大模型 × 实时数字人：让 AI 回答真正“看得见、听得到”2026-08-11 16:35

  

  Firefly在边缘AI大模型一体机AIBOXPRO设备上成功跑通Web大模型调用、VLM图片识别与DigitalMan实时数字人，完成从文字或图片输入、端侧模型推理，到数字人语音播报和画面呈现的完整链路验证。WebDemo支持在LLM与VLM模型之间切换：既能进行文字问答，也能上传图片并围绕图片内容提问。这不只是多个应用的简单组合，更直观展现了AIBOXP

  AI Firefly 大模型 838浏览量

• Firefly 高通系列产品矩阵，覆盖全链路需求场景2026-07-29 16:54

  

  随着边缘计算与端侧AI的加速渗透，嵌入式硬件正朝着"算力分级、形态多元、场景精准"的方向快速演进。Firefly作为行业领先的嵌入式方案商，基于高通三大核心平台打造了完整的产品矩阵，覆盖从入门级原型开发到工业级高算力部署的全链路需求。QCS6490系列12TOPS算力，入门级AI利器作为高通Q6系列的代表性平台，QCS6490以6nm先进工艺打造。Firef

  AI Firefly 嵌入式硬件 881浏览量

• CSB2-N10：30B 混合模型超存一体机2026-07-15 18:16

  

  近期，Firefly推出两款阵列式服务器产品，均采用1+10分布式阵列架构，1片RK3588作为BMC管理单元，可灵活拓展0~10路算力核心板，支持弹性算力扩容。设备核心优势为可搭载后摩智能M50算力模组升级，实现常规AI小模型推理到30B大模型本地化部署的能力升级，精准匹配政企AI项目算力迭代需求。两款服务器均内置自研BMC系统，支持远程管控、状态监测、批

  一体机 模型 433浏览量

• 双芯协同，助力边缘 AI 加速！工业级边缘计算机：AIBOX PRO2026-07-08 18:17

  

  AIBOXPRO搭载RK3588主控+双RK1828/LM50AI协处理器异构算力架构，作为面向高端复杂端侧AI场景打造的高性能智能硬件，AIBOXPRO突破传统单芯片端侧算力瓶颈，通过主控统筹调度、双AI芯片并行推理的核心设计，完美适配当下多模型、多任务、高并发的端侧AI运行需求，可同时稳定承载视觉感知、大模型语义推理、智能语音交互等多维功能，大幅提升设备

  计算机 边缘AI 边缘计算 519浏览量

• Zenow：告别云端泄露，本地化的 AI 知识助手2026-06-24 18:10

  

  近日，Firefly联合进迭时空发布了K3系列RISC-V产品矩阵，涵盖了核心板、行业主板、嵌入式主机和集群服务器等多种产品形态，这些产品均可支持高效落地端侧大模型私有化、低时延智能推理。本篇文章介绍的是基于K3BianbuLXQT/GNOME的AI解决方案——知了（Zenow）。什么是知了（Zenow）？知了（Zenow）是一款由进迭时空本地运行的AI知识

  AI Firefly 嵌入式 826浏览量

• 内置高通 IQ-9075！旗舰级工业边缘计算盒：AIBOX-90752026-05-28 16:37

  

  AIBOX-9075搭载高通跃龙(QualcommDragonwing)IQ9系列旗舰级工业SoC：IQ-9075，集成8核全大核构架KryoGen6CPU，通用算力230KDMIPS，内置双HexagonNPU，峰值INT8算力高达200TOPS，适配高负载边缘AI与多任务并发。内置安全子系统及四颗实时内核。依托QualcommLinux软件栈，支持Ubu

  工业 边缘计算 高通 1447浏览量