Firefly开源团队文章

• 【AIBOX上手指南】快速部署Llama32024-06-06 08:02

  

  Firefly开源团队推出了Llama3部署包，提供简易且完善的部署教程，过程无需联网，简单快捷完成本地化部署。点击观看Llama3快速部署教程：Step.1准备部署包进入Firefly下载中心，下载Llama3部署包。在电脑上以管理员身份打开cmd：执行scp命令传输部署包至AIBOX，并输入密码linaro获取访问权限。scpllama3.tarlina

  Firefly 软件 2067浏览量

• 低功耗大模型主板：ROC-RK3576-PC2024-05-30 08:02

  

  采用八核64位AIOT处理器RK3576，采用大小核构架（4×A72+4×A53），采用先进制程工艺，高性能低功耗，内置ARMMaliG52MC3GPU，集成6TOPS算力NPU，支持Transformer架构下超大规模参数模型的私有化部署，支持多种深度学习框架、自定义算子开发、Docker容器化管理技术。配置外部看门狗，具备工业级稳定性，广泛适用于AI本地

  主板 处理器 大模型 2447浏览量

• 【AIBOX快速入门】2步玩转AI对话2024-05-30 08:02

  

  随着目前AI的高速发展，大批量AI硬件应运而生，但使用门槛普遍较高。为了解决这类问题，Firefly开源团队推出了基于Web的AI对话应用：FireflyChat，让AI的使用变得更加简单点击观看视频教程：1接线分别接入电源线和网线，其中网线需要接到靠近12V电源接口的网口1（网口1的静态IP为192.168.150.1）2设置电脑IP在电脑上打开cmd（使

  AI Firefly 人工智能 1875浏览量

• AI算力核心板：Core-1688JD42024-05-15 08:02

  

  采用SOPHON算能八核AI处理器BM1688，INT8算力高达16TOPS，支持16路解码+10路编码+16路AI分析，支持6路sensor输入视频，并支持LLaMa2、ChatGLM、Qwen等大模型私有化部署，提供一站式深度学习开发工具包SOPHONSDK，工具链完备易用度高，可轻松进行AI算法的本地化部署适用于智算服务器、边缘智算盒、工控机、智能网络

  AI 处理器 工控机 3652浏览量

• 【AIBOX】装在小盒子的AI足够强吗？2024-05-15 08:02

  

  Firefly推出大语言模型本地部署的产品：AIBOX-1684X，目前已适配主流的大语言模型，包括ChatGLM3-6B，以下是ChatGLM3在AIBOX-1684X上的实机演示：ChatGLM3-6B采用更多元的训练数据和策略，在不同角度的数据集，采用了全新设计的Prompt格式，支持工具调用(FunctionCall)、代码执行(CodeInterp

  AI Firefly 语言模型 1479浏览量

• 智算AI主机：EC-A1688JD42024-05-07 08:02

  

  采用SOPHON算能八核AI处理器BM1688，INT8算力高达16TOPS，支持16路H.265/H.2641080p@30fps视频解码，支持6路sensor输入视频，支持主流编程框架，提供一站式深度学习开发工具包SOPHONSDK，工具链完备易用度高，算法轻松部署，算法迁移代价小。适用于智算服务器、边缘智算盒、工控机、智能网络摄像机、AIOT、智能安防

  AI 主机 2010浏览量

• 成都工博会现场：共睹新一轮技术潮流2024-05-07 08:02

  

  2024年4月24日-26日，成都工业博览会在中国西部国际博览城盛大举办，Firefly团队携多款核心产品如约而至，与展客分享及探讨嵌入式工业级系统的最新趋势和科技创新。展会现场直击Firefly团队以“工业智能一站式平台”为主题布展，进行了全方位的产品展示，其中涵盖集群服务器、工业主机、工业主板、核心板、IPC摄像头等产品。现场许多展客被吸引前来参与产品体

  嵌入式 嵌入式系统 工业 799浏览量

• AI硬件大爆发，这个小魔盒直击端侧AIGC的痛点2024-05-07 08:02

  

  私有本地化部署：AI硬件的未来随着当下AI的高速发展，今年将会迎来“大模型应用爆发元年”。市面上不少大模型产品应运而生，在大模型普惠应用井喷的时代，这类产品的使用存在许多门槛和风险，比如高昂的服务器部署成本、在运行过程中会过度依赖网络状态、以及难以保障数据的安全性等问题。为了解决大模型产品使用期间所产生的算力成本高、网络波动、数据隐私等问题，Firefly开

  AI AIGC 硬件 1456浏览量

• AIBOX-1684X：把大语言模型“装”进小盒子2024-04-20 08:02

  

  AIBOX-1684X支持主流大模型私有化部署，算力高达32TOPS，同时也支持CNN、RNN、LSTM等传统网络架构，支持TensorFNNX和Darknet等深度学习架构，并支持自定义算子开发。支持Docker容器化管理技术。适用于智能监控、AI教学、算力服务、边缘计算、大模型私有化部署、数据安全和隐私保护等场景。全面的人工智能私有化部署语言大模型支持T

  深度学习 语言模型 2826浏览量

• Firefly携众多明星产品亮相德国国际嵌入式展2024-04-15 08:02

  

  Firefly于上周（2024年4月9日-11日）携众多明星产品亮相于在德国纽伦堡举办的2024年国际嵌入式展(Embedded World 2024)，在Hall 3A-517号展位上进行了全方位产品展示，向全球用户展示了集群服务器，嵌入式主机，IPC摄像头，核心板，开源主板等明星产品大量用户进场进行产品交流在展会现场，大量用户现场体验了各式各样的产品，并

  Firefly 嵌入式 服务器 1108浏览量