标签　>　llm

llm

+关注1人关注

在人工智能领域，LLM代表“大型语言模型”。在人工智能（AI）领域自然语言处理（NLP）是一个快速进展的领域。NLP中最重要是大语言模型（LLM）。大语言模型（英文：Large Language Model，缩写LLM），也称大型语言模型，是一种基于机器学习和自然语言处理技术的模型。

文章：338个浏览：1256次帖子：3个

全部技术资讯资料帖子视频产品方案企业

llm技术

探索无限可能：生成式推荐的演进、前沿与挑战

TL;DR 过去一年间，生成式推荐取得了长足的实质性进展，特别是在凭借大型语言模型强大的序列建模与推理能力提升整体推荐性能方面。基于LLM（Large ...

2025-10-20 标签：AI LLM 4.4k 0

TensorRT-LLM的大规模专家并行架构设计

之前文章已介绍引入大规模 EP 的初衷，本篇将继续深入介绍 TensorRT-LLM 的大规模专家并行架构设计与创新实现。

2025-09-23 标签：cpu 机器学习 LLM 680 0

6TOPS算力驱动30亿参数LLM，米尔RK3576部署端侧多模态多轮对话

关键词：瑞芯微RK3576、NPU（神经网络处理器）、端侧小语言模型（SLM）、多模态LLM、边缘AI部署、开发板当GPT-4o用毫秒级响应处理图文混合...

2025-09-04 标签：算力米尔电子 LLM 4.3k 0

3万字长文！深度解析大语言模型LLM原理

我们正在参加全球电子成就奖的评选，欢迎大家帮我们投票～～～谢谢支持本文转自：腾讯技术工程作者：royceshao大语言模型LLM的精妙之处在于很好地利用...

2025-09-02 标签：人工智能语言模型 LLM 3.1k 0

DeepSeek R1 MTP在TensorRT-LLM中的实现与优化

TensorRT-LLM 在 NVIDIA Blackwell GPU 上创下了 DeepSeek-R1 推理性能的世界纪录，Multi-Token P...

2025-08-30 标签：NVIDIA 模型 LLM 4k 0

TensorRT-LLM中的分离式服务

在之前的技术博客中，我们介绍了低延迟[1] 和高吞吐[2] 场景的优化方法。对于生产部署，用户还关心在满足特定延迟约束的情况下，每个 GPU 的吞吐表现...

2025-08-27 标签：NVIDIA gpu 模型 1.4k 0

AI生成的测试用例真的靠谱吗？

软件测试正经历一场深刻的技术革命。AI，尤其是以GPT、通义千问、文心一言、Claude等为代表的大语言模型（LLM），开始广泛介入测试流程：从需求分析...

2025-08-01 标签：测试 AI LLM 1.4k 0

利用自压缩实现大型语言模型高效缩减

随着语言模型规模日益庞大，设备端推理变得越来越缓慢且耗能巨大。一个直接且效果出人意料的解决方案是剪除那些对任务贡献甚微的完整通道（channel）。我们...

2025-07-28 标签：语言模型 LLM 361 0

RK3568自制底板狂丢包？教你5分钟用Delayline一键复活网口

在使用飞凌嵌入式RK3568核心板搭配自制底板时，由于PCB走线与参考设计存在差异，常导致RGMII接口时序异常，进而出现网口不通或频繁丢包的情况。本文...

2025-07-25 标签：嵌入式 AI VLMx234 1.3k 0

NVIDIA Blackwell GPU优化DeepSeek-R1性能打破DeepSeek-R1在最小延迟场景中的性能纪录

本文将探讨 NVIDIA TensorRT-LLM 如何基于 8 个 NVIDIA Blackwell GPU 的配置，打破 DeepSeek-R1 在...

2025-07-02 标签：NVIDIA gpu 大模型 2.9k 0

使用NVIDIA Triton和TensorRT-LLM部署TTS应用的最佳实践

针对基于 Diffusion 和 LLM 类别的 TTS 模型，NVIDIA Triton 和 TensorRT-LLM 方案能显著提升推理速度。在单张...

2025-06-12 标签：NVIDIA gpu 模型 1.3k 0

LM Studio使用NVIDIA技术加速LLM性能

随着 AI 使用场景不断扩展（从文档摘要到定制化软件代理），开发者和技术爱好者正在寻求以更快、更灵活的方式来运行大语言模型（LLM）。

2025-06-06 标签：NVIDIA Studio LLM 770 0

小白学大模型：从零实现 LLM语言模型

在当今人工智能领域，大型语言模型（LLM）的开发已经成为一个热门话题。这些模型通过学习大量的文本数据，能够生成自然语言文本，完成各种复杂的任务，如写作、...

2025-04-30 标签：语言模型大模型 LLM 1.1k 0

详解 LLM 推理模型的现状

2025年，如何提升大型语言模型（LLM）的推理能力成了最热门的话题之一，大量优化推理能力的新策略开始出现，包括扩展推理时间计算、运用强化学习、开展监督...

2025-04-03 标签：语言模型 LLM 1.2k 0

树莓派秒变编程助手：Ollama+Continue的简易搭建教程！

以下是如何在RaspberryPi上运行大型语言模型(LLM)的方法。本文的目标是找出在RaspberryPi上运行LLM是否是ChatGPT和GitH...

2025-03-27 标签：Raspberry Pi 树莓派 LLM 517 0

基于DBFP与DB-Attn的算法硬件协同优化方案

本文讨论了LLM推理过程对计算资源需求急剧攀升的背景下，现有量化和剪枝技术、新数据格式存在的不足，提出动态块浮点数（DBFP）及其配套算法-硬件协同框架...

2025-03-19 标签：算法模型 LLM 3.2k 0

内部业务支撑&前瞻技术布局 One4All下一代生成式推荐系统

作者：京东零售申磊自LLM在自然语言处理等领域取得了瞩目成就之后，学术界积极探索生成式模型对搜广推系统的增强或改进方式[1]，现有工作大体可以分为两...

2025-03-19 标签：AI 大模型 LLM 771 0

利用OpenVINO GenAI解锁LLM极速推理

随着 DeepSeek、 GPT 和 Llama 等大语言模型（LLMs）不断推动人工智能的边界，它们在高效部署方面也带来了重大挑战。这些模型在生成类似...

2025-03-18 标签：AI 聊天机器人 LLM 900 0

NVIDIA大语言模型在推荐系统中的应用实践

推荐系统的主要任务在于根据用户的过往行为预测其潜在兴趣点，并据此推荐相应的商品。在传统的推荐系统中，当处理用户请求时，会触发多个召回模块，例如热门商品召...

2025-03-05 标签：NVIDIA 模型推荐系统 1.4k 0

用PaddleNLP在4060单卡上实践大模型预训练技术

作者：算力魔方创始人/英特尔创新大使刘力之前我们分享了《从零开始训练一个大语言模型需要投资多少钱》，其中高昂的预训练费用让许多对大模型预训练技术感兴趣...

2025-02-19 标签：数据集大模型 LLM 2.1k 0

12 3 4 5 6 7 下一页 9

相关话题

换一批

电子发烧友网

电子发烧友网

+关注

电子发烧友网于2006年10月成立，是一个以电子技术知识为核心，以工程师为主导的平台。致立于为中国电子工程师的电子产品设计等做出最大贡献，促进中国电子科技的稳步发展。
无人驾驶

无人驾驶

+关注

提供全球最前沿无人驾驶科技趋势，中国无人驾驶开发者社区
1024

1024

+关注
京瓷

京瓷

+关注

京瓷株式会社成立于1959年4月1日。川村诚为现任代表取缔役社长。资本金为1，157亿332万日元。截至2006年3月31日为止的年度销售额达到1，181，489百万日元，集团公司包括关联公司在内共计183家，员工61，468名。
emmc

emmc

+关注

eMMC （Embedded Multi Media Card）是MMC协会订立、主要针对手机或平板电脑等产品的内嵌式存储器标准规格。
过压保护电路

过压保护电路

+关注
6G

6G

+关注

6G网络将是一个地面无线与卫星通信集成的全连接世界。6G，即第六代移动通信标准，也被称为第六代移动通信技术。主要促进的就是物联网的发展。截至2019年11月，6G仍在开发阶段。6G的传输能力可能比5G提升100倍，网络延迟也可能从毫秒降到微秒级。
华强pcb线路板打样

华强pcb线路板打样

+关注
COB

COB

+关注
高频电容

高频电容

+关注
wifi6

wifi6

+关注

WiFi6主要使用了OFDMA、MU-MIMO等技术，MU-MIMO（多用户多入多出）技术允许路由器同时与多个设备通信，而不是依次进行通信。MU-MIMO允许路由器一次与四个设备通信，WiFi6将允许与多达8个设备通信。WiFi6还利用其他技术，如OFDMA（正交频分多址）和发射波束成形，两者的作用分别提高效率和网络容量。WiFi6最高速率可达9.6Gbps。
汽车

汽车

+关注
dcdc转换器

dcdc转换器

+关注

DC/DC转换器为转变输入电压后有效输出固定电压的电压转换器。DC/DC转换器分为三类：升压型DC/DC转换器、降压型DC/DC转换器以及升降压型DC/DC转换器。
Zynq-7000

Zynq-7000

+关注

　　赛灵思公司（Xilinx）推出的行业第一个可扩展处理平台Zynq系列。旨在为视频监视、汽车驾驶员辅助以及工厂自动化等高端嵌入式应用提供所需的处理与计算性能水平。
检测电路图

检测电路图

+关注
CD4069

CD4069

+关注
VDD

VDD

+关注

　Vcc和Vdd是器件的电源端。Vcc是双极器件的正，Vdd多半是单极器件的正。下标可以理解为NPN晶体管的集电极C，和PMOS or NMOS场效应管的漏极D。同样你可在电路图中看见Vee和Vss，含义一样。因为主流芯片结构是硅NPN所以Vcc通常是正。如果用PNP结构Vcc就为负了。建议选用芯片时一定要看清电气参数
HarmonyOS

HarmonyOS

+关注

HarmonyOS最新信息分享，我们将为大家带来HarmonyOS是什么意思的深度解读，HarmonyOS官网地址、HarmonyOS开源相关技术解读与设计应用案例，HarmonyOS系统官网信息，华为harmonyOS最新资讯动态分析等。
特斯拉线圈

特斯拉线圈

+关注

特斯拉线圈又叫泰斯拉线圈，因为这是从“Tesla”这个英文名直接音译过来的。这是一种分布参数高频串联谐振变压器，可以获得上百万伏的高频电压。
过流保护电路

过流保护电路

+关注

电路过电流过电压保护是为防止主回路短路或直流牵引电动机发生环火造成主回路电流过大而损坏同步牵引发电机、主整流柜等电气设备，机车在牵引、电阻制动或自负载工况下，对主电路的过电流和过电压均进行保护。
过零检测电路

过零检测电路

+关注

过零检测指的是在交流系统中，当波形从正半周向负半周转换时，经过零位时，系统作出的检测。可作开关电路或者频率检测。漏电开关的漏电检测是检测零序电流。
VHF

VHF

+关注
AIoT

AIoT

+关注

AIoT（人工智能物联网）=AI（人工智能）+IoT（物联网）。 AIoT融合AI技术和IoT技术，通过物联网产生、收集海量的数据存储于云端、边缘端，再通过大数据分析，以及更高形式的人工智能，实现万物数据化、万物智联化，物联网技术与人工智能追求的是一个智能化生态体系，除了技术上需要不断革新，技术的落地与应用更是现阶段物联网与人工智能领域亟待突破的核心问题。
逆变器电路图

逆变器电路图

+关注
慕尼黑上海电子展

慕尼黑上海电子展

+关注
测试电路

测试电路

+关注
功放板

功放板

+关注
ELMOS

ELMOS

+关注
科创板

科创板

+关注

拟订科创板股票上市审核规则、科创板上市公司并购重组审核规则、上市委员会及科技创新咨询委员会相关规则；负责科创板股票发行上市审核和科创板上市公司并购重组审核工作，拟订审核标准、审核程序等；对发行人、科创板上市公司及中介机构进行自律监管等。
74LS00

74LS00

+关注

74LS00是一个内部拥有四个独立的二输入与非门电路，它满足与非门的逻辑功能，可以实现与非门的逻辑功能。共有54/7400、54/74H00、54/74S00、54/74LS00。54XXX

换一批

电机控制	DSP	氮化镓	功率放大器	ChatGPT	自动驾驶	TI	瑞萨电子
BLDC	PLC	碳化硅	二极管	OpenAI	元宇宙	安森美	ADI
无刷电机	FOC	IGBT	逆变器	文心一言	5G	英飞凌	罗姆
直流电机	PID	MOSFET	传感器	人工智能	物联网	NXP	赛灵思
步进电机	SPWM	充电桩	IPM	机器视觉	无人机	三菱电机	ST
伺服电机	SVPWM	光伏发电	UPS	AR	智能电网	国民技术	Microchip

瑞萨	沁恒股份	全志	国民技术	瑞芯微	兆易创新	芯海科技	Altium
德州仪器	Vishay	Micron	Skyworks	AMS	TAIYOYUDEN	纳芯微	HARTING
adi	Cypress	Littelfuse	Avago	FTDI	Cirrus LogIC	Intersil	Qualcomm
st	Murata	Panasonic	Altera	Bourns	矽力杰	Samtec	扬兴科技
microchip	TDK	Rohm	Silicon Labs	圣邦微电子	安费诺工业	ixys	Isocom Compo
安森美	DIODES	Nidec	Intel	EPSON	乐鑫	Realtek	ERNI电子
TE Connectivity	Toshiba	OMRON	Sensirion	Broadcom	Semtech	旺宏	英飞凌
Nexperia	Lattice	KEMET	顺络电子	霍尼韦尔	pulse	ISSI	NXP
Xilinx	广濑电机	金升阳	君耀电子	聚洵	Liteon	新洁能	Maxim
MPS	亿光	Exar	菲尼克斯	CUI	WIZnet	Molex	Yageo
Samsung	风华高科	WINBOND	长晶科技	晶导微电子	上海贝岭	KOA	Echelon
Coilcraft	LRC	trinamic

放大器	运算放大器	差动放大器	电流感应放大器	比较器	仪表放大器	可变增益放大器	隔离放大器
时钟	时钟振荡器	时钟发生器	时钟缓冲器	定时器	寄存器	实时时钟	PWM 调制器
视频放大器	功率放大器	频率转换器	扬声器放大器	音频转换器	音频开关	音频接口	音频编解码器
模数转换器	数模转换器	数字电位器	触摸屏控制器	AFE	ADC	DAC	电源管理
线性稳压器	LDO	开关稳压器	DC/DC	降压转换器	电源模块	MOSFET	IGBT
振荡器	谐振器	滤波器	电容器	电感器	电阻器	二极管	晶体管
变送器	传感器	解析器	编码器	陀螺仪	加速计	温度传感器	压力传感器
电机驱动器	步进驱动器	TWS	BLDC	无刷直流驱动器	湿度传感器	光学传感器	图像传感器
数字隔离器	ESD 保护	收发器	桥接器	多路复用器	氮化镓	PFC	数字电源

开关电源	步进电机	无线充电	LabVIEW	EMC	PLC	OLED	单片机
5G	m2m	DSP	MCU	ASIC	CPU	ROM	DRAM
NB-IoT	LoRa	Zigbee	NFC	蓝牙	RFID	Wi-Fi	SIGFOX
Type-C	USB	以太网	仿真器	RISC	RAM	寄存器	GPU
语音识别	万用表	CPLD	耦合	电路仿真	电容滤波	保护电路	看门狗
CAN	CSI	DSI	DVI	Ethernet	HDMI	I2C	RS-485
SDI	nas	DMA	HomeKit	阈值电压	UART	机器学习	TensorFlow

Arduino	BeagleBone	树莓派	STM32	MSP430	EFM32	ARM mbed	EDA
示波器	LPC	imx8	PSoC	Altium Designer	Allegro	Mentor	Pads
OrCAD	Cadence	AutoCAD	华秋DFM	Keil	MATLAB	MPLAB	Quartus

搜索历史

llm

llm技术

相关标签

相关话题

关注此标签的用户(1人)

C++	Java	Python	JavaScript	node.js	RISC-V	verilog	Tensorflow
Android	iOS	linux	RTOS	FreeRTOS	LiteOS	RT-THread	uCOS
DuerOS	Brillo	Windows11	HarmonyOS

林超文PCB设计：PADS教程，PADS视频教程	郑振宇老师：Altium Designer教程，Altium Designer视频教程
张飞实战电子视频教程	朱有鹏老师：海思HI3518e教程，HI3518e视频教程
李增老师：信号完整性教程，高速电路仿真教程	华为鸿蒙系统教程，HarmonyOS视频教程
赛盛：EMC设计教程，EMC视频教程	杜洋老师：STM32教程，STM32视频教程
唐佐林：c语言基础教程，c语言基础视频教程	张飞：BUCK电源教程，BUCK电源视频教程
正点原子：FPGA教程，FPGA视频教程	韦东山老师：嵌入式教程，嵌入式视频教程
张先凤老师：C语言基础视频教程	许孝刚老师：Modbus通讯视频教程
王振涛老师：NB-IoT开发视频教程	Mill老师：FPGA教程，Zynq视频教程
C语言视频教程	RK3566芯片资料合集
朱有鹏老师：U-Boot源码分析视频教程	开源硬件专题