联发科天玑9300最高可运行330亿参数AI大模型

联发科天玑9300最高可运行330亿参数AI大模型

联发科这个是要把AI大模型带到手机端的节奏吗？联发科正式发布了天玑9300旗舰5G生成式AI移动芯片，天玑9300号称最高可运行330亿参数AI大模型。

MediaTe天玑9300采取了全大核的CPU架构，包含4个Cortex-X4超大核，最高频率可达3.25GHz，以及4个主频为2.0GHz的Cortex-A720大核，天玑9300的峰值性能相较上一代提升40%，功耗则可以节省33%。而且天玑9300集成MediaTek第七代AI处理器APU 790，APU 790内置了硬件级的生成式AI引擎，这个内置生成式AI引擎，能够支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型。

为了运行亿级参数大语言模型，MediaTek开发了混合精度 INT4量化技术，再结合MediaTek特有的内存硬件压缩技术NeuroPilot Compression，和APU 790支持的“技能扩充”技术NeuroPilot Fusion从而使得天玑9300能力强悍。

同时，联发科AI开发平台NeuroPilot能够支持Meta LIama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

天玑9300采用的是台积电第三代4nm制程，天玑9300还采用了新一代旗舰12核GPU Immortalis-G720和ISP影像处理器Imagiq 990。

天玑9300支持LPDDR5T 9600Mbps内存，天玑9300还支持Wi-Fi 7，支持60FPS的光线追踪，集成了OIS光学防抖专核。年底或者我们就可以看到搭载天玑9300的手机了，大家期待吗？

此外我们也看到在第六届中国国际进口博览会上，高通中国区董事长孟樸在出席演讲时候表示：生成式AI将使手机成为真正的数字化助手。或者未来在手机本地运行AI大模型是大势所趋。