Meta推出最强开源模型Llama 3 要挑战GPT

Meta推出最强开源模型Llama 3 要挑战GPT

Facebook母公司Meta Platforms（META.US）推出了开源AI大模型“Llama”的最新升级版本“Llama 3”，Meta公司这次开源了Llama 3 8B与70B两款不同规模的模型，开发者可以免费使用，而Meta公司还将陆续推出一系列具备多模态、多语言对话、更长上下文窗口等能力的新模型。

据悉Meta用搭载超2.4万块H100芯片的计算机集群训练Llama 3。Llama 3最大参数规模超4000亿，训练token超15万亿，训练数据规模差不多是Llama 2的七倍。而且训练效率比Llama 2高3倍；同时在安全性也有非常明显的进步。对比GPT-3.5多种人类评估测评胜率超六成。

基于Llama 3模型目前已经覆盖Instagram、WhatsApp、Facebook等Meta公司的应用软件。

OpenAI的核心创始成员之一、特斯拉前AI总监Andrej Karpathy认为400B Llama3性能已接近GPT-4 的水平。

Meta首席产品官考克斯表示Llama 3在它参数模型的许多基准上都处于行业领先地位。

有业界分析师认为开源大模型Llama 3期待已久，Meta公司肯定非常希望Llama3能够超越OpenAI的GPT-4。