LLaMA
新加坡
AI训练模型
LLaMA

Facebook推出的大语言模型

标签:

最近,FacebookResearch 开源了他们最新的大规模语言模型 LLaMA,包含从 7B 到 65B 的参数范围,训练使用多达 14,000 亿 tokens 语料。

其中,LLaMA-13B 在大部分基准测评上超过了 GPT3(175B),与目前最强的语言模型 Chinchilla-70B 和 PaLM-540B 相比,LLaMA-65B 也具有竞争力。

因此,LLaMA 可能是目前公开模型权重中效果最好的语言模型。

相关导航

暂无评论

您必须登录才能参与评论!
立即登录
暂无评论...