> 数据图表

你知道LLama 各个模型对比

2025-3-4
你知道LLama 各个模型对比
LLaMA 模型系列自 2023 年首次发布以来,经历了从 LLaMA 1 到 LLaMA 3 的快速迭代与发展。2023 年 2 月,Meta 推出了 LLaMA 1,包括 7B、13B、30B 和 65B 四个参数版本,凭借其开源性和优异性能迅速成为开源社区的热门模型。随后,2023 年 7 月发布的 LLaMA 2 进一步扩充了训练数据量至 2 万亿 tokens,并引入了分组查询注意力机制(GQA),提升了模型性能和推理效率。2024 年 4 月,LLaMA 3 发布,支持 8K 长文本,采用更高效的 tokenizer,并使用超过 15 万亿 tokens 的语料进行训练,性能接近 SOTA。2024 年 7 月,LLaMA 3.1 进一步增强了多语言支持和安全性,巩固了其在开源大模型领域的领先地位。这一系列迭代不仅推动了开源大模型技术的发展,也为全球 AI 研究与应用提供了强大的支持。