Llama3.1 - Meta最新发布的最强开源AI模型

发布于 2024-07-24 · Llama 3.1是Meta最新发布的开源AI模型，包括8B、70B和405B三个版本，其中405B版本以其4050亿参数量成为目前最大的开源模型之一。Llama 3.1支持128K的上下文长度，能够处理长文本并具备多语言翻译能力。在多个AI基准测试中表现卓越，尤其在数学、推理和长文本处理方面，与市场上顶尖的闭源模型如GPT-4o和Claude 3.5 Sonnet相媲美。

Llama3.1是什么

Llama 3.1 是 Meta 最新发布的开源 AI 模型，包含 8B、70B 和 405B 三个版本，其中 405B 版本带着 4050 亿参数量，是目前最大的开源模型之一。Llama 3.1 支持 128K 上下文长度，能处理长文本，也具备多语言翻译能力。多个 AI 基准测试里成绩都很好，数学、推理、长文本处理这几项，跟 GPT-4o、Claude 3.5 Sonnet 这些市场顶尖闭源模型打得有来有回。另外 Meta 还配套提供 Llama Stack API 和安全工具，帮开发者把 AI 创新应用做起来。

Llama3.1的功能特色

上下文长度：Llama 3.1 的上下文长度最高支持 128K，更长的文本也能读能懂，长文本摘要、多语言对话这类高级应用直接受益。
多语言能力：模型支持八种语言：英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语，多语言翻译、跨文化交流都不在话下。
数学和推理能力：在 GSM8K、ARC Challenge 这些数学和推理测试里，Llama 3.1 得分很高，解复杂数学题、做逻辑推理都很在行。
长文本处理：ZeroSCROLLS/QuALITY 测试中，Llama 3.1 的得分跟 GPT-4 打平、优于其他模型，长文本理解是它的强项。
工具使用：Llama 3.1 在 BFCL 测试里得分较高，用工具、执行编程任务这类活儿干得不错。
特殊测试：NIH/Multi-needle 测试中 Llama 3.1 的得分接近满分，特定领域的专业化能力很能打。
量化优化：为了支撑大规模推理，Llama 3.1 把模型从 BF16 量化到 FP8，计算资源需求省下来不少，模型也能跑在更广泛的硬件上。

Llama3.1的性能表现

Meta 评估了超过 150 个基准数据集的性能，对比 Llama 3.1 和其他模型在现实场景下的能力表现，405B 模型在一堆任务上跟 GPT-4、GPT-4o、Claude 3.5 Sonnet 这些领先基础模型比都有得打。较小的模型同样能和参数规模接近的封闭、开放模型掰掰手腕。

：8B 和 70B 模型在基准测试上进步明显：Llama 3.1 整体 benchmark 表现优异。MMLU 测试里，8B 模型从 65 分涨到 73 分（提高了 8 分），70B 模型从 81 分到 86 分（提高了 5 分）。MATH（数学问题解决）测试中，8B 模型从 29 分直接跳到 52 分（提高了 23 分）。

：Llama 3.1 405B 在通用任务、知识推理、阅读理解上创了最新纪录，MMLU、SQuAD 细分基准上提升最明显。：相比 Llama 3，Llama 3.1 的 8B 和 70B 参数版本只有细微改善；Llama 3.1 405B 则比预训练模型更强，在推理、代码、数学、工具使用、多语言基准上，把微调后的 8B 和 70B 版本都压了下去。