Llama 3

Llama 3 提供 8B 和 70B 两个参数规模，可自由下载并在自备硬件上运行。它基于超过 15 万亿 token 的高质量公开数据训练，特别强化了代码和逻辑推理能力，支持 30 种语言（含少量中文）。模型采用分组查询注意力（GQA）提高推理效率，通过有监督微调、拒绝采样与策略优化等后训练手段增强指令跟随和偏好对齐，使其在对话、编程和工具使用等场景表现出色。

主要优点包括完全开源、支持商业使用（年营收低于 1 亿美元可免费商用），可在无网络环境下本地运行，保护数据隐私。在 MacBook Pro M4 64GB 上使用 llama.cpp 可跑通 70B 模型，生成速度约 71 tokens/秒，能持续处理项目任务数小时，适合对数据主权要求高的开发者。

缺点和门槛明显：参数规模大导致硬件需求高，70B 版本本地运行需至少 48GB 内存；中文训练语料占比低，处理中文任务效果有限；部署和优化需一定技术背景（如编译 llama.cpp、调整量化配置等）；数据质量仍是瓶颈，部分参数被用于记忆低质信息而非深度推理。

适合有能力搭建推理环境、追求私有化和成本可控的企业或独立开发者，尤其适合英文为主的代码生成、文档分析、离线编排等业务。硬件受限、中文需求强或缺乏技术调优能力的用户需谨慎评估。