『不废话』之Llama 4实测小报

2025年4月5日Llama 4一开源，随后OpenRouter等平台就提供免费调用。对于中文社区来，官方的测评结果其实意义不大（原因先按下不表），就看知乎、微博、B站、twitter上的真实感受，最重要的是自己的真实案例测评。

核心架构创新

•  混合专家（Mixture-of-Experts，MoE）架构：Llama 4 Scout活跃参数约为170亿，内部包含16个专家，总参数量达1090亿；Llama 4 Maverick活跃参数同样约170亿，但包含多达128个专家，总参数量高达4000亿。Llama 4 Behemoth拥有2880亿活跃参数，采用16个专家，总参数量高达2万亿，目前尚未完全训练完毕、处于预览阶段的超大模型。

• 原生多模态：能处理文本、图像、视频、音频等。

• 超长上下文窗口：Llama 4 Scout模型的上下文窗口超过1000万token，Maverick模型上下文窗口约100万token。

• 支持的语言（摘自于https://huggingface.co/meta-llama/Llama-4-Scout-17B-16E-Instruct）： 阿拉伯语、英语、法语、德语、印地语、印度尼西亚语、意大利语、葡萄牙语、西班牙语、他加禄语、泰语和越南语。没有中文！

训练数据</