Llama 4被曝训练作弊，发布后实测差评如潮

4月5日，Meta公司发布了大型语言模型Llama的最新版本Llama 4 Scout与Llama 4 Maverick。

Meta在声明中表示，Llama 4是一个多模态AI系统，能够处理和整合文本、视频、图像、音频等多种数据类型，并能在不同格式之间实现内容转换。据介绍，Scout和Maverick是该公司首款采用混合专家架构(MoE)的模型，两者均以开源形式发布。此外，Meta还预告了Llama 4 Behemoth，称其为“全球最聪明的语言模型之一，将作为未来模型训练的教师模型”。

没想到，随后就被曝出模型训练测试集作弊，内部员工直接辞职，引发争议。

争议的导火索源于海外留学求职交流论坛“一亩三分地”的一篇帖子，发帖人自称是参与Llama 4训练的内部员工，并表示已因此辞职。

该员工透露，尽管团队反复努力训练，Llama 4的内部模型性能始终无法达到开源SOTA（State-of-the-Art，顶尖水平）基准，差距明显。为达成目标，公司领导层提出在训练后期将各种基准测试的“测试集”数据混入训练或微调数据中，以此在各项指标上达成目标，交出一份“好看”的成绩单。

这位内部员工@dliudliu表示，自己无法接受这种做法，甚至辞职信中明确要求不要在Llama 4技术报告中挂名。

就在Llama 4即将发布前几天，Meta AI研究主管Joelle Pineau在工作8年之后突然宣布离职。

知名科技媒体TechCrunch也发文质疑Llama 4的性能测试存在误导性。文章聚焦Llama 4（即Maverick）在著名的人类评估排行榜LM Arena上的表现，指出Maverick虽取得第二名的好成绩，但背后另有隐情。在一些实测中，号称千万上下文的召回率，上下文的实际表现，远低于预期。而Llama 4 Maverick 在 aider 多语言编码基准测试中得分为实测仅为 16%。

有人认为Llama 4的表现甚至和Llama 3.2一样没有任何进步，也无法完成写诗。其他用户在测试后也表达了同样的观点，Llama 4有点不符合预期。

几位AI研究人员在社交媒体上都“吐槽”认为，Meta提交给LM Arena进行测试评估的Maverick版本，和公开发布给开发者使用的版本可能并非同一个。

不过Meta表示，更强大的一款被命名为Llama 4 Behemoth的大模型仍在训练中。据称，Meta Platforms的CEO扎克伯格此前给全员下了死命令，4月底是Llama 4交付最后期限。

早在1月10日，有媒体称，据加利福尼亚联邦法院公开的庭审文件中，一些作家指控Meta Platforms在训练其Llama AI模型时，未经授权使用了盗版电子书和文章数据集LibGen，并通过点对点（P2P）方式下载了大量盗版书籍和文章，而且内部员工还爆料此事获得了扎克伯格的允许，目前案件在审理中。

今年年初，扎克伯格曾表示2025年计划投资多达650亿美元用于人工智能（AI）相关项目，包括建立新的巨型数据中心和加大AI团队的招聘，以巩固其在与OpenAI和谷歌竞争中的地位。