Llama 4發(fā)布36小時(shí)差評(píng)如潮！匿名員工爆料拒絕署名技術(shù)報(bào)告

2025-04-08 03:44:00

具體來(lái)看，大家的抱怨主要集中在代碼能力。最直觀的要數(shù)經(jīng)典“氛圍編程”小球反彈測(cè)試，小球直接穿過(guò)墻壁掉下去了。

Meta最新基礎(chǔ)模型Llama 4發(fā)布36小時(shí)后，評(píng)論區(qū)居然是這個(gè)畫(huà)風(fēng)：

失望，非常失望不知道他們后訓(xùn)練怎么搞的，總之不太行在[各種測(cè)試]2中失敗……

還被做成表情包調(diào)侃，總結(jié)起來(lái)就是一個(gè)“差評(píng)如潮”。

具體來(lái)看，大家的抱怨主要集中在代碼能力。

最直觀的要數(shù)經(jīng)典“氛圍編程”小球反彈測(cè)試，小球直接穿過(guò)墻壁掉下去了。

反映在榜單上，成績(jī)也相當(dāng)割裂。

發(fā)布時(shí)的官方測(cè)評(píng)（LiveCodeBench）分?jǐn)?shù)和在大模型競(jìng)技場(chǎng)表現(xiàn)明明都很不錯(cuò)。

但到了各種第三方基準(zhǔn)測(cè)試中，情況大多直接逆轉(zhuǎn)，排名末尾。

讓人不由得懷疑，這個(gè)競(jìng)技場(chǎng)排名到底是數(shù)據(jù)過(guò)擬合，還是刷票了。

就在Llama 4即將發(fā)布前幾天，Meta AI研究主管Joelle Pineau在工作8年之后突然宣布離職，總之就是不太妙。

Llama 4怎么了?

大模型關(guān)注者們火熱實(shí)測(cè)吐槽之際，一則有關(guān)Llama 4的匿名爆料，突然引起軒然大波：

有網(wǎng)友稱(chēng)自己已向Meta GenAI部門(mén)提交提交辭職，并要求不要署名在Llama 4的技術(shù)報(bào)告上。

原貼發(fā)布在海外留學(xué)求職交流平臺(tái)一畝三分地，在國(guó)內(nèi)也引起很多討論。

此爆料尚未得到證實(shí)，但有人搬出Meta GenAI負(fù)責(zé)人Ahmad Al-Dahle的帖子，至少能看出在Llama 4大模型競(jìng)技場(chǎng)里運(yùn)行的是特殊版本模型。

還有Meta前員工借此話題貼出2024年11月的一項(xiàng)研究，指出從Llama 1開(kāi)始數(shù)據(jù)泄露的問(wèn)題就存在了。

也不只是編程能力一個(gè)方面有問(wèn)題，在EQBench測(cè)評(píng)基準(zhǔn)的的長(zhǎng)文章寫(xiě)作榜中，Llama 4系列也直接墊底。

榜單維護(hù)者_(dá)sqrkl說(shuō)明了具體情況。

測(cè)試非常簡(jiǎn)單，模型需要先完成一個(gè)短篇小說(shuō)的頭腦風(fēng)暴、反思并修改寫(xiě)作計(jì)劃，最終每輪寫(xiě)1000字，重復(fù)8輪以上。

由Claude-Sonnet 3.7來(lái)當(dāng)裁判，先對(duì)每個(gè)章節(jié)單獨(dú)打分，再對(duì)整個(gè)作品打分。

Llama 4的低分表現(xiàn)在寫(xiě)到后面開(kāi)始大段的內(nèi)容重復(fù)，以及寫(xiě)作非常公式化。

對(duì)此結(jié)果，有一個(gè)猜想是之前的版權(quán)訴訟讓Meta刪除了網(wǎng)絡(luò)和書(shū)籍?dāng)?shù)據(jù)，使用了更多的合成數(shù)據(jù)。

在這場(chǎng)訴訟中，許多作家發(fā)現(xiàn)自己的作品可能被用于AI訓(xùn)練，還到倫敦的Meta辦公室附近發(fā)起抗議。

Llama 4發(fā)布后的種種，讓人聯(lián)想到年初的匿名員工爆，有網(wǎng)友表示當(dāng)初只是隨便看看，現(xiàn)在卻開(kāi)始相信了：

在這條爆料中，Deepseek v3出來(lái)之后，訓(xùn)練中的Llama4就顯得落后了，中層管理的薪水都比DeepSeek V3的訓(xùn)練成本都高，Meta內(nèi)部陷入恐慌模式。

讓人不由得感嘆，DeepSeel-R1橫空出世僅僅兩個(gè)月時(shí)間，卻像過(guò)了幾輩子。

責(zé)任編輯：武曉燕來(lái)源：量子位