Llama 3每秒輸出800個token逼宮openAI！下周奧特曼生日或放出GPT-5？ 精華
Llama 3誕生之后便艷壓群雄，開源界已無「模」能敵。
甚至，讓網友為OpenAI捏了一把汗！
現在的Llama 3-70B已經一路攀升到大模型排行榜前列，僅次于GPT-4，打敗了Claude 3 Opus。
沒想到，70B都這么能打，400B簡直不敢想象。
英偉達高級科學家Jim Fan預言，「GPT-5一定會在Llama 3 400B發布之前出世」！
還有網友認為，「我們現在有了一個頂級的開源競爭者，OpenAI的巨大優勢已經不復存在」。
從Llama 1，到Llama 2、代碼版Code Llama高調開源，顛覆了整個大模型圈，掀起新模型構建狂瀾。
如今的Llama 3，對全世界意味著什么？
數十億美元新產業將涌現
Hugging Face創始人Clement Delangue稱，目前基于Llama 1和2構建的開源模型已有30000多個。
目前，Llama 3是最強大的開源模型，肯定會對生態系統產生重大影響。
在一個總榜上，Llama 3超越了許多的開源、閉源模型。
發布不到一周，AI社區研究者們已經瘋狂開啟了對Llama 3的測試、微調。
Reddit網友使用Llama 3 70B，非常輕易地制作了一個完美的「貪吃蛇」游戲，并且在蘋果測試中表現優秀。
但最令人振奮的是，這個模型可以進行微調。
它絕對會瘋狂發展。任何中小型公司都可以利用Llama 3 400B將生產力提升到空前水平。
還有人通過HF Chat使用葡萄牙語測試LLaMA 3，結果發現其超出預期，通過了推理測試。
僅用一張英偉達2070顯卡，開發者使用Llama 3 8B升級了本地離線AI。
竟發現，與這個AI助手AniyaAI的對話更有人情味兒了。
目前，一個全新的微調新模型dolphin-2.9-llama3-8b誕生了，已在Huggingface上發布。
還有網友在M1 MacBook上使用mlx框架，測試發現llama 3 8b的速度約為95 token/秒。
對于Meta來說，Llama 3不僅僅是一個研究項目。
它更是Meta將AI接入其龐大的應用和服務生態系統戰略的關鍵部分。
小扎在最新采訪中透露，Llama 3停止訓練后，仍在學習。Meta之所以停止訓練，是因為需要GPU來開始測試 Llama 4。
值得一提的是，Llama 3的貢獻者名單中也有小扎。
AI創業公司Abacus AI的首席執行官表示：
「Llama 3 400B將徹底改變世界，成為一個巨大的加速器！你可以使用GPT 4-5級別的模型做非常強大的事情。
想象一下，將模型微調為AI醫生、AI經理，或AI女友。未來，基于這個基礎模型，將會涌現價值數十億美元的初創公司」！
每秒輸出800個token，Llama3驚呆網友
另一邊，Groq也第一時間提供了對Llama3 8B和70B的支持。
網址：??https://console.groq.com/docs/models??
Groq Cloud提供的支持，可以讓大家在沒有GPU的情況下使用這兩個大模型。
這無疑是對硬件資源不足、難以運行模型的微小企業與個人的巨大利好！
并且，Llama3在Groq上的表現也尤為驚艷：模型能以每秒超過800個token的速度運行！?
而一直以來的大模型王者GPT-4和新晉之秀Claude 3 Opus，其生成速度也僅有每秒36 token和18 token!
這幾乎是革命性的飛躍！
Clamath與Groq的 CEO認為：接下來，Groq將擁有比所有大型科技公司的總和還要多的AI生成能力！
800 token/每秒的速度，意味著大模型將更具成本效益，并能在更廣泛的范圍內應用、落地。
而Llama3媲美GPT-4級別的實力，打開了未來AI的無數種可能性。
網友們的親身體驗更是力證了這一點！
首先是簡單的從1到500的計數：
GPT-4還在卡頓時，Groq上的Llama3剛一接收指令就已經完成了任務。
當Llama3已經完成任務半天了，GPT-4連100以內都沒計數完。
然后任務難度升級，要求模型用Python編寫貪吃蛇游戲：
Groq上的Llama3不到3秒就結束了戰斗，而GPT-4卻用了半分多鐘才搞定。
接著另一個程序員網友試著讓Llama3創建一個用PHP編寫的待辦事項列表。
指令剛發出就得到了結果，網友大為震撼，評價這次的使用體驗：
「就像光速一樣。」
同時，在調用多個工具完成任務方面，Llama3的表現依舊驚艷！
調用工具所用時間小于4秒，面對復雜的財務問題，回答也僅用了2.9秒。
就連抓取整個網站提供給Llama3，它也可以在短短幾秒內就完成響應。
甚至Llama3的8B模型2秒就能讓完整的文件從λ-Calculus 轉換為慣用的JS......
體驗過的網友直接驚呼：「這是什么魔法？」
最讓人震撼的是，Groq上的模型還都是免費開放的，團隊甚至沒有制作付費選項！
在如此優秀的性能和強大免費的攻勢下，已經有人宣布
「我不會再用GPT-4 Turbo了。」
與Groq上的Llama3的光速響應相比，ChatGPT的緩慢已經引起了大多數用戶的不滿。
有人制作了使用了Groq上的Llama3后，再切換到ChatGPT上的GPT-4體驗的表情包：
更有網友銳評：
「就連Claude都比ChatGPT快！它的緩慢有時讓我昏昏欲睡。」
雖然有人厭倦了ChatGPT的緩慢，但也有人認為GPT較慢的生成反而增加了內容的可讀性，也更適合人機交互。
「快速獲取數據的確非常棒！
但較慢的生成有利于內容的可讀性和對任務流程的理解，這對用戶體驗來說更友好。」
此外，也有人認為Llama3的回答準確率不怎么高，不能只看速度不看質量。
OpenAI優勢將不復存在？
從Gemini到Claude 3接連叫板，再到類GPT-4級別的開源400B模型預告，GPT-4真的危了！
許多網友紛紛在線催更GPT-5。
據傳言，OpenAI有可能在22日（當地時間周一）有大動作。
因為那天，正好是奧特曼的生日。
與此同時，OpenAI官方賬號還發了一個有著數字「22」標志的王座。
不過近來，奧特曼在采訪中曾表示，OpenAI有改進模型的使命，所以我們會把所有初創公司干掉。
但在還沒有發布GPT-5之前，初創公司需要有危機感了。
本文轉自 新智元 ，作者：新智元
