黃仁勛對話扎克伯格,暢聊大模型開源的重要性
自ChatGPT問世以來,大模型的開源與閉源一直是業界熱議的話題。在近期舉行的SIGGRAPH?2024大會上,NVIDIA首席執行官黃仁勛與Meta首席執行官馬克·扎克伯格探討了開源模型的變革潛力。
合作是進步的關鍵
美國當地時間7月23日,Meta正式發布最新的開源大模型Llama?3.1,提供8B、70B和405B三個參數版本,最大上下文提升到了128k。根據評測結果顯示,Llama?3.1追平甚至超越了GPT-4o、Claude?3.5?Sonnet等頂尖閉源大模型。
扎克伯格認為,合作是取得更多進步的關鍵。他在一篇博客文章中寫道,Llama?3.1有望成為采用開源AI的“轉折點”。據他介紹,Meta在開源方面的起步相對較晚。當Meta開始著手構建分布式計算基礎設施和數據中心時,已有其他科技公司涉足該領域,所以這并不能構成Meta的競爭優勢。
鑒于此,Meta決定直接進行開源,并從圍繞其建立的生態系統中受益,其中最大的項目應該是開放計算。Meta公開了服務器、網絡和數據中心的設計,這些設計在成為行業標準后,所有的供應鏈基本上都按Meta的標準進行運作。因此,實際上開源為Meta節省了數十億美元。
開源將帶來不可估量的價值
在探討開源策略時,扎克伯格強調,Meta的產品面臨著一個現實,即通過競爭對手的移動平臺來分發自己的應用程序。在智能手機操作系統的競爭中,蘋果憑借其封閉的生態系統占據了市場的主導地位,游戲規則都是蘋果說了算。盡管Android手機在數量上占優勢,但蘋果實質上控制了整個市場和大部分利潤,而Android則處于追隨地位。然而,回顧PC時代,盡管微軟并非完全開放的公司,但與蘋果相比,Windows系統能夠在各種OEM、不同的軟件和硬件上運行,構成了一個更為開放的生態系統,并成為領先的生態系統。在PC時代,開放的生態系統占據主導地位。
因此,扎克伯格希望在下一代計算中,開放的生態系統能夠再次回歸并成為主導趨勢?!伴_源和閉源兩種模式各有其優勢,我并不是非??駸岬拈_源主義者,也并非所有Meta的產品都開源。然而,對于整個行業共同構建的計算平臺而言,開源具有重要意義?!痹瞬駡孕?,開源終將獲勝。
黃仁勛對此表示贊同,他認為,開源是一項偉大的事業,世界上最杰出的人才致力于打造最好的人工智能系統,并將其作為服務無私地提供給全世界。同時,開源還賦予了個人或組織構建自己的人工智能系統的能力?!熬拖裎也粫约鹤鑫疑砩线@件皮衣,而是買別人做的成品,這種服務的價值不可估量。”黃仁勛說道。
實際上,開源軟件的建設并非單憑一人或一家公司之力所能完成,它依賴于一個完整的生態系統作為支撐,本質上就需要開放和協作。黃仁勛以Pytorch生態系統為例,指出NVIDIA有數百名專業人員全心投入,致力于讓?Pytorch不斷進步,變得更強大、更可擴展、更高效。
寫在最后:
開源的重要性不言而喻。通過開源,企業和開發者可以共享他們的研究成果,加速技術迭代,并且降低進入門檻,讓更多的人可以參與到大模型的開發中來。在未來,我們有理由相信,開源將繼續在大模型領域發揮更加重要的作用。