TPC 聯盟成立:目標萬億以上參數 AI 模型,推進科學發現
11 月 16 日消息,業內領先的科研機構、美國國家超級計算中心和諸多 AI 領域龍頭公司,近日聯合組建了萬億參數聯盟(Trillion Parameter Consortium,簡稱 TPC)。
由 DALL-E 3 生成
IT之家從報道中獲悉,TPC 聯盟由來自全球實驗室、科研機構、學術界和工業界的科學家組成,目標是共同推進用于科學發現的 AI 模型,特別關注一萬億或更多參數的巨型模型。
TPC 聯盟目前已經正在開發可擴展模型架構和訓練策略,組織和整理用于模型訓練的科學數據,為當前和未來的百萬兆次級計算平臺優化 AI 庫。
TPC 旨在創建一個開放的研究人員社區,為科學和工程問題開發大規模生成式 AI 模型,特別是,將啟動聯合項目,以避免重復工作并共享方法、途徑、工具、知識和工作流程。通過這種方式,該聯盟希望最大限度地發揮這些項目對更廣泛的人工智能和科學界的影響。
TPC 還旨在創建一個由資源、數據和專業知識組成的全球網絡。自成立以來,該聯盟已經建立了許多工作組,以解決構建大規模人工智能模型的復雜性。
培訓所需的百萬兆次級計算資源將由美國能源部 (DOE) 的幾個國家實驗室以及日本、歐洲和其他國家 / 地區的幾個 TPC 創始合作伙伴提供。即使有這些資源,培訓也需要幾個月的時間。
美國能源部阿貢國家實驗室計算、環境和生命科學副主任、芝加哥大學計算機科學教授里克?史蒂文斯(Rick Stevens)說:“在我們的實驗室和世界各地越來越多的合作機構中,團隊開始開發用于科學用途的前沿人工智能模型,并正在準備大量以前未開發的科學數據進行訓練。