AI 領域再添一員"猛將",Meta 發布全新大型語言模型LLaMA
ChatGTP走紅以來,圍繞ChatGTP開發出來的AI應用層出不窮;讓人們感受到了人工智能的強大!
近日,Facebook 母公司Meta 發布了人工智能大型語言模型(Large Language Model Meta AI)簡稱LLaMA。
扎克伯格在社交媒體上稱:”由 FAIR 團隊研發的LLaMA模型是目前世界上水平最高的大型語言模型, 目標是幫助研究人員推進他們在人工智能領域的工作!“。
與其他大型模型一樣,Meta LLaMA 的工作原理是將一系列單詞作為“輸入”并預測下一個單詞以遞歸生成文本。
據介紹,Meta 正在開發多種參數(7B、13B、33B 和 65B)的 LLaMA。其中,LLaMA 65B 和 LLaMA 33B 在 1.4 萬億個 tokens 上訓練,而最小的模型 LLaMA 7B 也經過了 1 萬億個 tokens 的訓練。
另外LLaMA 模型接受了 20 種語言訓練,包括拉丁語和西里爾字母語言,所需的計算能力遠低于之前推出的大模型。
FAIR團隊表示,LLaMA 目前尚未被應用在 Meta 的任何產品之中。
與”DeepMind“ 和 ”OpenAI“ 不同的是,LLaMA將會公開訓練代碼;
Meta 還計劃將這項技術優先開放給 AI 研究人員,如果想使用 LLaMA 可以提交申請,審核通過就可以使用。