(資料圖)
臉書母公司Meta首席執行官扎克伯格最新推出了“Meta人工智能大型語言模型”(Large Language Model Meta AI),簡稱“LLaMA”。
扎克伯格在社交媒體上稱,Facebook AI Research研發的LLaMA是“目前水平最高的”大型語言模型,目標是幫助研究人員推進他們在人工智能(AI)領域的工作。
“大型語言模型”(LLM)可以消化大量的文本數據,并推斷文本的單詞之間的關系。隨著計算能力的進步,以及輸入數據集與參數空間的不斷擴大,LLM的能力也相應提高。
目前,LLM已經被證明能高效地執行多種任務,包括文本生成、問題回答、書面材料總結等。扎克伯格稱,LLM在自動證明數學定理、預測蛋白質結構等更復雜的方面也有很大的發展前景。
值得一提的是,近期大火的ChatGPT就是采用LLM構建的聊天機器人。ChatGPT由GPT3.5提供支持,而GPT3.5是一款基于OpenAI 175B參數基礎模型訓練的LLM,175B是它從訓練數據中所學習、沉淀下來的內容。
Meta在官網介紹中稱,LLaMA有7B、13B、33B和65B四個基礎模型,在大多數基準測試中都優于GPT3.5的前身GPT3-175B,而LLaMA-65B可與業內最佳的Chinchilla-70B和PaLM-540B競爭。
Meta還宣布,將針對學術研究者共享其模型,正在接受研究人員的申請。與之截然不同的是,谷歌旗下的DeepMind和OpenAI并不公開訓練代碼。
根據2021年媒體的一份調查顯示,AI專家們通常將DeepMind、OpenAI和FAIR(Facebook AI Research)視為該領域的“前三甲”。
去年年底,Meta發布了另一款名為Galactica的模型,但因經常分享偏見和不準確的信息而遭到下架。
責任編輯:李楠
分享到:版權聲明:凡注明來源“流媒體網”的文章,版權均屬流媒體網所有,轉載需注明出處。非本站出處的文章為轉載,觀點供業內參考,不代表本站觀點。文中圖片均來源于網絡收集整理,僅供學習交流,版權歸原作者所有。如涉及侵權,請及時聯系我們刪除!