首頁 -> 電訊
Meta發布兩款最新開源大模型分享到:
香港中通社4月6日電 4月5日,臉書母公司Meta推出最新兩款大型語言模型Llama 4 Scout和Llama 4 Maverick。Meta稱,它們是公司“迄今最先進的模型”,且是“同類中最佳的多模態模型”。
Meta表示,Llama 4是其首個採用混合專家(MoE)架構的模型系列,這種架構在訓練和回答查詢時計算效率更高。混合專家架構基本上是將數據處理任務分解為子任務,然後將它們委派給更小的、專門的“專家”模型。 例如,Maverick總共有4000億個參數,但在128個“專家”模型中只有170億個活躍參數(參數數量大致與模型的問題解決能力相對應)。Scout有170億個活躍參數、16個“專家”模型以及總計1090億個參數。 在中國大語言模型DeepSeek引領開源浪潮以前,Meta一直是開源模型的行業領先者。Llama系列模型由Meta在2022年推出。Llama是一種多模態人工智能(AI)系統,能够處理和整合多種類型的數據,包括文本、視頻、圖像和音頻,且可以轉換成不同格式。 美國OpenAI的大語言模型ChatGPT橫空出世7個多月後,2023年,Meta就率先宣布開源Llama 2,並且可免費商用。這也成為大模型發展的分水嶺。 本月5日Meta最新發布的是Llama第四代模型的兩個版本,它們也將開源。Meta還稱,另一款模型Llama 4 Behemoth還在“訓練”中,並稱之為“世界上最聰明的大型語言模型之一”。(完) 相關新聞
|
視頻更 多
2025立法會選舉結果出爐 您的“心水”議員當選了嗎?
香港第八屆立法會選舉:多位港星一早現身 三個投票界別的投票率均超過上屆
香港立法會選舉|宏福苑災民專程帶小孩前往投票 肥媽哽咽籲災民向前看
【香港故事】大火中的溫情:這間小旅館為災民撐起一個臨時的“家”
【通說環球】2.7萬億元、33萬名賭徒 “電炸王國”KK園區覆滅記
99秒極速換電的士香港上線 換車成本降到8萬 每月可多賺8000
過千人入住政府過渡性房屋 “善樓”負責人:希望為災民們建一個家
來論更 多評論更 多
論壇更 多閱讀排行
|









