Meta 新推出的 Llama 3.3 70B 型號以更低成本達到 405B 的性能水平

在 2024 年 9 月,Meta 發布了一系列 Llama 3.2 型號,現在該公司推出了針對效率進行優化的新型 Llama 3.3 70B 型號。雖然 Llama 3.2 90B 是一款具備視覺能力的多模態模型,但新的 Llama 3.3 70B 型號則僅限於文本。

根據 Meta 的說法,新的 Llama 3.3 70B 型號的性能幾乎與更大尺寸的 Llama 3.1 405B 型號相匹配。這是一個巨大的進步,因為其尺寸更小,且能以更低的成本提供服務。然而,在所有基準測試中,該模型並未完全超越更大的 405B 型號。

在 MMLU 和 HumanEval 基準測試中,Llama 3.3 70B 型號的得分分別為 86.0 和 88.4,而 405B 型號在同一組測試中稍微表現更佳,得分為 88.6 和 89.0。儘管如此,Llama 3.3 70B 型號在 MATH 和 GPQA Diamond 測試中表現更好。

Meta 表示,對於僅需文本應用的情況,建議使用新的 Llama 3.3 70B 型號,而非 405B 型號。由於其尺寸較小,1 百萬輸入/輸出標記的成本僅為 0.1 美元 / 0.4 美元,而更大的 405B 型號則為 1.0 美元 / 1.8 美元。

至於語言支持,Llama 3.3 70B 型號支持英語、德語、法語、意大利語、葡萄牙語、印地語、西班牙語和泰語。其知識截止日期為 2023 年 12 月,且上下文長度可達 128K 標記。用戶可在 HuggingChat 上免費與新的 Llama 3.3 70B 型號進行對話。

日本電話卡推介 / 台灣電話卡推介
更多儲值卡評測請即睇:SIM Card 大全
https://www.techritual.com/category/sim-card-review/

Henderson
Henderson
Henderson 主要擔任「炒稿記者」的職責,以翻譯最新科技,手機 電動車等消息為每天的工作。