Apple 的 Mac Studio 搭載 M3 Ultra 芯片,展現出無與倫比的能力,成功在內存中運行 DeepSeek R1 AI 工具,這款工具擁有 6710 億個參數。YouTube 評測員 Dave2D 的測試顯示,儘管使用的是 4 位量化版本的模型,但仍保持完整的參數數量並且運行流暢。
DeepSeek R1 模型通常需要 404GB 的存儲和高帶寬內存,這在 GPU VRAM 中是常見的,通常需要多個高端顯示卡的多 GPU 設置來運行。然而,M3 Ultra 的統一內存系統利用其 512GB 的統一內存來存儲和處理 AI 模型,這是其他個人電腦無法實現的。
儘管 MacOS 對 VRAM 設置有默認限制,Dave Lee 通過終端手動增加了分配,將 AI 處理的內存提升至 448GB,消除了內存瓶頸,減少了多個組件的需求,以在單一系統上簡化 AI 性能。這次測試中最引人注目的方面是 M3 Ultra 的能效,它在運行 DeepSeek R1 時消耗不足 200W,這遠低於傳統多 GPU 設置。
能在沒有多 GPU 設置的情況下運行如此要求苛刻的 AI 模型,挑戰了行業標準。傳統的高端工作站和伺服器農場通常依賴於消耗大量電力的 GPU 集群。Apple 的統一內存架構通過在 CPU 和 GPU 工作負載之間共享 M3 Ultra 的內存池,實現了顯著的節能效果,與傳統 PC 設置中 VRAM 與系統內存分離的情況截然不同,最大化帶寬的同時最小化能耗。
Apple 的 Mac Studio 以 M3 Ultra 芯片發佈,配備高達 32 核的 CPU 和 80 核的 GPU,使其成為最佳大型語言模型(LLM)工作站之一,也是最佳視頻編輯電腦之一。這一創新不僅展示了 Apple 在技術上的領先地位,還為未來的 AI 應用提供了強大的支持,進一步鞏固了其在市場中的影響力。
日本電話卡推介 / 台灣電話卡推介
更多儲值卡評測請即睇:SIM Card 大全
https://www.techritual.com/category/sim-card-review/