Google推出了其首款開源人工智能模型Gemma,提供兩種規模版本:Gemma 2B和7B。這款模型尤其適合從事英文創意任務,如文本生成、摘要、基本推理等。由於其體積小巧,該模型可以在低資源的電腦上離線下載並使用,無需網絡連接。
今篇文章將告訴大家如何在Windows、macOS和Linux上下載並運行Google Gemma人工智能模型。
下載Google Gemma 2B模型
首先,在電腦上免費下載LM Studio。(https://lmstudio.ai/)
啟動程序後,在首頁上找到 “Google Gemma 2B Instruct ”模型,或者手動搜索 “Gemma”。
打開後,點擊“下載”。Gemma 2B 模型已經進行了 4-bit 壓縮,體積為 1.5GB,以減少模型大小和降低記憶體使用量。如果電腦擁有 8GB或以上的RAM,可以下載 8-bit模型(2.67GB)。
使用LM Studio離線運行Google Gemma
在LM Studio中,轉到左側的 “Chat ”窗口。
點擊 “Select a model to load” 並選擇 “gemma”。這將占用大約1.4GB的RAM。
現在,可以開始提問。根據個人經驗,小型的2B Gemma模型非常適合英語創意任務。當尋求對任何主題的觀點時(例如,C語言是否比Rust更好?),它會拒絕提供有價值的回答。用戶還可以在右側設置系統提示,以自定義AI模型的行為。
這就是在PC、Mac和Linux電腦上下載並運行Google Gemma模型的方法。雖然Google的開源模型可能顯得有些平淡,但對於那些尋找可本地運行的簡單AI模型的人來說,它可能是有用的。
如果您正在尋找一個真正的本地AI助手,強烈推薦檢查Open Interpreter。它類似於ChatGPT的代碼解釋器,並且可以在電腦上執行實際任務。最後,如果您有任何問題,歡迎在下方評論區提問。