【教學】如何安裝 Gemma 3 LLM 在 Windows 11 PC

Gemma 3 是一個強大的大型語言模型 (LLM),允許您在本地機器上直接執行各種自然語言處理任務。在 Windows 11 PC 上安裝 Gemma 3 可提供快速、離線訪問先進的語言處理能力,而無需依賴雲服務。按照以下詳細步驟,讓 Gemma 3 在您的系統上順利運行。

前置條件

在開始之前,請確保您的 Windows 11 PC 滿足以下要求:

  • 擁有管理員權限的 Windows 11。
  • 安裝 Python 3.10 或更高版本。
  • 安裝 Git 以克隆庫。
  • 足夠的磁碟空間(建議至少 20 GB)。
  • 建議使用支持 CUDA 的 NVIDIA GPU 以獲得最佳性能,雖然也可以進行 CPU 安裝。

方法 1:使用 Python 和 Git 安裝 Gemma 3(推薦)

步驟 1:首先,確保 Python 在您的系統上正確安裝。打開命令提示符或 Windows 終端,通過輸入來驗證您的 Python 安裝:

python --version

如果 Python 正確安裝,您將看到類似 Python 3.10.x 的內容。如果沒有,請從上面鏈接的官方網站下載並安裝 Python。

步驟 2:接下來,如果尚未安裝 Git,請安裝它。通過輸入來驗證安裝:

git --version

如果 Git 正確安裝,將顯示版本號。否則,請從前置條件部分提供的官方鏈接安裝它。

步驟 3:將官方 Gemma 3 倉庫克隆到您的本地機器。導航到您希望存儲 Gemma 3 文件的目錄,然後運行:

git clone https://github.com/google/gemma.git

此命令將 Gemma 3 倉庫下載到名為 gemma 的新文件夾中。

步驟 4:使用以下命令進入克隆的 Gemma 目錄:

cd gemma

步驟 5:現在,設置 Python 虛擬環境以清晰地管理依賴項。通過輸入來創建並激活虛擬環境:

python -m venv gemma-env
gemma-env\Scripts\activate

這會將 Gemma 3 的依賴項與您的全局 Python 安裝隔離。

步驟 6:通過運行以下命令安裝 requirements.txt 文件中列出的所有所需依賴項:

pip install -r requirements.txt

此命令可能需要幾分鐘才能完成,因為它安裝所有必要的庫。

步驟 7:安裝依賴項後,下載 Gemma 3 模型權重。通常,倉庫會提供下載這些權重的腳本或說明。請仔細按照倉庫的 README 文件中的說明獲取正確的模型文件。

步驟 8:下載模型權重後,您可以通過運行提供的示例腳本來測試您的 Gemma 3 安裝。通常,可以使用類似以下的命令進行:

python run_gemma.py --model gemma-3

用倉庫文檔中提供的實際腳本和模型標識符替換 run_gemma.pygemma-3

如果一切設置正確,Gemma 3 將開始在本地運行,準備處理您的輸入。

方法 2:使用 Docker 安裝 Gemma 3(替代方案)

如果您更喜歡容器化解決方案,Docker 提供了一個方便的替代方案,可以快速設置 Gemma 3。

步驟 1:從官方 Docker 網站安裝 Docker Desktop 到您的 Windows 11 PC。請仔細遵循提供的安裝說明,以確保 Docker 正常運行。

步驟 2:打開 Windows 終端或命令提示符,並通過以下命令驗證您的 Docker 安裝:

docker --version

步驟 3:拉取官方 Gemma Docker 容器映像(如果可用)。通常,官方倉庫或文檔會提供 Docker 映像名稱。例如,運行:

docker pull google/gemma:latest

用官方 Gemma 文檔提供的實際 Docker 映像名稱替換 google/gemma:latest

步驟 4:使用以下命令運行 Gemma 3 的 Docker 容器(根據需要調整參數):

docker run -it --rm -p 8000:8000 google/gemma:latest

此命令在 Docker 容器中啟動 Gemma 3,可以通過瀏覽器或 API 客戶端在 8000 端口訪問。

步驟 5:通過打開您的網頁瀏覽器並導航到 http://localhost:8000 或容器文檔中指示的特定地址來確認容器正在運行。

定期通過從官方倉庫或 Docker 映像中拉取最新更改來更新您的 Gemma 3 安裝。保持環境更新可確保最佳性能、安全修補和新功能。現在,您可以在 Windows 11 PC 上本地使用 Gemma 3。享受直接從桌面實驗自然語言處理任務的樂趣!

日本電話卡推介 / 台灣電話卡推介

更多儲值卡評測請即睇:SIM Card 大全
https://www.techritual.com/category/sim-card-review/