在自動生成式人工智慧的盛行下,OpenAI 推出的 ChatGPT 服務的使用量急速增加。然而,這種技術所需的耗電量也是值得關注的問題。
以平均一次提問 5 個問題、每天處理超過 80 億個單詞推論為例,必須透過逾 3 萬張 A100 加速器進行處理,並消耗約 1872 萬 kW 的耗電量。對於這樣的耗電量而言,未來必須思考改善方案,才能維持可持續的發展。
在自動生成式人工智慧的盛行下,OpenAI 推出的 ChatGPT 服務的使用量急速增加。然而,這種技術所需的耗電量也是值得關注的問題。
以平均一次提問 5 個問題、每天處理超過 80 億個單詞推論為例,必須透過逾 3 萬張 A100 加速器進行處理,並消耗約 1872 萬 kW 的耗電量。對於這樣的耗電量而言,未來必須思考改善方案,才能維持可持續的發展。