快轉到主要內容

Text Generation WebUI硬體需求

· 民國112年癸卯年
·
切換繁體/簡體 ·
分類 Linux系統 Self-hosting自架
目錄

作業系統
#

  • Linux建議Ubuntu 22.04以上版本
  • Windows建議使用Windows 10以上版本
  • macOS建議Ventura以上版本,M1處理器的更好

硬體需求
#

  • CPU:四核心以上CPU
  • GPU:Nvidia/AMD/Intel/Apple,推薦使用Nvidia顯示卡
  • GPU VRAM:6GB以上
  • RAM:16GB以上。如果電腦沒有SWAP/分頁檔建議直接上32GB
  • 儲存空間:至少30GB

GPU非必須品,因Text Generation WebUI支援以純CPU模式運算(llama.cpp)。當然有GPU更好,生成回答的速度會快很多。

相關文章


感謝您的閱讀。我寫作是為了誠實表達想法,而不是追逐社群互動與流量。我很樂意傾聽你在仔細閱讀我文章之後的心得。若有內容勘誤 or 技術問題 or 回饋想法,歡迎透過本站「關於」頁面的Email與我聯絡。