快轉到主要內容

oobabooga的Text Generation WebUI ~ 離線聊天AI介紹

· 民國112年癸卯年
·
切換繁體/簡體 ·
分類 Linux系統 Self-hosting自架
標籤 LLaMA AI LLM

想要在自己的電腦跑離線版的ChatGPT嗎?來試試安裝「Text Generation WebUI」吧。

oobabooga開發的「Text Generation WebUI」支援多種大型語言模型(LLM)。可以在本機跑AI模型,與使用者聊天,比如Meta公司釋出的LLaMA模型。

開發者想仿效AUTOMATIC1111,讓Text Generation WebUI變成大型語言模型版的Stable Diffusion WebUI,也就是能啟動各式各樣的語言模型,作為各種AI模型的前端(frontend),類似整合包的概念。

您可以利用此軟體,問AI各種問題,要求寫文章、翻譯文本,或是聊天角色扮演,或是叫AI跑Stable Diffusio繪圖!

所有ChatGPT的提示詞都可以在這裡拿來用,現在部份模型也支援中文作答囉。

本軟體支援Linux/Window/macOS,開發者有提供一鍵安裝器,使用起來十分簡單。

使用者還可以安裝各式各樣的擴充功能,增加AI玩法。同樣地,Text Generation WebUI也提供API,能與其他程式協同運作。

相關文章


感謝您的閱讀。我寫作是為了誠實表達想法,而不是追逐社群互動與流量。我很樂意傾聽你在仔細閱讀我文章之後的心得。若有內容勘誤 or 技術問題 or 回饋想法,歡迎透過本站「關於」頁面的Email與我聯絡。