LM Studio 下載模型失敗怎么辦
LM Studio 簡(jiǎn)介
LM Studio是一款免費(fèi)本地模型部署、應(yīng)用軟件， 主要功能：
? 模型部署
? Chat 應(yīng)用
? 兼容OpenAI的Local Server， 支持以下接口
? GET /v1/models
? POST /v1/chat/completions
? POST /v1/embeddings
? POST /v1/completions
LM Studio vs ollama
LM Studio 功能上比 ollama + Open WebUI 弱不少（Open WebUI的缺點(diǎn)就是比較難安裝） ，有興趣OpenWebUI的，建議看看這兩篇文章
? 一行代碼讓你免魔法部署Open-WebUI
? ollama 使用技巧集錦
沒有魔法，無法下載huggingface.co的模型， 另外 LM Studio 不支持設(shè)置鏡像，導(dǎo)致每次下載模型都會(huì)報(bào)錯(cuò)。今天就介紹兩個(gè)方法來下載（部署）模型，無需魔法。
手工修改下載地址
選擇要下載的模型，報(bào)錯(cuò)，就是上圖的結(jié)果，把程序關(guān)閉，用編輯器打開~/.cache/lm-studio/downloads.json?，下面的例子就是下載gemma-2b-it-q8_0.gguf 的信息，
{
"downloadsMap": [
[
"https://huggingface.co/lmstudio-ai/gemma-2b-it-GGUF/resolve/main/gemma-2b-it-q8_0.gguf",
{
"status": {
"type": "paused",
"pauseReason": {
"type": "error",
"errorMessage": "read ECONNRESET"
}
},
"url": "https://huggingface.co/lmstudio-ai/gemma-2b-it-GGUF/resolve/main/gemma-2b-it-q8_0.gguf",
"filename": "gemma-2b-it-q8_0.gguf",
"targetPath": "/Users/m2max/.cache/lm-studio/models/lmstudio-ai/gemma-2b-it-GGUF/gemma-2b-it-q8_0.gguf",
"tempDownloadPath": "/Users/m2max/.cache/lm-studio/models/lmstudio-ai/gemma-2b-it-GGUF/downloading_gemma-2b-it-q8_0.gguf.part",
"sha256": "ec68b50d23469882716782da8b680402246356c3f984e9a3b9bcc5bc15273140",
"totalSizeBytes": null,
"downloadedSizeBytes": 0,
"downloadRequest": {
"url": "https://huggingface.co/lmstudio-ai/gemma-2b-it-GGUF/resolve/main/gemma-2b-it-q8_0.gguf",
"filename": "gemma-2b-it-q8_0.gguf",
"sha256checksum": "ec68b50d23469882716782da8b680402246356c3f984e9a3b9bcc5bc15273140",
"subpath": "lmstudio-ai/gemma-2b-it-GGUF"
}
}
]
],
"endedDownloadsMap": [],
"mergeTasks": []
}看到這里，大家想到咋辦了嗎？把huggingface.co? 替換成hf-mirror.com保存再次打開LM Studio
鏈接變了
換鏡像
點(diǎn)Try Resume 就可以愉快地繼續(xù)了
可以愉快下載模型了
手工下載模型
下載gguf
記得下載GGUF格式，如果不是，你得自己轉(zhuǎn)。 至于哪里下載，hf-mirror.com 或者魔搭[1]都可以。
當(dāng)然也可以用 ollama 下載， 這個(gè)更方便，當(dāng)然你既然選擇了LM Studio，我不確定你還會(huì)下載 ollama 了，但萬一你有 ollama 下載的模型，可以參考這篇文章得到gguf ollama 使用技巧集錦
手工安裝
只需要把gguf按照指定的目錄結(jié)構(gòu)copy過去即可 讓我們看看剛剛下載的gemma-2b-it-q8_0.gguf 是如何保存的吧？
lmstudio-ai
|____gemma-2b-it-GGUF
|____gemma-2b-it-q8_0.gguf對(duì)比下我的下載路徑
https://hf-mirror.com/lmstudio-ai/gemma-2b-it-GGUF/resolve/main/gemma-2b-it-q8_0.gguf現(xiàn)在明白兩層目錄怎么來的了吧， 比如我們同時(shí)下載了
FAQ
不知道自己的模型目錄和配置信息在哪里？點(diǎn)這里就可以了，donwloads.json就在這個(gè)的上一級(jí)目錄。
模型信息
本文轉(zhuǎn)載自?? alitrack??，作者： alitrack
