在數(shù)字化轉(zhuǎn)型的進(jìn)程中，企業(yè)不僅需要高效、智能的工具來(lái)提升運(yùn)營(yíng)效率，還需確保數(shù)據(jù)安全與滿足隱私保護(hù)要求。DeepSeek 私有化部署正是為解決這一需求而生的，它通過(guò)將 DeepSeek 智能助手從公共云端遷移至企業(yè)內(nèi)部服務(wù)器，為企業(yè)提供了一種安全、可控且高度定制化的解決方案。這種部署方 式不僅能夠滿足企業(yè)對(duì)敏感數(shù)據(jù)的保護(hù)需求，還能根據(jù)具體業(yè)務(wù)場(chǎng)景進(jìn)行靈活 調(diào)整，從而為企業(yè)數(shù)字化轉(zhuǎn)型提供強(qiáng)有力的支持。

私有化部署 DeepSeek 就像是在企業(yè)內(nèi)部搭建一個(gè)智能工作站，需要合理 地規(guī)劃和專業(yè)地實(shí)施。想象一下，這就像要在公司內(nèi)部設(shè)立一個(gè)全新的智能部 門(mén)，我們需要先選擇合適的“人才”（模型），然后為其準(zhǔn)備“辦公環(huán)境”（硬件 設(shè)施），接著幫助他們“入職”（部署），最后開(kāi)始正式“工作”（運(yùn)行）。讓我們 通過(guò)以下 3 個(gè)關(guān)鍵步驟，詳細(xì)了解如何完成這個(gè)過(guò)程。

1.模型版本及硬件選型

首先，我們要進(jìn)行模型選型。就像招聘員工要根據(jù)崗位需求選擇合適的人選一樣，選擇合適的模型版本是成功部署的第一步。

企業(yè)可以根據(jù)自身需求、硬件條件和應(yīng)用場(chǎng)景，選擇最適合的模型版本。 建議從較小的模型開(kāi)始嘗試，隨著需求的增長(zhǎng)逐步升級(jí)到更高性能的版本。

為模型打造合適的運(yùn)行環(huán)境，就像為新員工準(zhǔn)備一個(gè)稱心如意的工作空間 一樣重要。

不同能力等級(jí)的模型，需要與之匹配的硬件支持。就像初級(jí)助理可能只需 要一臺(tái)普通辦公電腦，而資深專家則需要配備更專業(yè)的設(shè)備一樣。我們需要根 據(jù)不同模型的特點(diǎn)，精心規(guī)劃和準(zhǔn)備相應(yīng)的硬件環(huán)境，確保它們能夠充分發(fā)揮自身潛力。

這不僅是對(duì)模型性能的負(fù)責(zé)，更是對(duì)企業(yè)資源的合理利用。通過(guò)為每個(gè)模 型版本提供最適合的硬件配置，我們能夠在保證模型穩(wěn)定運(yùn)行的同時(shí)，實(shí)現(xiàn)資 源利用的最優(yōu)化。

表 9-1 所示是 DeepSeek 各個(gè)版本所需的硬件配置參考，實(shí)際使用中可根據(jù)參考進(jìn)行相應(yīng)的調(diào)整。

圖片

就像不同級(jí)別的員工需要不同規(guī)格的辦公設(shè)備一樣，選擇合適的硬件配置不僅能確保模型的流暢運(yùn)行，還能幫助企業(yè)實(shí)現(xiàn)資源的最優(yōu)配置。建議在部署 前詳細(xì)評(píng)估企業(yè)現(xiàn)有的硬件條件，選擇最適合的模型版本。

2.模型部署

當(dāng)硬件準(zhǔn)備好之后，我們可以采用 Ollama 把需要的模型從云端部署到本地。

Ollama 是一個(gè)開(kāi)源框架，專為在本地機(jī)器上便捷部署和運(yùn)行大型語(yǔ)言模型 而設(shè)計(jì)。允許用戶在本地計(jì)算機(jī)上輕松下載、運(yùn)行和管理大型語(yǔ)言模型，就像 在電腦上安裝一個(gè)軟件一樣簡(jiǎn)單。它提供了一個(gè)簡(jiǎn)單的方式來(lái)加載和使用各種 部署好的大型語(yǔ)言模型，支持文本生成、翻譯、代碼編寫(xiě)、問(wèn)答等多種自然語(yǔ) 言處理任務(wù)。

Ollama 的目標(biāo)是簡(jiǎn)化在 Docker 容器中部署大型語(yǔ)言模型的過(guò)程，使得非 專業(yè)用戶也能輕松上手。它支持 macOS（特別是針對(duì) Apple Silicon 進(jìn)行了優(yōu) 化）、Linux 、Windows（預(yù)覽版）以及 Docker 容器化部署，用戶可以根據(jù)自己的硬件環(huán)境和使用需求選擇合適的平臺(tái)進(jìn)行模型的運(yùn)行。

Ollama 將復(fù)雜的模型下載、安裝、運(yùn)行過(guò)程標(biāo)準(zhǔn)化，使用起來(lái)像運(yùn)行一個(gè) 命令行工具，非常簡(jiǎn)單。用戶只需通過(guò)簡(jiǎn)單的一個(gè)命令，就可以自動(dòng)下載或運(yùn)行所需的模型。

我們可以到 Ollama 官網(wǎng)（https://ollama.com/ ）去下載 Ollama 客戶端，如圖1 所示。

圖1 Ollama 官網(wǎng)

根據(jù)系統(tǒng)環(huán)境的類(lèi)型，選擇對(duì)應(yīng)的版本進(jìn)行下載，如圖2 所示。

圖2 選擇對(duì)應(yīng)的版本

以 Windows 環(huán)境為例，我們下載 Ollama 的 Windows 安裝包 OllamaSetup. exe 之后，只需要雙擊它就可以自動(dòng)安裝 Ollama，如圖3 所示。

圖3 安裝 Ollama

安裝完成后，我們?cè)?nbsp;Windows 應(yīng)用程序中就能找到 Ollama 并運(yùn)行它，需要注意的是，Ollama 運(yùn)行之后，并不會(huì)出現(xiàn)一個(gè)窗口界面，而是在我們 Windows 右下角的任務(wù)欄中會(huì)出現(xiàn)一個(gè) Ollama 的圖標(biāo)。

如何驗(yàn)證 Ollama 已經(jīng)在我們的 Windows 中成功地運(yùn)行起來(lái)了呢？我們 可以打開(kāi)瀏覽器，輸入“ localhost:11434”，如果出現(xiàn)一行文字“ Ollama is running ”，就證明 Ollama 已經(jīng)成功地運(yùn)行起來(lái)了。后續(xù)操作不做展開(kāi)說(shuō)明，詳細(xì)步驟可閱讀《DeepSeep超簡(jiǎn)單入門(mén)：從小白到AI達(dá)人》

3.運(yùn)行模型

模型成功下載完成之后，就進(jìn)入部署的最后一步，也是最激動(dòng)人心的一 步—在本地計(jì)算機(jī)運(yùn)行我們下載好的模型。模型的私有化運(yùn)行，全部依靠本地計(jì)算機(jī)的計(jì)算能力，不再依靠任何網(wǎng)絡(luò)環(huán)境。這意味著哪怕你斷開(kāi)了本地計(jì)算機(jī)的網(wǎng)絡(luò)連接，仍然可以在本機(jī)運(yùn)行大模型。這就是模型私有化運(yùn)行帶來(lái)的 充分的安全性和隱私性的優(yōu)勢(shì)。

有了 Ollama 的模型管理能力的加持，運(yùn)行模型只需要一行命令“ ollama run deepseek-r1:8b”就能輕松完成，同理，這里的 deepseek-r1:8b 是我們剛才下載到本地計(jì)算機(jī)的模型名稱。

經(jīng)過(guò)以上3 個(gè)步驟，就可以輕松完成 DeepSeek 模型的本地私有化部署以及本地化運(yùn)行。當(dāng)然，這就像新員工需要一段時(shí)間適應(yīng)工作環(huán)境一樣，建議在 DeepSeek 私有化部署完成的初期，多進(jìn)行測(cè)試和優(yōu)化，確保 DeepSeek 模型在實(shí)際應(yīng)用中發(fā)揮最佳性能。同時(shí)，保持與 DeepSeek 技術(shù)社區(qū)的互動(dòng)，及時(shí)獲取最新的部署經(jīng)驗(yàn)和優(yōu)化建議，這樣可以讓你的 AI 助手越來(lái)越得心應(yīng)手。

本文摘編于《DeepSeep超簡(jiǎn)單入門(mén)：從小白到AI達(dá)人》，經(jīng)出版方授權(quán)發(fā)布，轉(zhuǎn)載請(qǐng)保留文章來(lái)源。