成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

手把手教你將本地部署的DeepSeek R1集成到Dify

發布于 2025-2-3 13:45
瀏覽
0收藏

今天,手把手教大家在本地部署DeepSeek R1,并將其集成到Dify中,實打實提升你的工作效率!

一、本地部署模型

本部分介紹在本地通過ollama部署DeepSeek R1。

1、安裝ollama

在ollama官網,選擇操作系統,下載ollama應用程序并安裝

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

命令行輸入ollama,出現下面的提示,則說明安裝成功。

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

2、部署deepseek模型

在ollama官網,點擊「Models」,選擇第一個「DeepSeek R1」

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

根據自己的顯存選擇對應的版本大小。


模型名稱

參數規模(b)

顯存需求(FP16,GB)

顯存需求(4位量化,GB)

7b模型

7

16

4

16b模型

16

37

9

67b模型

67

154

38

236b模型

236

543

136

671b模型

671

1543

386

推薦GPU:
- 7B和16B之類的較小型號,消費者GPU(例如NVIDIA RTX 4090)是合適的。
- 較大的模型,超過1000億個參數的模型,通常需要數據中心GPU,例如NVIDIA H100或分布式設置中的多個高端消費者GPU。

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

如何查看自己電腦顯存呢?

在windows10電腦上,右鍵點擊左下方的Win10圖標,彈出下拉菜單,選擇【運行】選項并點擊進入運行對話窗口,在運行對話窗口內輸入dxdiag命令【主要查看N卡】。

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

計算:電腦顯存==>16112MB / 1024MB約等于16GB,選擇最小7B參數的模型。

點擊7b,然后在右側會出現下載命令:

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

將下載命令復制,到命令行中執行:

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區


下載之后,就可以通過命令行和大模型進行對話了:

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

通過命令行和大模型進行對話不太方便,接下來,介紹一下將其集成到Dify中,通過可視化的方式調用。

二、Dify中配置DeepSeek R1

登錄到已經部署好的Dify中,點擊設置,在「模型供應商」選擇「ollama」

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

「模型名稱」填:deepseek-r1:7b。

「基礎URL中」,若ollama和Dify是同一臺機器部署,并且Dify是通過Docker部署,那么填http://host.docker.internal:11434,

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區


其他情況填http://localhost:11434,填完之后點擊保存即可。

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區


三、創建應用

在Dify中創建一個應用來使用DeepSeek R1模型。

創建一個「聊天助手」,填寫「應用名稱」和「描述」,點擊創建:

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

選擇添加好的DeepSeek R1模型:

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區


需要注意的是,DeepSeek R1是一個推理模型,不支持函數調用,也就是說無法集成在DIfy的智能體中,但是DeepSeek V3可以。

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

沒有聯網的deepseek-r1存在嚴重的幻覺。

手把手教你將本地部署的DeepSeek R1集成到Dify-AI.x社區

 

本文轉載自 ??AIGC新知??,作者: 絳燁

收藏
回復
舉報
回復
相關推薦
主站蜘蛛池模板: 国产精久久久久久久 | 成人永久免费 | 亚洲成人毛片 | 国产一级电影在线观看 | 成人欧美一区二区三区黑人孕妇 | 亚洲精品乱码久久久久久按摩 | 国产精品福利久久久 | 亚洲视频一区 | 啪啪av | 色婷婷久久综合 | 精品国产乱码久久久久久老虎 | 欧美成人一区二免费视频软件 | 国产色视频网站 | 色又黄又爽网站www久久 | 日日干夜夜操 | 国产成人99久久亚洲综合精品 | 欧美精品综合在线 | 亚洲成人一区 | 中文字幕二区三区 | 国产电影一区二区三区爱妃记 | 麻豆亚洲 | 国产亚洲一区二区三区在线 | 亚洲视频一区二区三区四区 | 中文在线一区二区 | 一区二区视频在线 | 国产精品欧美一区二区三区不卡 | 五月婷婷在线播放 | 国产一区二区精品在线观看 | 91传媒在线观看 | 亚洲一区二区在线 | 欧美一级毛片久久99精品蜜桃 | 久久四虎 | 国产乱精品一区二区三区 | 天天曰天天干 | 欧美日韩在线不卡 | 日韩精品成人一区二区三区视频 | 日本超碰| 亚洲一区电影 | 久草新在线 | 欧洲成人| 精品视频一区二区三区四区 |