成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

免費GPU算力部署DeepSeek-R1 32B

人工智能
本文介紹利用飛槳AI Studio每日免費提供GPU算力資源部署DeepSeek-R1 32B。進一步,還可以通過frp內網穿透讓windows部署的Dify連接飛槳服務器上部署的ollama。另外,我們也可以利用GPU算力學習其它知識:模型微調,模型訓練,深度學習訓練等。

前言

DeepSeek-R1發布最新版本DeepSeek-R1-0528,顯著提升了模型的思維深度與推理能力,在數學、編程與通用邏輯等多個基準測評中取得了當前國內所有模型中首屈一指的優異成績,并且在整體表現上已接近其他國際頂尖模型,如 o3 與 Gemini-2.5-Pro。另外,API接口還增加了Function Calling和JsonOutput 的支持。

DeepSeek-R1團隊已經證明,大模型的推理模式可以蒸餾到小模型中,與通過強化學習在小模型上發現的推理模式相比,性能更優。ollma上可以下載不同參數尺寸(1.5B到70B)的蒸餾模型,參數越大,性能越好。

飛槳AI Studio每日免費提供GPU算力資源,具體配置如下:

  • V100 16GB顯存:可以跑14B尺寸模型,每日免費使用4小時。
  • VT100 32GB顯存:可以跑32B尺寸模型,每日免費使用2.7小時。

創建項目

打開https://aistudio.baidu.com/account,點擊右上方“登錄”按鈕,用百度賬號登錄即可。

打開https://aistudio.baidu.com/my/project,點擊右上方“創建項目”,選擇“Notebook”,會彈出下方的對話框。填寫“項目名稱”,點擊創建。

在打開的頁面中,點擊上面的“未運行”。

在彈出的頁面中,選擇“基礎版”運行環境。“基礎版”運行環境免費不限時,用于下載ollama和deepseek模型。等下載完后再切換到GPU環境。

環境啟動后,點擊右上角的“專業開發”,進入Codelab IDE界面。

Codelab IDE界面如下:

安裝ollama

設置目錄

在Codelab IDE界面中,選擇“文件”=》“新建”=》“終端”,進入shell界面,執行以下命令(每次啟動環境都要執行),以便ollama下載的模型能保存在~/work/.ollama,這樣才能持久化保存。

cd ~/work && mkdir -p .ollama && ln -sfn ~/work/.ollama ~/

下載ollama

飛槳AI Studio無法訪問github,需通過代理網站ghproxy.cn進行下載。命令如下:

cd ~/work
wget -c https://ghproxy.cn/https://github.com/ollama/ollama/releases/download/v0.8.0/ollama-linux-amd64.tgz
tar zxf ollama-linux-amd64.tgz

下載deepseek模型

啟動ollama服務。

~/work/bin/ollama serve

新建終端,輸入命令下載deepseek-r1 32b模型。

~/work/bin/ollama pull deepseek-r1:32b

如果發現下載速度低于1MB/s,可嘗試重新執行pull(但不要重啟ollama serve的進程)。

啟動deepseek

切換到GPU環境

打開https://aistudio.baidu.com/my/project,停止運行中的CPU環境 。

點擊項目,在項目詳情頁面中,點擊上面的“未運行”。

在彈出的頁面中,選擇“V100 32GB”運行環境。每天免費獲得8點算力,可用2.7小時,昨天用剩的算力可以結余到今天使用。

因為切換環境,系統需要同步文件,在Codelab IDE右下角會有同步進度顯示。

啟動ollama服務

cd ~/work && mkdir -p .ollama && ln -sfn ~/work/.ollama ~/  && ~/work/bin/ollama serve

啟動DeepSeek

新建終端,輸入以下命令啟動deepseek。

~/work/bin/ollama run deepseek-r1:32b

運行成功后就可以開始體驗deepseek的魅力了。

測試

下圖為經典問題:9.9和9.11比較,哪個更大。

總結

本文介紹利用飛槳AI Studio每日免費提供GPU算力資源部署DeepSeek-R1 32B。進一步,還可以通過frp內網穿透讓windows部署的Dify連接飛槳服務器上部署的ollama。另外,我們也可以利用GPU算力學習其它知識:模型微調,模型訓練,深度學習訓練等。

責任編輯:龐桂玉 來源: AI大模型應用開發
相關推薦

2025-04-14 09:27:00

2025-03-12 13:55:05

2025-02-19 08:00:00

2025-03-07 08:50:03

2025-04-03 06:30:00

2025-03-10 07:00:00

阿里開源QwQ-32B

2025-03-06 17:29:21

2025-02-05 23:21:32

2025-02-12 13:23:47

2025-02-19 08:33:18

2025-02-06 10:18:45

2025-03-07 08:30:00

2025-02-17 10:33:19

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 一区二区亚洲 | 一区二区三区四区免费在线观看 | 国产精品永久免费视频 | 精品久久久久久久久久久久 | 在线精品一区 | 91免费在线看 | 日韩成人免费视频 | 成人精品久久久 | 天天躁日日躁性色aⅴ电影 免费在线观看成年人视频 国产欧美精品 | 91视频进入 | 天天干天天色 | xx视频在线| 久久91精品 | 一级一级毛片免费看 | 97影院2| 伊人久久大香线 | 日本在线一区二区三区 | a爱视频 | 中文字幕日韩欧美一区二区三区 | 欧美一级片在线看 | 亚洲国产欧美精品 | 免费激情| 欧美日韩国产一区 | 久久久精品日本 | 亚洲欧美视频 | 一区二区av| 一区二区日本 | 国产一区二区三区四区在线观看 | 日日想夜夜操 | 国产精品美女一区二区 | 午夜日韩| 成人在线精品视频 | 欧美一区二区二区 | 国产在线不卡 | 夜夜草av | 亚洲 中文 欧美 日韩 在线观看 | 中文二区 | 亚洲网址 | 最新中文字幕在线播放 | 久国产| 久久国产综合 |