成人免费xxxxx在线视频软件_久久精品久久久_亚洲国产精品久久久_天天色天天色_亚洲人成一区_欧美一级欧美三级在线观看

微軟宣布為 Windows 11 用戶優化 DeepSeek-R1 模型,讓 Copilot+ PC 實現本地化 AI 推理

系統 Windows
人工智能正加速向著邊緣計算領域發展,Copilot+ PC 在其中扮演著重要角色。隨著 DeepSeek R1 出現,微軟也意識到了這一模型可能會帶來了一系列變革。

1 月 30 日消息,人工智能正加速向著邊緣計算領域發展,Copilot+ PC 在其中扮演著重要角色。隨著 DeepSeek R1 出現,微軟也意識到了這一模型可能會帶來了一系列變革。

微軟今日發文,宣布推出針對 NPU 優化的 DeepSeek-R1(IT之家注:已在 Azure AI Foundry 和 GitHub 上提供),首批將面向搭載高通驍龍 X 芯片的 Copilot+ PC 推出,隨后是英特爾酷睿 Ultra 200V 等平臺。

微軟表示,首個版本 DeepSeek-R1-Distill-Qwen-1.5B 將在 AI Toolkit 中提供,7B 和 14B 版本也將很快推出,從而幫助開發者充分利用 Copilot+ PC 中強大的 NPU 配置。

微軟表示,Copilot+ PC 上的 NPU 開啟了一種新的范式。在這種范式下,生成式 AI 不僅可以在被調用時執行,還可以支持半連續運行的服務。這使開發者能夠利用 AI 推理引擎來構建主動和持續的體驗。微軟表示:

通過我們在 Phi Silica 上的工作,我們實現了高效的推理 —— 在首次生成 token 的時間和吞吐率方面表現出色,同時對電池續航和 PC 資源消耗的影響降至最低。針對 NPU 優化的 DeepSeek 模型借鑒了該項目的多項關鍵經驗和技術,包括如何分離模型的各個部分以實現性能與效率的最佳平衡、低比特率量化以及將 Transformer 映射到 NPU。此外,我們還利用 Windows Copilot Runtime(WCR)通過 ONNX QDQ 格式在多樣化的 Windows 生態系統中實現擴展。

微軟表示,要想在 Copilot+ PC 上體驗 DeepSeek 只需下載 AI Toolkit VS Code 擴展即可;以 ONNX QDQ 格式優化的 DeepSeek 模型將很快出現在 AI Toolkit 的模型目錄中(直接從 Azure AI Foundry 中拉取)。

用戶可以通過點擊“下載”按鈕將其下載到本地。下載完成后,只需打開 Playground 加載“deepseek_r1_1_5”模型,并給出提示詞即可開始實驗。

除了為 Copilot+ PC 優化的 ONNX 模型外,您還可以通過點擊“DeepSeek R1”下的“Try in Playground”按鈕,在 Azure Foundry 中嘗試云托管的源模型。

如下圖所示,微軟還展示了原始模型和量化模型的示例,以展現兩者之間微小但確實存在的差異:

▲ 相同提示下原始模型(左)與 NPU 優化模型(右)的響應示例,包括模型的推理能力

責任編輯:龐桂玉 來源: IT之家
相關推薦

2025-03-19 10:10:43

2025-02-06 10:18:45

2025-02-13 08:51:23

DeepSeek大模型

2024-01-04 17:03:48

微軟Windows

2025-02-18 08:10:00

Windows 11微軟賬號Copilot

2025-03-05 03:00:00

DeepSeek大模型調優

2025-02-19 08:33:18

2024-05-28 07:00:00

微軟AI

2025-02-19 08:00:00

2024-07-10 08:16:12

2023-07-18 08:23:40

CopilotWindows

2025-03-27 09:34:42

2025-02-12 14:09:31

DeepSeekChatGPTAPI

2025-02-08 09:44:11

DeepSeekAI模型

2025-05-06 09:09:37

2024-03-04 13:11:23

微軟Windows 11AI 助手

2024-05-22 14:46:47

點贊
收藏

51CTO技術棧公眾號

主站蜘蛛池模板: 日韩在线看片 | 国产精品美女久久久久久久久久久 | 中文字幕视频在线观看 | 蜜桃传媒一区二区 | 久久r免费视频 | 色综合久久久久 | 欧美久久精品一级c片 | 偷拍自拍网址 | 超碰国产在线 | 91久久| 国产精品视频一区二区三区不卡 | 18性欧美| 91综合网 | 国产激情91久久精品导航 | 亚洲第一色站 | 最新国产在线 | 久久久久国 | 久久久久国产精品一区二区 | 亚洲国产精品一区二区久久 | 成人久久18免费网站麻豆 | 成人在线视频免费播放 | 欧美高清视频一区 | 国产综合精品一区二区三区 | 成人精品福利 | 国产一区二区在线播放 | 成人网址在线观看 | 亚洲男人的天堂网站 | 9porny九色视频自拍 | 国产精品7777777 | 日韩一二三区视频 | 91精品无人区卡一卡二卡三 | 成人一区二区三区视频 | 久久精品国产一区二区 | 久久久免费毛片 | 五十女人一级毛片 | 久久久久久久久国产精品 | 国产清纯白嫩初高生在线播放视频 | 久色视频在线观看 | 欧美bondage紧缚视频 | 最新中文字幕一区 | 国产精品成人一区二区三区夜夜夜 |