三、PAI Model Gallery 一鍵部署 Deep Seek-V3、Deep Seek-R

1. 進(jìn)入 Model Gallery

https://pai.console.aliyun.com/?utm_content=g_1000401510

2. 在 Model Gallery 頁(yè)面的模型列表中,單擊找到并點(diǎn)擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進(jìn)入模型詳情頁(yè)面。

3. 單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應(yīng)用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務(wù),生成一個(gè) PAI-EAS 服務(wù)。

4. 使用推理服務(wù)。部署成功后,在服務(wù)頁(yè)面可以點(diǎn)擊“查看調(diào)用信息”獲取調(diào)用的 Endpoint 和 Token,想了解服務(wù)調(diào)用方式可以點(diǎn)擊預(yù)訓(xùn)練模型鏈接,返回模型介紹頁(yè)查看調(diào)用方式說明。

上一篇:

微調(diào)碾壓RAG?大模型意圖識(shí)別工程化實(shí)踐

下一篇:

如何獲取字節(jié)火山deepseek系列-api完整教程,及使用方法
#你可能也喜歡這些API文章!

我們有何不同?

API服務(wù)商零注冊(cè)

多API并行試用

數(shù)據(jù)驅(qū)動(dòng)選型,提升決策效率

查看全部API→
??

熱門場(chǎng)景實(shí)測(cè),選對(duì)API

#AI文本生成大模型API

對(duì)比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉(zhuǎn)化潛力

25個(gè)渠道
一鍵對(duì)比試用API 限時(shí)免費(fèi)

#AI深度推理大模型API

對(duì)比大模型API的邏輯推理準(zhǔn)確性、分析深度、可視化建議合理性

10個(gè)渠道
一鍵對(duì)比試用API 限時(shí)免費(fèi)