阿里云支持一键部署DeepSeek-V3/R1!仅需3步、0代码

热点新闻 8
快科技2月3日消息,今天阿里云宣布,阿里云PAI Model Gallery支持云上一键部署DeepSeek-V3、DeepSeek-R1。用户无需编写代码,即可通过阿里云平台实现从模型训练到部署再到推理的全过程,极大地简化了AI模型的开发流程。根据官方介绍,一键部署DeepSeek模型的操作流程非常简单,仅需以下3步:登陆PAI控制台,在左侧导航栏选择工作空间列表,单击指定工作空间名称,进入对应工作空间内,最后在左侧导航栏选择快速开始Model Gallery。进入DeepSeek模型详情页。

快科技2月3日消息,今天阿里云宣布,阿里云PAI Model Gallery支持云上一键部署DeepSeek-V3、DeepSeek-R1。

用户无需编写代码,即可通过阿里云平台实现从模型训练到部署再到推理的全过程,极大地简化了AI模型的开发流程。

阿里云支持一键部署DeepSeek-V3/R1!仅需3步、0代码

根据官方介绍,一键部署DeepSeek模型的操作流程非常简单,仅需以下3步:

登陆PAI控制台,在左侧导航栏选择工作空间列表,单击指定工作空间名称,进入对应工作空间内,最后在左侧导航栏选择快速开始Model Gallery。

进入DeepSeek模型详情页。在Model Gallery页面的模型列表中,单击找到并点击需要部署的模型卡片,例如DeepSeek-R1-Distill-Qwen-7B”模型,进入模型详情页面。

一键部署DeepSeek模型生成服务。单击右上角部署:目前DeepSeek-R1支持采用vLLM加速部署;DeepSeek-V3支持vLLM加速部署以及Web应用部署;DeepSeek-R1蒸馏小模型支持采用BladeLLM和vLLM加速部署。

部署成功后,在服务页面可以点击查看调用信息”获取调用的Endpoint和Token,想了解服务调用方式可以点击预训练模型链接,返回模型介绍页查看调用方式说明。

阿里云支持一键部署DeepSeek-V3/R1!仅需3步、0代码

不过需要注意的是,本教程部署的模型为蒸馏过后的DeepSeek-R1-Distill-Qwen-7B,基于 DeepSeek-R1的推理能力,通过蒸馏技术将推理模式迁移到较小Qwen模型上。

同时,阿里云PAI Model Gallery也提供DeepSeek-R1、DeepSeek-V3原始模型的一键部署。

打赏
版权声明 本文地址:https://sdlongpai.cn/post/67648.html
1.文章若无特殊说明,均属本站原创,若转载文章请于作者联系。
2.本站除部分作品系原创外,其余均来自网络或其它渠道,本站保留其原作者的著作权!如有侵权,请与站长联系!
广告二
扫码二维码