首页 话题 小组 问答 好文 用户 我的社区 域名交易 唠叨

[分享]使用阿里云PAI Model Gallery部署DeepSeek

发布于 2025-03-20 23:15:45
0
103

以下内容由AI生成,非目标网站最新信息,内容仅供参考,详细信息请登录目标官方网站查看在阿里云PAI Model Gallery上部署DeepSeek模型的步骤非常简单,以下是详细的流程:1. 登录阿里...

以下内容由AI生成,非目标网站最新信息,内容仅供参考,详细信息请登录目标官方网站查看

在阿里云PAI Model Gallery上部署DeepSeek模型的步骤非常简单,以下是详细的流程:

1. 登录阿里云PAI控制台

  • 访问阿里云PAI控制台,使用您的阿里云账号登录。

  • 在左侧导航栏中选择“工作空间列表”,进入指定的工作空间。

2. 进入Model Gallery

  • 在工作空间内,选择“快速开始”,然后点击“Model Gallery”。

  • 在Model Gallery页面,根据您的需求选择地域。

3. 选择DeepSeek模型

  • 在Model Gallery页面的模型列表中,找到并点击您需要部署的DeepSeek模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”。

  • 进入模型详情页面,查看模型的详细信息。

4. 一键部署模型

  • 在模型详情页右上角,点击“部署”按钮。

  • 根据模型类型选择部署方式:

    • DeepSeek-R1 支持使用vLLM加速部署。

    • DeepSeek-V3 支持vLLM加速部署以及Web应用部署。

    • DeepSeek-R1蒸馏小模型 支持使用BladeLLM和vLLM加速部署。

  • 配置所需的资源后,点击“确定”即可一键生成PAI-EAS服务。

5. 获取调用信息

  • 部署成功后,您可以在服务页面查看调用信息,包括Endpoint和Token。

  • 如果需要了解详细的调用方式,可以点击预训练模型链接,返回模型介绍页面查看说明。

注意事项

  • 加速技术:DeepSeek-R1和DeepSeek-V3支持vLLM加速,而DeepSeek-R1蒸馏小模型还支持BladeLLM加速,这可以显著提升部署速度。

  • Web应用部署:DeepSeek-V3支持Web应用部署,适合需要直接在Web环境中使用模型的场景。

  • 费用:Model Gallery本身不收费,但部署模型时会产生资源费用,具体计费详情请参考阿里云官方文档。

通过以上步骤,您可以在阿里云PAI Model Gallery上轻松完成DeepSeek模型的部署,无需编写代码,极大地简化了AI模型的开发和应用流程。

评论
一个月内的热帖推荐
凯特网
Lv.1普通用户

261

帖子

13

小组

1225

积分

赞助商广告
站长交流