AIStudio SSH 公钥管理,一处配置,处处可用AIStudio SSH 公钥管理,一处配置,处处可用 ,只为更佳开发体验如何配置
Skip to content
回到全部文章

使用 AIStudio 开发机+预置镜像,快速部署 DeepSeek 服务

一站式 AI 平台(AIStudio)新增预置 DeepSeek 镜像,可快捷部署和体验 DeepSeek 强大的功能:

  • cr.infini-ai.com/infini-ai/deepseek:r1-8b-nvidia :镜像已内置 DeepSeek-R1-Distill-Llama-8B
  • cr.infini-ai.com/infini-ai/deepseek:r1-32b-nvidia :镜像已内置 DeepSeek-R1-Distill-Qwen-32B

镜像说明

"DeepSeek 预置镜像"是预先配置推理环境、DeepSeek 模型、优化并验证的标准化容器镜像,在创建开发机时可直接选用。

以上预置镜像统一使用 Ollama 部署推理服务,使用 Open WebUI 搭建前端,部署后提供 API 服务与图形界面,通过开发机的 Web 应用预览功能可实现在线访问 OpenWebUI 界面。

创建实验环境

以下教程主要以 AIStudio 开发机为例。进入创建页面后,请根据页面提示,完成开发机的相应配置。

  1. 点击下方链接,直接访问智算云控制台的创建开发机页面。

  2. 创建开发机时,可选择 4090 或 A100 规格。可用预置镜像:

    • cr.infini-ai.com/infini-ai/deepseek:r1-8b-nvidia
    • cr.infini-ai.com/infini-ai/deepseek:r1-32b-nvidia

    NOTE

    如果无法找到镜像,请加入无问芯穹交流群咨询。

  3. 推荐开启 Web 应用预览,否则无法从开发机详情页直接访问 Open WebUI 界面。

    请在外网配置中,输入 Web 应用预览的端口 8888

    alt text

启动 Open WenUI

创建好实验环境后,登录到开发机,输入启动命令行:

shell
bash start_ollama_webui.sh deepseek-r1:8b 8888
# 或
bash start_ollama_webui.sh deepseek-r1:32b 8888

NOTE

启动命令行中的运行端口需和 Web 应用预览一致。

输入启动命令行后,看到以下输出就表示启动成功:

shell
INFO: Started server process[235]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://0.0.0.0:8888 (Press CTRL+C to quit)

Web 应用预览

点击进入开发机详情页面,点击查看 Web 应用预览,并点击跳转即可访问。

alt text

alt text