使用 AIStudio 开发机+预置镜像,快速部署 DeepSeek 服务
一站式 AI 平台(AIStudio)新增预置 DeepSeek 镜像,可快捷部署和体验 DeepSeek 强大的功能:
cr.infini-ai.com/infini-ai/deepseek:r1-8b-nvidia
:镜像已内置DeepSeek-R1-Distill-Llama-8B
cr.infini-ai.com/infini-ai/deepseek:r1-32b-nvidia
:镜像已内置DeepSeek-R1-Distill-Qwen-32B
镜像说明
"DeepSeek 预置镜像"是预先配置推理环境、DeepSeek 模型、优化并验证的标准化容器镜像,在创建开发机时可直接选用。
以上预置镜像统一使用 Ollama 部署推理服务,使用 Open WebUI 搭建前端,部署后提供 API 服务与图形界面,通过开发机的 Web 应用预览功能可实现在线访问 OpenWebUI 界面。
创建实验环境
以下教程主要以 AIStudio 开发机为例。进入创建页面后,请根据页面提示,完成开发机的相应配置。
点击下方链接,直接访问智算云控制台的创建开发机页面。
创建开发机时,可选择 4090 或 A100 规格。可用预置镜像:
cr.infini-ai.com/infini-ai/deepseek:r1-8b-nvidia
cr.infini-ai.com/infini-ai/deepseek:r1-32b-nvidia
NOTE
如果无法找到镜像,请加入无问芯穹交流群咨询。
推荐开启 Web 应用预览,否则无法从开发机详情页直接访问 Open WebUI 界面。
请在外网配置中,输入 Web 应用预览的端口
8888
。
启动 Open WenUI
创建好实验环境后,登录到开发机,输入启动命令行:
shell
bash start_ollama_webui.sh deepseek-r1:8b 8888
# 或
bash start_ollama_webui.sh deepseek-r1:32b 8888
NOTE
启动命令行中的运行端口需和 Web 应用预览一致。
输入启动命令行后,看到以下输出就表示启动成功:
shell
INFO: Started server process[235]
INFO: Waiting for application startup.
INFO: Application startup complete.
INFO: Uvicorn running on http://0.0.0.0:8888 (Press CTRL+C to quit)
Web 应用预览
点击进入开发机详情页面,点击查看 Web 应用预览,并点击跳转即可访问。