2024-11-21 一站式 AI 平台生日大派对!2024-11-21 一站式 AI 平台生日大派对! 无问芯穹特别推出多项超值福利!立即参与
Skip to content

AIStudio 按量付费型开发机快速入门

欢迎使用无问芯穹一站式 AI 平台(AIStudio)!无论您是独立开发者,还是需要灵活按需使用 Linux 环境和 GPU 资源的团队,AIStudio 都能满足您的需求。


使用 AIStudio,您可以:

  • 快速部署开发环境,无需繁琐的硬件配置
  • 按需选择 CPU 和 GPU 资源,灵活应对各种开发需求
  • 享受与裸机相近的性能,同时获得容器化带来的便利
  • 轻松进行环境复制和迁移,提高工作效率
  • 通过直观的 Web 界面管理资源,简化运维工作

如果您过去使用传统的裸机服务器,或从其他平台迁移到容器化环境,我们详细的指南将帮助您轻松适应这个新平台。您会发现 AIStudio 不仅保留了裸机环境的灵活性,还为您的开发工作带来了更多可能性。

什么是按量付费型开发机 ❓

在传统实验室环境中,GPU 开发者共享裸金属服务器上的 GPU 资源主要面临以下痛点:

  • 😠 沟通不畅与资源冲突:在共享服务器上需要预约使用 GPU,资源有限导致冲突,影响开发进度。
  • 😠 代码管理混乱与性能不稳:环境不一致、版本控制复杂,导致协作困难,模型训练效率低下。

使用 AIStudio 开发机,即时租用所需数量的 GPU 算力。灵活的租用方式,结合预置的标准化开发环境,不仅解决了环境不一致和代码管理混乱的问题,还可以自由调整硬件配置,无需预先安排,显著减少了沟通成本和时间延误,实现了成本与效率的最佳平衡。

准备工作 📝

规格与性能 📈

按量付费型开发机提供多种配置,可用于入门级开发和模型训练,也可满足复杂深度学习任务或其他高性能需求。以下是目前可供租用的开发机列表,包括硬件规格和价格:

AIStudio 按量付费开发机规格与定价
算力规格总显存CPU内存持久化存储可用区价格
NVIDIA-4090-24GB × 124 GB14 核28 GB50GB 系统盘 + 20GB 云盘广东B 2.09 元/小时
NVIDIA-4090-24GB × 248 GB28 核56 GB50GB 系统盘 + 20GB 云盘广东B 4.18 元/小时
NVIDIA-4090-24GB × 496 GB56 核112 GB50GB 系统盘 + 20GB 云盘广东B 8.36 元/小时
NVIDIA-4090-24GB × 8192 GB112 核224 GB50GB 系统盘 + 20GB 云盘广东B 16.72 元/小时
NVIDIA-A100-40GB × 140 GB10 核86 GB50GB 系统盘 + 20GB 云盘江苏A 4.81 元/小时
NVIDIA-A100-40GB × 280 GB20 核172 GB50GB 系统盘 + 20GB 云盘江苏A 9.62 元/小时
NVIDIA-A100-40GB × 4160 GB40 核344 GB50GB 系统盘 + 20GB 云盘江苏A 19.24 元/小时
NVIDIA-A100-40GB × 8320 GB80 核688 GB50GB 系统盘 + 20GB 云盘江苏A 38.48 元/小时

充值 💰

如果您是独立开发者,为保证体验流程顺畅,建议您先确保账户余额充足。

无问芯穹新老用户均可领取 50 元代金券,直接抵扣消费金额。

或直接充值。搭载 14 核 CPU 、28 GB 内存和 1 个 Nvidia 4090 GPU 的开发机,每小时仅需 ¥2.09。

快速创建开发机 ⤵️

如果您是初次使用智算云平台,推荐前往智算云平台的 AI 算力市场页面,快速创建开发机。该方式提供简化的配置流程,无需繁琐的配置步骤。

Step 0 选择算力规格

进入 AI 算力市场页面后,选择需要的算力规格。点击快速购买

alt text

Step 1 配置开发环境

在右侧面板中,需要完成开发机的「镜像」「云盘」「高性能存储」等配置。

alt text

如需更多高级选项,可切换至自定义购买。请参考文档使用弹性资源创建开发机

NOTE

  • 平台预置了 Ubuntu 基础镜像和 Pytorch、NGC、CUDA 等镜像,支持使用自定义镜像。详见镜像中心
  • 开发机提供持久化存储,默认配置为「系统盘」50 GiB 和「云盘」20 GiB。如需更多存储空间,请在创建开发机时规划好云盘容量,并在「云盘」选项中调整。云盘仅支持挂载到所属开发机。暂仅 A100 机型支持云盘
  • 开发机可挂载高性能存储。高性能存储为共享文件存储,可挂载到不同开发机实例中,可以多点读写,不受实例释放的影响。如需购买,请移步购买存储资源

完成表单配置后,点击确认创建。如果余额充足,开发机会依此进入创建流程。您可以前往开发机列表页查看。

登录开发机 #️⃣

​开发机创建成功后,会进入运行中状态,并带有「弹性」标识。您可以登录开发机进行体验。右侧还提供了查看详情、更改开发机配置等快捷操作。

alt text

点击智算云平台 Web UI 的登录按钮,可从浏览器端登录开发机,打开 Web Terminal 界面。

alt text

NOTE

Web Terminal 提示文案仅为示例,请以实际 Web Terminal 显示为准。

SSH 远程登录 🏋️

智算云平台在创建开发机时会生成随机端口的 SSH 地址。进入开发机详情页面,可复制 SSH 地址。

alt text

NOTE

  • SSH 远程登录仅在已添加 SSH 公钥的情况下可用。
  • 开发机运行期间可直接登录 Web Terminal 自行添加公钥。如果开发机可重启,也可以通过 UI 上的「改配」功能添加公钥,改配完成后开发机将关机重启。详见 SSH

VSCode 远程连接开发机 💻

通过 Visual Studio Code 的 Remote - SSH 扩展 可以远程连接 AIStudio 开发机,提供了本地级别的开发体验。

具体操作可参考教程 VS Code 远程开发:为开发机、AICoder 提供本地般的开发体验

传输本地数据 📦

如果需要您的本地计算机和 AIStudio 开发机之间传输文件,可以使用以下方式:

如果习惯使用命令行界面:

如果您在寻找使用图形化界面传输文件的方案:

  • 可参考教程使用 VS Code 远程开发,直接拖拽本地文件到左侧窗口,即可上传文件。
  • 可参考教程使用 Filezilla 客户端 进行文件传输。
  • 可参考教程安装 File Browser,支持通过 Web 界面轻松管理服务器上的文件。

Python / Conda 🐍

开发机预置镜像一般都预装了 python 3.x。但默认的 python 不可用,也不会指向 python3 的解释器。

shell
which python3
python3 --verion

您可以在代码中改用 python3,或自行指定 python 指向 python3。

平台预置镜像大部分已经安装 Miniconda,为保障您体验顺利,请务必参考文档使用 Miniconda

测试 nvidia-smi 💪

可通过测试 Nvidia Driver 是安装信息验证开发机显卡配置。

WARNING

NVIDIA 驱动程序版本由底层物理机控制。暂不支持在开发机中独立安装或更改 NVIDIA 驱动程序版本,只能使用物理机上已经安装的版本。

CUDA / PyTorch 🔥

平台预置了少量 CUDA 社区镜像、NGC 官方镜像、Pytorch 官方镜像等,可直接使用。如果软件版本不满足要求,可参考以下教程自行安装:

其他工具 🏄

  • Jupyter lab: 一般建议通过 VS Code 使用 Jupyter Notebook。如果需要使用 Jupyter Lab,可以参考教程自行安装。
  • Ollama:Ollama 是一个开源工具,用于在本地运行大模型推理服务。
  • Xinference:Xinference 支持 vllm/sglang/llama.cpp/transformers 推理引擎,并支持根据不同的模型指定不同的引擎。
  • LLaMA Factory:LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调。
  • Docker 容器:为开发机启用「Docker 容器」功能开关后,可在开发机内(主容器)创建和运行其他容器,可挂载 GPU,可用于构建自定义镜像、测试容器化应用等。

更多使用技巧,可参考教程与实践

学术加速 🏫

智算云平台本身不提供学术加速服务。如果您在下载 GitHub、Docker 镜像时遇到障碍,可以使用我们整理的第三方学术加速服务指南

公网访问开发机内服务 🌐

在使用过程中,可能会遇到需要从公网访问开发机内部服务的情况(例如推理 API 服务、带 UI 的服务等),但是暂时开发机仅提供了云平台内网访问地址,无法直接从公网访问。这时,您可以利用开发机提供的 SSH 服务和 SSH 端口转发功能,将开发机内网端口映射到本地电脑,从而实现从公网直接访问开发机内部服务。

配置方法详见 SSH 端口转发:公网访问开发机内 HTTP 服务

查看账单明细 📖

AIStudio 费用中心提供清晰的余额、账单与流水信息,让您无忧无虑。

按量计费资源不再使用时请及时关机或释放,以免继续扣费。 当账户被扣为负值时,说明账户已欠费。请及时充值偿付欠款,以免影响您的正常使用。 结算时,若账户余额不足,实例将自动关闭,进入已关机状态。 实例处于已关机状态下,系统免费保存实例数据 30天。超过 30 天后,系统将对实例资源进行释放,实例的数据将被清除且不可恢复。

获取帮助 🙌

如遇问题,请联系无问芯穹客户支持

  • 邮箱:pre-sales@infini-ai.com
  • 电话:400-806-6058

关注我们获取更多资讯:

关注我们

祝您使用愉快!