AIStudio 按量付费型开发机快速入门
欢迎使用无问芯穹一站式 AI 平台(AIStudio)!无论您是独立开发者,还是需要灵活按需使用 Linux 环境和 GPU 资源的团队,AIStudio 都能满足您的需求。
使用 AIStudio,您可以:
- 快速部署开发环境,无需繁琐的硬件配置
- 按需选择 CPU 和 GPU 资源,灵活应对各种开发需求
- 享受与裸机相近的性能,同时获得容器化带来的便利
- 轻松进行环境复制和迁移,提高工作效率
- 通过直观的 Web 界面管理资源,简化运维工作
如果您过去使用传统的裸机服务器,或从其他平台迁移到容器化环境,我们详细的指南将帮助您轻松适应这个新平台。您会发现 AIStudio 不仅保留了裸机环境的灵活性,还为您的开发工作带来了更多可能性。
什么是按量付费型开发机 ❓
在传统实验室环境中,GPU 开发者共享裸金属服务器上的 GPU 资源主要面临以下痛点:
- 😠 沟通不畅与资源冲突:在共享服务器上需要预约使用 GPU,资源有限导致冲突,影响开发进度。
- 😠 代码管理混乱与性能不稳:环境不一致、版本控制复杂,导致协作困难,模型训练效率低下。
使用 AIStudio 开发机,即时租用所需数量的 GPU 算力。灵活的租用方式,结合预置的标准化开发环境,不仅解决了环境不一致和代码管理混乱的问题,还可以自由调整硬件配置,无需预先安排,显著减少了沟通成本和时间延误,实现了成本与效率的最佳平衡。
准备工作 📝
规格与性能 📈
按量付费型开发机提供多种配置,可用于入门级开发和模型训练,也可满足复杂深度学习任务或其他高性能需求。以下是目前可供租用的开发机列表,包括硬件规格和价格:
算力规格 | 总显存 | CPU | 内存 | 持久化存储 | 可用区 | 价格 |
---|---|---|---|---|---|---|
NVIDIA-4090-24GB × 1 | 24 GB | 14 核 | 28 GB | 50GB 系统盘 + 20GB 云盘 | 广东B | 2.09 元/小时 |
NVIDIA-4090-24GB × 2 | 48 GB | 28 核 | 56 GB | 50GB 系统盘 + 20GB 云盘 | 广东B | 4.18 元/小时 |
NVIDIA-4090-24GB × 4 | 96 GB | 56 核 | 112 GB | 50GB 系统盘 + 20GB 云盘 | 广东B | 8.36 元/小时 |
NVIDIA-4090-24GB × 8 | 192 GB | 112 核 | 224 GB | 50GB 系统盘 + 20GB 云盘 | 广东B | 16.72 元/小时 |
NVIDIA-A100-40GB × 1 | 40 GB | 10 核 | 86 GB | 50GB 系统盘 + 20GB 云盘 | 江苏A | 4.81 元/小时 |
NVIDIA-A100-40GB × 2 | 80 GB | 20 核 | 172 GB | 50GB 系统盘 + 20GB 云盘 | 江苏A | 9.62 元/小时 |
NVIDIA-A100-40GB × 4 | 160 GB | 40 核 | 344 GB | 50GB 系统盘 + 20GB 云盘 | 江苏A | 19.24 元/小时 |
NVIDIA-A100-40GB × 8 | 320 GB | 80 核 | 688 GB | 50GB 系统盘 + 20GB 云盘 | 江苏A | 38.48 元/小时 |
充值 💰
如果您是独立开发者,为保证体验流程顺畅,建议您先确保账户余额充足。
无问芯穹新老用户均可领取 50 元代金券,直接抵扣消费金额。
或直接充值。搭载 14 核 CPU 、28 GB 内存和 1 个 Nvidia 4090 GPU 的开发机,每小时仅需 ¥2.09。
快速创建开发机 ⤵️
如果您是初次使用智算云平台,推荐前往智算云平台的 AI 算力市场页面,快速创建开发机。该方式提供简化的配置流程,无需繁琐的配置步骤。
Step 0 选择算力规格
进入 AI 算力市场页面后,选择需要的算力规格。点击快速购买。
Step 1 配置开发环境
在右侧面板中,需要完成开发机的「镜像」「云盘」「高性能存储」等配置。
如需更多高级选项,可切换至自定义购买。请参考文档使用弹性资源创建开发机。
NOTE
完成表单配置后,点击确认创建。如果余额充足,开发机会依此进入创建流程。您可以前往开发机列表页查看。
登录开发机 #️⃣
开发机创建成功后,会进入运行中状态,并带有「弹性」标识。您可以登录开发机进行体验。右侧还提供了查看详情、更改开发机配置等快捷操作。
点击智算云平台 Web UI 的登录按钮,可从浏览器端登录开发机,打开 Web Terminal 界面。
NOTE
Web Terminal 提示文案仅为示例,请以实际 Web Terminal 显示为准。
SSH 远程登录 🏋️
智算云平台在创建开发机时会生成随机端口的 SSH 地址。进入开发机详情页面,可复制 SSH 地址。
NOTE
- SSH 远程登录仅在已添加 SSH 公钥的情况下可用。
- 开发机运行期间可直接登录 Web Terminal 自行添加公钥。如果开发机可重启,也可以通过 UI 上的「改配」功能添加公钥,改配完成后开发机将关机重启。详见 SSH。
VSCode 远程连接开发机 💻
通过 Visual Studio Code 的 Remote - SSH 扩展 可以远程连接 AIStudio 开发机,提供了本地级别的开发体验。
具体操作可参考教程 VS Code 远程开发:为开发机、AICoder 提供本地般的开发体验。
传输本地数据 📦
如果需要您的本地计算机和 AIStudio 开发机之间传输文件,可以使用以下方式:
如果习惯使用命令行界面:
- 使用
scp
或sftp
上传与下载文件。 - 如果对断点续传有比较高的要求,可参考教程使用 rsync 传输数据到开发机
如果您在寻找使用图形化界面传输文件的方案:
- 可参考教程使用 VS Code 远程开发,直接拖拽本地文件到左侧窗口,即可上传文件。
- 可参考教程使用 Filezilla 客户端 进行文件传输。
- 可参考教程安装 File Browser,支持通过 Web 界面轻松管理服务器上的文件。
Python / Conda 🐍
开发机预置镜像一般都预装了 python 3.x。但默认的 python
不可用,也不会指向 python3 的解释器。
which python3
python3 --verion
您可以在代码中改用 python3
,或自行指定 python
指向 python3。
平台预置镜像大部分已经安装 Miniconda,为保障您体验顺利,请务必参考文档使用 Miniconda。
测试 nvidia-smi
💪
可通过测试 Nvidia Driver 是安装信息验证开发机显卡配置。
WARNING
NVIDIA 驱动程序版本由底层物理机控制。暂不支持在开发机中独立安装或更改 NVIDIA 驱动程序版本,只能使用物理机上已经安装的版本。
CUDA / PyTorch 🔥
平台预置了少量 CUDA 社区镜像、NGC 官方镜像、Pytorch 官方镜像等,可直接使用。如果软件版本不满足要求,可参考以下教程自行安装:
其他工具 🏄
- Jupyter lab: 一般建议通过 VS Code 使用 Jupyter Notebook。如果需要使用 Jupyter Lab,可以参考教程自行安装。
- Ollama:Ollama 是一个开源工具,用于在本地运行大模型推理服务。
- Xinference:Xinference 支持
vllm
/sglang
/llama.cpp
/transformers
推理引擎,并支持根据不同的模型指定不同的引擎。 - LLaMA Factory:LLaMA Factory 是一个简单易用且高效的大型语言模型(Large Language Model)训练与微调平台。通过 LLaMA Factory,可以在无需编写任何代码的前提下,在本地完成上百种预训练模型的微调。
- Docker 容器:为开发机启用「Docker 容器」功能开关后,可在开发机内(主容器)创建和运行其他容器,可挂载 GPU,可用于构建自定义镜像、测试容器化应用等。
更多使用技巧,可参考教程与实践。
学术加速 🏫
智算云平台本身不提供学术加速服务。如果您在下载 GitHub、Docker 镜像时遇到障碍,可以使用我们整理的第三方学术加速服务指南。
公网访问开发机内服务 🌐
在使用过程中,可能会遇到需要从公网访问开发机内部服务的情况(例如推理 API 服务、带 UI 的服务等),但是暂时开发机仅提供了云平台内网访问地址,无法直接从公网访问。这时,您可以利用开发机提供的 SSH 服务和 SSH 端口转发功能,将开发机内网端口映射到本地电脑,从而实现从公网直接访问开发机内部服务。
配置方法详见 SSH 端口转发:公网访问开发机内 HTTP 服务。
查看账单明细 📖
AIStudio 费用中心提供清晰的余额、账单与流水信息,让您无忧无虑。
按量计费资源不再使用时请及时关机或释放,以免继续扣费。 当账户被扣为负值时,说明账户已欠费。请及时充值偿付欠款,以免影响您的正常使用。 结算时,若账户余额不足,实例将自动关闭,进入已关机状态。 实例处于已关机状态下,系统免费保存实例数据 30天。超过 30 天后,系统将对实例资源进行释放,实例的数据将被清除且不可恢复。
获取帮助 🙌
如遇问题,请联系无问芯穹客户支持:
- 邮箱:pre-sales@infini-ai.com
- 电话:400-806-6058
关注我们获取更多资讯:
祝您使用愉快!