大模型服务平台
无问芯穹大模型服务平台(GenStudio)基于无问芯穹的智算云平台,针对生成式大模型的应用落地的多种场景需求,为应用开发者提供高性能、易上手、安全可靠的大模型服务,覆盖从大模型开发到大模型服务化部署的全流程。
只是想尝试一下?跳到使用体验中心。
产品优势
- 预置模型:预置多种来源和参数规模的大模型,简单易用的 API 便于快速集成。
- 微调服务:通过网页发起全量参数微调(SFT)以及高效参数微调(LoRA),简单快捷,更快落地。
- 自部署模型:上传自有模型资产或使用微调任务结果,部署为 API 服务,降低 LoRA 部署成本。
- 调试方便:Web UI 即来即用,预置模型与自部署模型均可通过 UI 调试。
- Comfy 工作流托管:原生 Comfy 工作流一键部署为托管 API 服务,已适配主流节点,可上传自有模型。
- 适配异构芯片:针对英伟达、AMD 以及多种国产芯片在训练、推理场景适配和优化。
使用场景
调用预置大模型
GenStudio 提供开箱即用的推理 API 服务。模型广场集中展示了平台预置的多种大模型。用户选型后可至体验中心,通过 UI 调整参数,体验对话效果。无需手动发起模型部署,通过 API 接口与专属 API Key 即可轻松集成大模型服务。
微调大模型
GenStudio 帮助您轻松实现大模型微调,契合业务个性化需求。您可以选择预置的基础大模型,提供业务知识数据集,通过配置训练方式和训练参数,发起微调任务。平台将自动为您进行模型的微调训练。定制后的大模型也可一键部署为在线服务。
账号与权限
大模型服务平台(GenStudio)与一站式 AI 开发平台(AIStudio)同属于无问芯穹的智算云平台(Infini-Cloud),共享同一套账号和权限系统。
获取账号
获取账号后,您可直接通过绑定手机号登录,或使用账号密码方式登陆。
- 账号格式:用户名@租户名
- 密码:自行设置的密码、或由租户管理员为您分配的密码
NOTE
个人用户可使用手机号自助注册,平台将自动创建租户和用户。企业用户请联系无问芯穹。
了解权限策略
智算云平台支持使用权限策略自用控制用户账号的权限方位。详见用户账号与权限管理。