Skip to content

大模型服务平台

无问芯穹大模型服务平台(GenStudio)基于无问芯穹的智算云平台,针对生成式大模型的应用落地的多种场景需求,为应用开发者提供高性能、易上手、安全可靠的大模型服务,覆盖从大模型开发到大模型服务化部署的全流程。

只是想尝试一下?跳到快速开始

产品优势

  • 多种大模型:预置多种来源和参数规模的大模型。
  • 微调服务:微调预置大模型,支持全量参数微调(SFT)以及高效参数微调(LoRA)方式,配置简单,更贴合落地需求。
  • 适配异构芯片:针对英伟达、AMD 以及多种国产芯片在训练、推理场景适配和优化。
  • 评测对比工具:提供多种大模型评测对比工具,可随时调试。
  • 多种访问方式:Web UI 支持即来即用;简单易用的 API、SDK 便于快速集成。

使用场景

  • 调用预置大模型

    GenStudio 提供开箱即用的推理 API 服务。模型广场集中展示了平台预置的多种大模型。用户选型后可至体验中心,通过 UI 调整参数,体验对话效果。无需手动发起模型部署,通过 API 接口与专属 API Key 即可轻松集成大模型服务。

    null
  • 微调大模型

    GenStudio 帮助您轻松实现大模型微调,契合业务个性化需求。您可以选择预置的基础大模型,提供业务知识数据集,通过配置训练方式和训练参数,发起微调任务。平台将自动为您进行模型的微调训练。定制后的大模型也可一键部署为在线服务。

    null