国产大模型推理
wylon 新云

wylon 新云是基于国产 GPU 芯片,以超节点架构构建的,面向开发者与企业的大模型推理云服务平台

核心产品 · Token 工厂

Token 工厂(即将开放注册)

按 Token 计费的大模型推理服务,覆盖主流领先的开源模型。兼容 OpenAI、Anthropic API,简单配置即可接入。

支持主流开源模型品牌:MiniMax · Kimi · GLM · Qwen · DeepSeek

wylon 新云将持续上线新模型,实际可用模型请以控制台「模型广场」为准。

核心产品 · GPU 超节点

GPU 超节点

基于国产 GPU 的超节点算力服务,面向大规模模型专属部署、高并发模型推理场景而设计,提供云端租赁及企业专属部署服务。(GPU 超节点产品尚未开放,欢迎联系销售预约早期访问)

两种交付方式 敬请期待

云端租赁

面向标准化算力需求,线上提供 GPU 超节点资源租赁能力,支持按需申请、统一交付与后续弹性扩展。

企业专属

面向企业级长期算力需求,提供整机级资源租赁与专属交付支持,规划专属 GPU 算力方案。

核心技术

软硬协同的国产 GPU 推理底座

Token 工厂与 GPU 超节点共享同一套技术底座。通过大模型推理 OS 统筹纵向贯通的存力资源、横向成网的算力资源,让国产 GPU 的能力从单点资源走向系统级推理基础设施。

产品与平台

一套底座,两种产品形态

Token 工厂通过 API 直接提供模型推理服务;
GPU 超节点以算力资源形式提供推理基础设施。
开发者与企业可根据使用和资源需求灵活选择,两者共享同一套系统云底座。

wylon 超节点系统

Hiten OS 统筹纵向存力与横向算力,构成面向国产 GPU 的系统级大模型推理底座。

操作系统平面

系统统筹,横向算力与纵向存力协同工作

通过统一调度,将纵向贯通的存力与横向成网的算力组织为一套完整运行空间,让模型负载更直接地落到硬件效率上。

存力平面

纵向贯通,让数据流获得连续支撑

围绕上下文、缓存与数据访问需求,打通多层级存力通道,为大模型长上下文和高并发推理提供持续支撑。

算力平面

横向成网,让算力从单点走向系统协同

通过算力单元之间的高速互联与协同,将分散资源组织为横向计算平面,为大模型推理提供可扩展的并行基础。

拓展国产 GPU 的帕累托前沿

卧龙超节点系统能实现提升单用户响应速度的同时保持更高的系统总吞吐,拓展了国产 GPU 在大模型推理场景中的系统效率边界。

为何选择 wylon 新云

为大模型推理场景而设计

全栈协同设计

从硬件兼容性、超节点系统架构、模型推理引擎到API服务的端到端一体化云化基础设施,提升整合程度,降低性能损耗。

企业级

服务质量

面向生产级负载设计的高可用架构,提供稳定可靠的企业级服务质量保障。

0

运维负担

开箱即用的推理API,无需基础设施管理。

10×

加速

依托系统级缓存技术,预填充速度可达常规方案的 10 倍。

6+

国产芯片家族

wylon新云超节点系统兼容壁仞、沐曦、曦望、寒武纪等品牌。

了解更多

了解更多关于 wylon 新云的信息。

阅读文档
芯片合作伙伴
Sunrise Sunrise MetaX MetaX Biren Biren Cambricon Cambricon
立即开始

试用wylon新云的Token工厂

Token工厂已正式开放注册,几分钟内即可完成集成。