跳到正文
阶跃星辰 StepFun· noreply@aihot.news (阶跃星辰 StepFun)·· 12 小时前精选

StepFun 展示 Step 5 Preview 在 NVIDIA GB300 上的推理性能

AI 导读

StepFun 表示 Step 5 Preview 在 NVIDIA GB300 上推理表现出色,并期待看到开发者用它构建的应用。其转发的 NVIDIA 内容称该模型是 StepFun 最大的开源权重发布,600B MoE 架构,可处理最长 24 小时的 Agent 任务,在 GB300 上用 NVFP4 达到近 8K tokens/sec/GPU,提供 NVFP4 checkpoint(https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4),并支持 SGLang、vLLM、NeMo Automodel 后训练和 NVIDIA NIM 一键部署。

推荐理由

来源于 AI Hot 精选订阅

来源:阶跃星辰 StepFun · x.com