vLLM 官方博客· noreply@aihot.news (vLLM 官方博客)·· 12 小时前精选
vLLM 解析 Kimi K3 在 AMD Instinct MI355X 上的推理优化，单 GPU 吞吐超 NVIDIA HGX B300 24.4%
AI 导读
AMD 与 Embedded LLM 在 vLLM 官方博客详解 Kimi K3 在八卡 AMD Instinct MI355X 上的推理优化。
推荐理由
来源于 AI Hot 精选订阅
来源：vLLM 官方博客 · vllm.ai