Amazon SageMaker 发布面向编码代理的生成式 AI 推理优化技能
Amazon SageMaker AI 推出 aws-ai-ml 技能,可接入支持 MCP 的编码代理,生成 SageMaker Python SDK v3 代码来压测端点、推荐部署配置并比较基准结果。
推荐理由:文章展示了技能如何把端点压测、实例推荐与多次结果对比串成可执行工作流,并说明基于真实负载的指标如何辅助部署配置选择。
Amazon SageMaker AI 推出 aws-ai-ml 技能,可接入支持 MCP 的编码代理,生成 SageMaker Python SDK v3 代码来压测端点、推荐部署配置并比较基准结果。
推荐理由:文章展示了技能如何把端点压测、实例推荐与多次结果对比串成可执行工作流,并说明基于真实负载的指标如何辅助部署配置选择。
PyTorch 加速器集成工作组总结了 2026 年上半年的硬件支持进展,涵盖跨仓库 CI Relay(CRCR)、测试重构、OpenReg 参考后端、性能分析、分布式支持和编译器后端集成。工作组还推进了硬件分类测试机制,并为新后端接入 torch.compile、分布式训练和 profiling 提供参考实现与文档。
推荐理由:文章梳理了测试、CI、中间件和编译器接入的参考实现,呈现 PyTorch 如何为不同硬件后端提供可复用的集成路径。
Apache TVM 发布 v0.23.0,重点改进 Relax、TIR、PyTorch frontend、运行时和编译流程。Relax 新增动态输出裁剪、动态布局规范及多项 PyTorch ExportedProgram frontend 支持,TIR 增加 FuseReductionEpilogue 等调度能力。
推荐理由:Apache TVM v0.23.0 汇总了 Relax、TIR、PyTorch frontend 与运行时等方向的改进,适合用于判断升级对模型导入和编译流程的影响。
Apache TVM 发布 v0.22.0,版本更新涵盖 Relax、FFI、TVMScript 及多个前端和后端的改进。FFI 部分包含独立拆分 tvm-ffi 仓库、接口与 ABI 调整;Relax 增加对 PyTorch ExportedProgram 中 GRU、LSTM 和 MatrixMultiply 算子的支持。
推荐理由:版本记录集中呈现 FFI 重构与 Relax 前端进展,并涵盖 PyTorch 导入支持及多项后端修复,便于了解 TVM 的主要工程变化。