InfoQ· Sergio De Simone·· 10 小时前精选AI 评分77
Google 开源 ML Drift,跨平台加速多样 GPU 上的端侧 AI 推理
Google ML Drift Accelerates On-Device AI Inference Across Diverse GPUs
AI 导读
Google 发布开源跨平台 GPU 计算引擎 ML Drift,以 Apache 2.0 许可支持 OpenGL ES、OpenCL、Metal 和 WebGPU,并作为 LiteRT 的 GPU 加速引擎。
推荐理由
原文梳理了 ML Drift 对多种 GPU 与图形 API 的抽象方式,并提供了内存开销和端侧延迟数据,便于评估迁移价值。
来源:InfoQ · infoq.com