Google 推出 LiteRT Tensor API,一个轻量级 C++ API,让开发者逐操作构建计算图,并可不改写地运行在 CPU、GPU 和 NPU 上,用于在端侧构建、定制和优化机器学习模型。 Google 称还在推进多项后续改进,包括直接支持 ML Drift 后端、增加对 NPU 友好的算子、自动全图量化,以及扩展对不同图像尺寸、批大小和序列长度的动态形状支持。
AI 根据报道生成 · 1 小时前更新
沿着报道,了解事件的不同侧面。
Google 推出 LiteRT Tensor API,一个轻量级 C++ API,让开发者逐操作构建计算图,并可不改写地运行在 CPU、GPU 和 NPU 上。
还没有足够的连续观测数据,暂不绘制趋势。