原标题:微软宣布开源ONNX.js,可在浏览器上运行ONNX模型

ONNX.js采用了WebAssembly和WebGL技术,为CPU和GPU提供优化的ONNX模型推理runtime。

为何选择ONNX模型

在开放式神经网络交换(Open Neural Network Exchange ,ONNX)是一个开放的标准,代表机器学习模型。ONNX的最大优势在于它允许跨不同开源AI框架的互操作性,这本身为AI框架的采用提供了更大的灵活性。

为何选择ONNX.js

借助ONNX.js,Web开发人员可以直接在浏览器上对预先训练好的ONNX模型进行评分,从而减少服务器,客户端通信和保护用户隐私,并提供免安装和跨平台的浏览器机器学习体验。

ONNX.js进一步采用了几种新颖的优化技术来减少CPU和GPU之间的数据传输,以及一些减少GPU处理周期以进一步提高性能的技术。

基准

针对同一市场中最著名的开源解决方案进行了基准测试。以下是在一台示例计算机上为Chrome和Edge浏览器收集的结果(计算在CPU和GPU上运行):

如图,Keras.js不支持在任何浏览器上使用WebAssembly。

最新网 www.zuinow.com 2018-12-01 22:19:18

ONNX js GPU CPU 浏览器