| 框架 | 公司 | 支持硬件 | 特性 |
|---|---|---|---|
| TensorFlow Lite | Google 2017 | Google 2017 | CPU GPU: android基于OpenGL, IOS基于Metal |
| Core ML | Apple 2017 | Google 2017 | CPU GPU: android基于OpenGL, IOS基于Meta |
| Caffe2 | Facebook 2017 | IOS,Android CPU | GPU暂无资料,针对具有NEON指令的ARM CPU进行优化,其性能超过iphone6的GPU优化的。 |
| NCNN | Tencnet 2017 | Android: CPU/GPU 32/ 64bit都支持IOS: CPU 32/64bit GPU 64 bit | 支持全平台,主要针对手机端进行极致的优化,无第三方依赖库,但算子支持相对较少。 |
| Paddle-Mobile | Baidu 2017 | Android: CPU GPU基于OpenCL | 仅支持Android |
| QNNPACK/NNPACK(加速库) | Android / IOS | 主要针对卷积计算进行加速处理,armeabi-v7a需要CPU支持NEON指令,暂无GPU信息 | |
| MACE | XIAOMI 2018 | 支持Android / IOS CPU,GPU | 底层算子基于OpenCL实现 |
| MNN | 阿里2019 | Android / IOS (CPU / GPU) | 通用性较好,算子支持性好 |
| tengine | ARM中国 | CPU/GPU/AIPU/DSP/FPGA | 适配所有硬件 |
| computelibrary | ARM | CPU/GPU | 基于OpenCL对Mail GPU加速,基于Neon的方式对A系列CPU进行加速 |
| D2GO | 深度学习工具包包含检测,关键点预测,实例分割 |
最后
以上就是怡然冬天最近收集整理的关于移动端深度学习推理框架总结的全部内容,更多相关移动端深度学习推理框架总结内容请搜索靠谱客的其他文章。
本图文内容来源于网友提供,作为学习参考使用,或来自网络收集整理,版权属于原作者所有。
发表评论 取消回复