基于GPU实现的深度学习的数据库

　　项目组基于深度学习实现了视频风格化和人像抠图的功能，但这是在PC/服务端上跑的，现在需要移植到移动端，因此需要一个移动端的深度学习的计算框架。

　　同类型的库

　　caffe-Android-lib 目前应该是最便于集成使用的深度学习框架库。

　　tensorflow和mxnet据说也有对应的android库，因时间原因暂未。

　　CNNdroid，网址，这个是用

　　render 作优化的深度学习框架，不过就代码实现和实际测试结果来看，性能一般。

　　工程定位

　　实现可实时、体积小、通用的深度学习预测框架。

　　可实时

　　跟PC或服务器不同，移动设备上的GPU可不一定有CPU强悍（多线程+neon/vfp），但在需要实时计算的场景（主要是相机预览和视频播放），往往都是基于OpenGL渲染环境的。

　　实时的情况下，深度学习框架的输入和输出都在GPU端，使用CPU进行计算往往需要拷贝图像出来，算好后再传到GPU端，因此基于GPU实现的深度学习的库能持平CPU版本的效率就有足够优势了。

　　比如实时抠人像这个case：

　　对每一帧相机预览产生的数据，系统将其映射为opengl 的一个external texture，然后需要 计算出一个 mask texture，与原先的texture作混合，显示出来。如果mask texture 的计算在cpu上进行，则需要每帧先把 graphicbuffer 的数据拷贝出来，计算出mask后上传到 mask texture 去，产生一来一回两次额外拷贝。

　　通用

　　本工程需要支持 caffe 产出的模型文件，支持常见的网络如lenet、ResNet等等。这个工作量包括编写相应层的算子，设计网络结构，解析caffe模型的参数等。

　　所幸的是，目前在移动端做好深度学习的预测就足够了，相比于兼顾训练的结构至少省去2/3的工作量。