01 背 景 dl_inference是58同城推出的通用深度学习推理服务,可在生产环境中快速上线由TensorFlow、PyTorch、Caffe等框架训练出来的深度学习模型。dl_inference于2020年3月26号发布,可参见《开源|dl_inference:通用深度学习推理服务》。 我们在2021年11月对dl_inference再次进行更新,从发布至今新增如下Features: ... 开源 | dl_inference 更新:增加 TensorRT、MKL 集成,提高深度学习模型推理速度下载地址