Django项目5——基于tensorflow serving部署深度模型——windows版本
1:安装docker for windows
可能需要安装WLS2,用于支持Linux系统,参照上面的教程安装
2:在Powershell下使用docker
docker pull tensorflow/serving
3:在Powershell下启动tensorflow serving
docker run -p 8500:8500 --mount type=bind,source=E:\pythonproject\app_backen210705\app_backen210705\app_backen\bpmonitor\savedmodel,target=/models/savedmodel -e MODEL_NAME=savedmodel -t tensorflow/serving
注意
- source是本地模型的绝对路径,路径中不能有特殊符号,包括空格。
- 模型存放在savedmodel文件夹下面的一个名称为纯数字的文件夹内,这串数字表示这个模型的版本。而source路径中不包含这串数字。
- target路径中/models是固定的,后面的savedmodel应该与前面source路径里的名称一样,均为savedmodel,该名称被视为模型名称。
- MODEL_NAME就是模型名称。
- 如果使用restful进行通信,还需要
-p 8501:8501
启动后可以通过grpc传入数据并得到预测结果。