#预测作业客户端使用指南
预测作业创建成功后,可以下载和运行客户端发起预测请求,具体使用说明如下:
(注意:请确保运行客户端client的机器是连网的。)
执行如下命令下载预测作业客户端:
git clone https://github.com/huawei-clouds/dls-tfserving-client.git
以图像分类为例(样例数据为dls-tfserving-client/data目录下的某个图片),Java和Python客户端使用方式为:
依次执行如下命令即可实现一次预测:
cd dls-tfserving-client/java
mvn clean install
java -jar target/predict-1.0.0.jar \
image_classification \
--host=xx.xx.xx.xx \
--port=xxxx \
--dataPath="xx/dls-tfserving-client/data/flowers/flower1.jpg" \
--labelsFilePath="xx/dls-tfserving-client/data/flowers/labels.txt" \
--modelName="resnet_v1_50"
Linux
下列部署我们在Anaconda环境中测试 (Anaconda2-4.2.0-Linux-x86_64.sh)。
-
安装 python 2.7 / python 3.6
创建一个名为"my-env-py27"的环境,并安装python 2.7:
conda create -n my-env-py27 python=2.7 source activate my-env-py27
或者
创建一个名为"my-env-py36"的环境,并安装python 3.6:
conda create -n my-env-py36 python=3.6 source activate my-env-py36
-
安装 tensorflow
pip install tensorflow
-
安装其它依赖包
pip install image
-
把下列路径加入到环境变量 PYTHONPATH 中
export PYTHONPATH=PYTHONPATH:xx/dls-tfserving-client/python/predict_client
注意: xx是指"dls-tfserving-client" 所在的目录。
Windows
-
安装 python 3.6
假设已经安装了Anaconda环境, 可以使用以下命令创建一个名为"my-env" 的环境,并安装python 3.6:
conda create -n my-env python=3.6
-
下载 tensorflow 1.5.1 安装包
-
安装 tensorflow
pip install tensorflow-1.5.1-cp36-cp36m-win_amd64.whl
-
安装其它依赖包
pip install grpcio image
-
把下列路径加入到环境变量 PYTHONPATH 中
"PATHONPATH=xx/dls-tfserving-client/python/predict_client"
注意: xx是指"dls-tfserving-client" 所在的目录。
直接运行如下命令即可实现一次预测:
python dls-tfserving-client/python/predict.py \
--task_type="image_classification" \
--host=xx.xx.xx.xx \
--port=xxxx \
--data_path="xx/dls-tfserving-client/data/flowers/flower1.jpg" \
--labels_file_path="xx/dls-tfserving-client/data/flowers/labels.txt" \
--model_name="resnet_v1_50"
host:远程预测服务的IP。
port:远程预测服务的端口。
dataPath(data_path):输入数据所在的路径。
labelsFilePath(labels_file_path):数据集标签名所在的路径。
modelName(model_name):创建预测作业时输入的模型名称。