Skip to content

Latest commit

 

History

History
65 lines (47 loc) · 3.38 KB

environment.md

File metadata and controls

65 lines (47 loc) · 3.38 KB

推理 - 运行环境安装

MindOCR支持Ascend310/Ascend310P设备的推理。

请确保系统正确安装了昇腾AI处理器配套软件包,如果没有安装,请先参考安装昇腾AI处理器配套软件包小节进行安装。

MindOCR后端支持ACLMindSpore Lite两种推理模式,使用ACL模式推理前需使用ATC工具将模型转换成om格式,使用MindSpore Lite推理前需使用converter_lite工具将模型转换成MindIR格式,具体区别如下:

ACL Mindspore Lite
转换工具 ATC converter_lite
推理模型格式 om MindIR

1. ACL推理

对于MindOCR的ACL方式推理,目前Python侧依赖于MindX的Python API接口,该接口暂只支持Python3.9。

环境 版本
Python 3.9
MindX 3.0.0

在Python3.9环境基础上,下载MindX的mxVision SDK安装包,参考指导教程进行安装,主要步骤如下:

# 增加可执行权限
chmod +x Ascend-mindxsdk-mxvision_{version}_linux-{arch}.run
# 执行安装命令,如果提示需指定cann包路径,则增加参数如:--cann-path=/usr/local/Ascend/latest
./Ascend-mindxsdk-mxvision_{version}_linux-{arch}.run --install
# 设置环境变量
source mxVision/set_env.sh

如果使用python接口, 安装完毕之后测试一下mindx是否可以正常导入:python -c "import mindx"

如果提示找不到mindx,则转到mxVision/python目录下,安装对应的whl包:

cd mxVision/python
pip install *.whl

如果使用C++接口则无需执行上述步骤。

2. MindSpore Lite推理

对于MindOCR的MindSpore Lite推理,需要安装2.0.0-rc1或以上版本的MindSpore Lite云侧推理工具包。

先下载Ascend版的云侧版本的推理工具包tar.gz文件,以及Python接口Wheel包。

下载地址中提供了3.7版本的Python包,如需其它版本可参考编译教程。

推理工具包安装时直接解压即可,并注意设置环境变量:

export LITE_HOME=/your_path_to/mindspore-lite
export LD_LIBRARY_PATH=$LITE_HOME/runtime/lib:$LITE_HOME/runtime/third_party/dnnl:$LITE_HOME/tools/converter/lib:$LD_LIBRARY_PATH
export PATH=$LITE_HOME/tools/converter/converter:$LITE_HOME/tools/benchmark:$PATH

如果使用python接口,使用pip安装所需的whl包

pip install mindspore_lite-{version}-{python_version}-linux_{arch}.whl

如果使用C++接口,则无需安装。