diff --git a/doc/paddle/advanced_guide/performance_improving/inference_improving/paddle_xpu_infer_cn.md b/doc/paddle/advanced_guide/performance_improving/inference_improving/paddle_xpu_infer_cn.md index 72bd142f0bd..8faf2504553 100644 --- a/doc/paddle/advanced_guide/performance_improving/inference_improving/paddle_xpu_infer_cn.md +++ b/doc/paddle/advanced_guide/performance_improving/inference_improving/paddle_xpu_infer_cn.md @@ -39,6 +39,17 @@ config.enable_lite_engine( ### Python demo +因目前Paddle-Inference目前未将xpu sdk打包到whl包内,所以需要用户下载xpu sdk,并加入到环境变量中,之后会考虑解决该问题。 + +下载[xpu_tool_chain](https://paddle-inference-dist.bj.bcebos.com/inference_demo/xpu_tool_chain.tgz),解压后将shlib加入到LD_LIBRARY_PATH + +``` +tar xzf xpu_tool_chain.tgz +``` +``` +export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$PWD/output/XTDK/shlib/:$PWD/output/XTDK/runtime/shlib/ +``` + 下载[resnet50](https://paddle-inference-dist.bj.bcebos.com/inference_demo/python/resnet50/ResNet50.tar.gz)模型,并解压,运行如下命令将会调用预测引擎 ```bash diff --git a/doc/paddle/install/compile/compile_ARM.md b/doc/paddle/install/compile/compile_ARM.md new file mode 100644 index 00000000000..e4ec3962baf --- /dev/null +++ b/doc/paddle/install/compile/compile_ARM.md @@ -0,0 +1,153 @@ +# **飞腾/鲲鹏下从源码编译** + +## 环境准备 + +* **处理器:FT2000+/Kunpeng 920 2426SK** +* **操作系统:麒麟v10/UOS** +* **Python 版本 2.7.15+/3.5.1+/3.6/3.7/3.8 (64 bit)** +* **pip 或 pip3 版本 9.0.1+ (64 bit)** + +飞腾FT2000+和鲲鹏920处理器均为ARMV8架构,在该架构上编译Paddle的方式一致,本文以FT2000+为例,介绍Paddle的源码编译。 + +## 安装步骤 + +目前在FT2000+处理器加国产化操作系统(麒麟UOS)上安装Paddle,只支持源码编译的方式,接下来详细介绍各个步骤。 + +<a name="arm_source"></a> +### **源码编译** + +1. Paddle依赖cmake进行编译构建,需要cmake版本>=3.10,如果操作系统提供的源包括了合适版本的cmake,直接安装即可,否则需要[源码安装](https://github.com/Kitware/CMake) + + ``` + wget https://github.com/Kitware/CMake/releases/download/v3.16.8/cmake-3.16.8.tar.gz + ``` + + ``` + tar -xzf cmake-3.16.8.tar.gz && cd cmake-3.16.8 + ``` + + ``` + ./bootstrap && make && sudo make install + ``` + +2. Paddle内部使用patchelf来修改动态库的rpath,如果操作系统提供的源包括了patchelf,直接安装即可,否则需要源码安装,请参考[patchelf官方文档](https://github.com/NixOS/patchelf),后续会考虑在ARM上移出该依赖。 + + ``` + ./bootstrap.sh + ``` + + ``` + ./configure + ``` + + ``` + make + ``` + + ``` + make check + ``` + + ``` + sudo make install + ``` + +3. 根据[requirments.txt](https://github.com/PaddlePaddle/Paddle/blob/develop/python/requirements.txt)安装Python依赖库,在飞腾加国产化操作系统环境中,pip安装可能失败或不能正常工作,主要依赖通过源或源码安装的方式安装依赖库,建议使用系统提供源的方式安装依赖库。 + +4. 将Paddle的源代码克隆到当下目录下的Paddle文件夹中,并进入Paddle目录 + + ``` + git clone https://github.com/PaddlePaddle/Paddle.git + ``` + + ``` + cd Paddle + ``` + +5. 切换到较稳定release分支下进行编译: + + ``` + git checkout [分支名] + ``` + + 例如: + + ``` + git checkout release/2.0-rc1 + ``` + +6. 并且请创建并进入一个叫build的目录下: + + ``` + mkdir build && cd build + ``` + +7. 链接过程中打开文件数较多,可能超过系统默认限制导致编译出错,设置进程允许打开的最大文件数: + + ``` + ulimit -n 4096 + ``` + +8. 执行cmake: + + >具体编译选项含义请参见[编译选项表](../Tables.html#Compile) + + For Python2: + ``` + cmake .. -DPY_VERSION=2 -DPYTHON_EXECUTABLE=`which python2` -DWITH_ARM=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON -DWITH_XBYAK=OFF + ``` + + For Python3: + ``` + cmake .. -DPY_VERSION=3 -DPYTHON_EXECUTABLE=`which python3` -DWITH_ARM=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON -DWITH_XBYAK=OFF + ``` + +9. 使用以下命令来编译,注意,因为处理器为ARM架构,如果不加`TARGET=ARMV8`则会在编译的时候报错。 + + ``` + make TARGET=ARMV8 -j$(nproc) + ``` + +10. 编译成功后进入`Paddle/build/python/dist`目录下找到生成的`.whl`包。 + +11. 在当前机器或目标机器安装编译好的`.whl`包: + + ``` + pip install -U(whl包的名字)`或`pip3 install -U(whl包的名字) + ``` + +恭喜,至此您已完成PaddlePaddle在FT环境下的编译安装。 + + +## **验证安装** +安装完成后您可以使用 `python` 或 `python3` 进入python解释器,输入`import paddle.fluid as fluid` ,再输入 + `fluid.install_check.run_check()` + +如果出现`Your Paddle Fluid is installed succesfully!`,说明您已成功安装。 + +在mobilenetv1和resnet50模型上测试 + + wget -O profile.tar https://paddle-cetc15.bj.bcebos.com/profile.tar?authorization=bce-auth-v1/4409a3f3dd76482ab77af112631f01e4/2020-10-09T10:11:53Z/-1/host/786789f3445f498c6a1fd4d9cd3897ac7233700df0c6ae2fd78079eba89bf3fb + tar xf profile.tar && cd profile + python resnet.py --model_file ResNet50_inference/model --params_file ResNet50_inference/params + # 正确输出应为:[0.0002414 0.00022418 0.00053661 0.00028639 0.00072682 0.000213 + # 0.00638718 0.00128127 0.00013535 0.0007676 ] + python mobilenetv1.py --model_file mobilenetv1/model --params_file mobilenetv1/params + # 正确输出应为:[0.00123949 0.00100392 0.00109539 0.00112206 0.00101901 0.00088412 + # 0.00121536 0.00107679 0.00106071 0.00099605] + python ernie.py --model_dir ernieL3H128_model/ + # 正确输出应为:[0.49879393 0.5012061 ] + +## **如何卸载** +请使用以下命令卸载PaddlePaddle: + +``` +pip uninstall paddlepaddle` 或 `pip3 uninstall paddlepaddle +``` + + +## **备注** + +已在ARM架构下测试过resnet50, mobilenetv1, ernie, ELMo等模型,基本保证了预测使用算子的正确性,如果您在使用过程中遇到计算结果错误,编译失败等问题,请到[issue](https://github.com/PaddlePaddle/Paddle/issues)中留言,我们会及时解决。 + +预测文档见[doc](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/guides/05_inference_deployment/inference/native_infer.html),使用示例见[Paddle-Inference-Demo](https://github.com/PaddlePaddle/Paddle-Inference-Demo) diff --git a/doc/paddle/install/compile/compile_FT.md b/doc/paddle/install/compile/compile_FT.md deleted file mode 100644 index a35b8753fb3..00000000000 --- a/doc/paddle/install/compile/compile_FT.md +++ /dev/null @@ -1,108 +0,0 @@ -# **飞腾下从源码编译** - -## 环境准备 - -* **处理器:FT2000+** -* **操作系统:麒麟v10** - * NAME="Kylin Linux Advanced Server" - * VERSION="V10 (Azalea)" - * ID="kylin" - * ID_LIKE="fedora" - * VARIANT="Server" - * VARIANT_ID="server" - * VERSION_ID="V10" - * PRETTY_NAME="Kylin Linux Advanced Server V10 (Azalea)" - * ANSI_COLOR="0;31" - * CPE_NAME="cpe:/o:kylin:enterprise_linux:V10:GA:server" - * HOME_URL="https://www.kylinos.cn/" - * BUG_REPORT_URL="https://bugzilla.kylinos.cn/bugzilla/" - * KYLIN_BUGZILLA_PRODUCT="Kylin Linux Advanced Server 10" - * KYLIN_BUGZILLA_PRODUCT_VERSION=V10 - * KYLIN_SUPPORT_PRODUCT="Kylin Linux Advanced Server" - * KYLIN_SUPPORT_PRODUCT_VERSION="V10" -* **Python 版本 2.7.15+/3.5.1+/3.6/3.7 (64 bit)** -* **pip 或 pip3 版本 9.0.1+ (64 bit)** - -## 安装步骤 - -目前在FT2000+处理器加国产化操作系统(麒麟UOS)上安装Paddle,只支持源码编译的方式,接下来详细介绍各个步骤。 - -<a name="ft_source"></a> -### **源码编译** - -1. Paddle依赖cmake进行编译构建,需要cmake版本>=3.10,如果操作系统提供的源包括了合适版本的cmake,直接安装即可,否则需要[源码安装](https://github.com/Kitware/CMake) - - wget https://github.com/Kitware/CMake/releases/download/v3.16.8/cmake-3.16.8.tar.gz - tar -xzf cmake-3.16.8.tar.gz && cd cmake-3.16.8 - ./bootstrap && make && sudo make install - -2. Paddle内部使用patchelf来修改动态库的rpath,如果操作系统提供的源包括了patchelf,直接安装即可,否则需要源码安装,请参考[patchelf官方文档](https://github.com/NixOS/patchelf) - - ./bootstrap.sh - ./configure - make - make check - sudo make install - -3. 根据[requirments.txt](https://github.com/PaddlePaddle/Paddle/blob/develop/python/requirements.txt)安装Python依赖库,在飞腾加国产化操作系统环境中,pip安装可能失败或不能正常工作,主要依赖通过源或源码安装的方式安装依赖库,建议使用系统提供源的方式安装依赖库。 - -4. 将Paddle的源代码克隆到当下目录下的Paddle文件夹中,并进入Paddle目录 - - - `git clone https://github.com/PaddlePaddle/Paddle.git` - - - `cd Paddle` - -5. 切换到较稳定release分支下进行编译: - - `git checkout [分支名]` - - 例如: - - `git checkout v1.8.5` - -6. 并且请创建并进入一个叫build的目录下: - - `mkdir build && cd build` - -7. 链接过程中打开文件数较多,可能超过系统默认限制导致编译出错,设置进程允许打开的最大文件数: - - `ulimit -n 4096` - -8. 执行cmake: - - >具体编译选项含义请参见[编译选项表](../Tables.html#Compile) - - For Python2: cmake .. -DPY_VERSION=2 -DPYTHON_EXECUTABLE=`which python2` -DWITH_ARM=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON - For Python3: cmake .. -DPY_VERSION=3 -DPYTHON_EXECUTABLE=`which python3` -DWITH_ARM=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON - -9. 使用以下命令来编译,注意,因为FT2000+为ARM架构,如果不加`TARGET=ARMV8`则会在编译的时候报错。 - - `make TARGET=ARMV8 -j$(nproc)` - -10. 编译成功后进入`Paddle/build/python/dist`目录下找到生成的`.whl`包。 - -11. 在当前机器或目标机器安装编译好的`.whl`包: - - `pip install -U(whl包的名字)`或`pip3 install -U(whl包的名字)` - -恭喜,至此您已完成PaddlePaddle在FT环境下的编译安装。 - - -## **验证安装** -安装完成后您可以使用 `python` 或 `python3` 进入python解释器,输入`import paddle.fluid as fluid` ,再输入 - `fluid.install_check.run_check()` - -如果出现`Your Paddle Fluid is installed succesfully!`,说明您已成功安装。 - -在mobilenetv1和resnet50模型上测试 - - wget -O profile.tar https://paddle-cetc15.bj.bcebos.com/profile.tar?authorization=bce-auth-v1/4409a3f3dd76482ab77af112631f01e4/2020-10-09T10:11:53Z/-1/host/786789f3445f498c6a1fd4d9cd3897ac7233700df0c6ae2fd78079eba89bf3fb - tar xf profile.tar && cd profile - python resnet.py --model_file ResNet50_inference/model --params_file ResNet50_inference/params - python mobilenetv1.py --model_file sample/inference/mobilenetv1/model --params_file sample/inference/mobilenetv1/params - - -## **如何卸载** -请使用以下命令卸载PaddlePaddle: - -`pip uninstall paddlepaddle` 或 `pip3 uninstall paddlepaddle` diff --git a/doc/paddle/install/compile/compile_SW.md b/doc/paddle/install/compile/compile_SW.md new file mode 100644 index 00000000000..240591926f9 --- /dev/null +++ b/doc/paddle/install/compile/compile_SW.md @@ -0,0 +1,144 @@ +# **申威下从源码编译** + +## 环境准备 + +* **处理器:SW6A** +* **操作系统:普华, iSoft Linux 5** +* **Python 版本 2.7.15+/3.5.1+/3.6/3.7/3.8 (64 bit)** +* **pip 或 pip3 版本 9.0.1+ (64 bit)** + +申威机器为SW架构,目前生态支持的软件比较有限,本文以比较trick的方式在申威机器上源码编译Paddle,未来会随着申威软件的完善不断更新。 + +## 安装步骤 + +本文在申威处理器下安装Paddle,接下来详细介绍各个步骤。 + +<a name="sw_source"></a> +### **源码编译** + +1. 将Paddle的源代码克隆到当下目录下的Paddle文件夹中,并进入Paddle目录 + + ``` + git clone https://github.com/PaddlePaddle/Paddle.git + ``` + + ``` + cd Paddle + ``` + +2. 切换到较稳定release分支下进行编译: + + ``` + git checkout [分支/标签名] + ``` + + 例如: + + ``` + git checkout release/2.0-rc1 + ``` + +3. Paddle依赖cmake进行编译构建,需要cmake版本>=3.10,检查操作系统源提供cmake的版本,使用源的方式直接安装cmake, `apt install cmake`, 检查cmake版本, `cmake --version`, 如果cmake >= 3.10则不需要额外的操作,否则请修改Paddle主目录的`CMakeLists.txt`, `cmake_minimum_required(VERSION 3.10)` 修改为 `cmake_minimum_required(VERSION 3.0)`. + +4. 由于申威暂不支持openblas,所以在此使用blas + cblas的方式,在此需要源码编译blas和cblas。 + + ``` + pushd /opt + wget http://www.netlib.org/blas/blas-3.8.0.tgz + wget http://www.netlib.org/blas/blast-forum/cblas.tgz + tar xzf blas-3.8.0.tgz + tar xzf cblas.tgz + pushd BLAS-3.8.0 + make + popd + pushd CBLAS + # 修改Makefile.in中BLLIB为BLAS-3.8.0的编译产物blas_LINUX.a + make + pushd lib + export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:$PWD + ln -s cblas_LINUX.a libcblas.a + cp ../../BLAS-3.8.0/blas_LINUX.a . + ln -s blas_LINUX.a libblas.a + popd + popd + popd + ``` + +5. 根据[requirments.txt](https://github.com/PaddlePaddle/Paddle/blob/develop/python/requirements.txt)安装Python依赖库,注意在申威系统中一般无法直接使用pip或源码编译安装python依赖包,建议使用源的方式安装,如果遇到部分依赖包无法安装的情况,请联系操作系统服务商提供支持。此外也可以通过pip安装的时候加--no-deps的方式来避免依赖包的安装,但该种方式可能导致包由于缺少依赖不可用。 + +6. 请创建并进入一个叫build的目录下: + + ``` + mkdir build && cd build + ``` + +7. 链接过程中打开文件数较多,可能超过系统默认限制导致编译出错,设置进程允许打开的最大文件数: + + ``` + ulimit -n 4096 + ``` + +8. 执行cmake: + + >具体编译选项含义请参见[编译选项表](../Tables.html#Compile) + + ``` + CBLAS_ROOT=/opt/CBLAS + ``` + + For Python2: + ``` + cmake .. -DPY_VERSION=2 -DPYTHON_EXECUTABLE=`which python2` -DWITH_MKL=OFF -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON -DWITH_PYTHON=ON -DREFERENCE_CBLAS_ROOT=${CBLAS_ROOT} -DWITH_CRYPTO=OFF -DWITH_XBYAK=OFF -DWITH_SW=ON -DCMAKE_CXX_FLAGS="-Wno-error -w" + ``` + For Python3: + ``` + cmake .. -DPY_VERSION=3 -DPYTHON_EXECUTABLE=`which python3` -DWITH_MKL=OFF -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON -DWITH_PYTHON=ON -DREFERENCE_CBLAS_ROOT=${CBLAS_ROOT} -DWITH_CRYPTO=OFF -DWITH_XBYAK=OFF -DWITH_SW=ON -DCMAKE_CXX_FLAGS="-Wno-error -w" + ``` + +9. 编译。 + + ``` + make -j$(nproc) + ``` + +10. 编译成功后进入`Paddle/build/python/dist`目录下找到生成的`.whl`包。 + +11. 在当前机器或目标机器安装编译好的`.whl`包: + + ``` + python2 -m pip install -U(whl包的名字)`或`python3 -m pip install -U(whl包的名字) + ``` + +恭喜,至此您已完成PaddlePaddle在FT环境下的编译安装。 + +## **验证安装** +安装完成后您可以使用 `python` 或 `python3` 进入python解释器,输入`import paddle.fluid as fluid` ,再输入 + `fluid.install_check.run_check()` + +如果出现`Your Paddle Fluid is installed succesfully!`,说明您已成功安装。 + +在mobilenetv1和resnet50模型上测试 + + wget -O profile.tar https://paddle-cetc15.bj.bcebos.com/profile.tar?authorization=bce-auth-v1/4409a3f3dd76482ab77af112631f01e4/2020-10-09T10:11:53Z/-1/host/786789f3445f498c6a1fd4d9cd3897ac7233700df0c6ae2fd78079eba89bf3fb + tar xf profile.tar && cd profile + python resnet.py --model_file ResNet50_inference/model --params_file ResNet50_inference/params + # 正确输出应为:[0.0002414 0.00022418 0.00053661 0.00028639 0.00072682 0.000213 + # 0.00638718 0.00128127 0.00013535 0.0007676 ] + python mobilenetv1.py --model_file mobilenetv1/model --params_file mobilenetv1/params + # 正确输出应为:[0.00123949 0.00100392 0.00109539 0.00112206 0.00101901 0.00088412 + # 0.00121536 0.00107679 0.00106071 0.00099605] + python ernie.py --model_dir ernieL3H128_model/ + # 正确输出应为:[0.49879393 0.5012061 ] + +## **如何卸载** +请使用以下命令卸载PaddlePaddle: + +``` +python3 -m pip uninstall paddlepaddle` 或 `python3 -m pip uninstall paddlepaddle +``` + +## **备注** + +已在申威下测试过resnet50, mobilenetv1, ernie, ELMo等模型,基本保证了预测使用算子的正确性,但可能会遇到浮点异常的问题,该问题我们后续会和申威一起解决,如果您在使用过程中遇到计算结果错误,编译失败等问题,请到[issue](https://github.com/PaddlePaddle/Paddle/issues)中留言,我们会及时解决。 + +预测文档见[doc](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/guides/05_inference_deployment/inference/native_infer.html),使用示例见[Paddle-Inference-Demo](https://github.com/PaddlePaddle/Paddle-Inference-Demo) diff --git a/doc/paddle/install/compile/compile_ZHAOXIN.md b/doc/paddle/install/compile/compile_ZHAOXIN.md new file mode 100644 index 00000000000..2a3bc1925a5 --- /dev/null +++ b/doc/paddle/install/compile/compile_ZHAOXIN.md @@ -0,0 +1,155 @@ +# **兆芯下从源码编译** + +## 环境准备 + +* **处理器:ZHAOXIN KaiSheng KH-37800D** +* **操作系统:centos7** +* **Python 版本 2.7.15+/3.5.1+/3.6/3.7/3.8 (64 bit)** +* **pip 或 pip3 版本 9.0.1+ (64 bit)** + +兆芯为x86架构,编译方法与[Linux下从源码编译cpu版](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/install/compile/compile_Linux.html)一致。 + +## 安装步骤 + +本文在ZHAOXIN处理器下安装Paddle,接下来详细介绍各个步骤。 + +<a name="zhaoxin_source"></a> +### **源码编译** + +1. Paddle依赖cmake进行编译构建,需要cmake版本>=3.10,如果操作系统提供的源包括了合适版本的cmake,直接安装即可,否则需要[源码安装](https://github.com/Kitware/CMake) + + ``` + wget https://github.com/Kitware/CMake/releases/download/v3.16.8/cmake-3.16.8.tar.gz + ``` + + ``` + tar -xzf cmake-3.16.8.tar.gz && cd cmake-3.16.8 + ``` + + ``` + ./bootstrap && make && sudo make install + ``` + +2. Paddle内部使用patchelf来修改动态库的rpath,如果操作系统提供的源包括了patchelf,直接安装即可,否则需要源码安装,请参考[patchelf官方文档](https://github.com/NixOS/patchelf)。 + + ``` + ./bootstrap.sh + ``` + + ``` + ./configure + ``` + + ``` + make + ``` + + ``` + make check + ``` + + ``` + sudo make install + ``` + +3. 将Paddle的源代码克隆到当下目录下的Paddle文件夹中,并进入Paddle目录 + + ``` + git clone https://github.com/PaddlePaddle/Paddle.git + ``` + + ``` + cd Paddle + ``` + +4. 切换到较稳定release分支下进行编译: + + ``` + git checkout [分支/标签名] + ``` + + 例如: + + ``` + git checkout release/2.0-rc1 + ``` + +5. 根据[requirments.txt](https://github.com/PaddlePaddle/Paddle/blob/develop/python/requirements.txt)安装Python依赖库。 + + ``` + pip install -r python/requirments.txt + ``` + +6. 请创建并进入一个叫build的目录下: + + ``` + mkdir build && cd build + ``` + +7. 链接过程中打开文件数较多,可能超过系统默认限制导致编译出错,设置进程允许打开的最大文件数: + + ``` + ulimit -n 4096 + ``` + +8. 执行cmake: + + >具体编译选项含义请参见[编译选项表](../Tables.html#Compile) + + For Python2: + ``` + cmake .. -DPY_VERSION=2 -DPYTHON_EXECUTABLE=`which python2` -DWITH_MKL=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON -DWITH_PYTHON=ON + ``` + For Python3: + ``` + cmake .. -DPY_VERSION=3 -DPYTHON_EXECUTABLE=`which python3` -DWITH_MKL=ON -DWITH_TESTING=OFF -DCMAKE_BUILD_TYPE=Release -DON_INFER=ON -DWITH_PYTHON=ON + ``` + +9. 编译。 + + ``` + make -j$(nproc) + ``` + +10. 编译成功后进入`Paddle/build/python/dist`目录下找到生成的`.whl`包。 + +11. 在当前机器或目标机器安装编译好的`.whl`包: + + ``` + python2 -m pip install -U(whl包的名字)`或`python3 -m pip install -U(whl包的名字) + ``` + +恭喜,至此您已完成PaddlePaddle在FT环境下的编译安装。 + + +## **验证安装** +安装完成后您可以使用 `python` 或 `python3` 进入python解释器,输入`import paddle.fluid as fluid` ,再输入 + `fluid.install_check.run_check()` + +如果出现`Your Paddle Fluid is installed succesfully!`,说明您已成功安装。 + +在mobilenetv1和resnet50模型上测试 + + wget -O profile.tar https://paddle-cetc15.bj.bcebos.com/profile.tar?authorization=bce-auth-v1/4409a3f3dd76482ab77af112631f01e4/2020-10-09T10:11:53Z/-1/host/786789f3445f498c6a1fd4d9cd3897ac7233700df0c6ae2fd78079eba89bf3fb + tar xf profile.tar && cd profile + python resnet.py --model_file ResNet50_inference/model --params_file ResNet50_inference/params + # 正确输出应为:[0.0002414 0.00022418 0.00053661 0.00028639 0.00072682 0.000213 + # 0.00638718 0.00128127 0.00013535 0.0007676 ] + python mobilenetv1.py --model_file mobilenetv1/model --params_file mobilenetv1/params + # 正确输出应为:[0.00123949 0.00100392 0.00109539 0.00112206 0.00101901 0.00088412 + # 0.00121536 0.00107679 0.00106071 0.00099605] + python ernie.py --model_dir ernieL3H128_model/ + # 正确输出应为:[0.49879393 0.5012061 ] + +## **如何卸载** +请使用以下命令卸载PaddlePaddle: + +``` +python3 -m pip uninstall paddlepaddle` 或 `python3 -m pip uninstall paddlepaddle +``` + +## **备注** + +已在ZHAOXIN下测试过resnet50, mobilenetv1, ernie, ELMo等模型,基本保证了预测使用算子的正确性,如果您在使用过程中遇到计算结果错误,编译失败等问题,请到[issue](https://github.com/PaddlePaddle/Paddle/issues)中留言,我们会及时解决。 + +预测文档见[doc](https://www.paddlepaddle.org.cn/documentation/docs/zh/develop/guides/05_inference_deployment/inference/native_infer.html),使用示例见[Paddle-Inference-Demo](https://github.com/PaddlePaddle/Paddle-Inference-Demo)