English | ็ฎไฝไธญๆ | เคนเคฟเคจเฅเคฆเฅ | ๆฅๆฌ่ช | ํ๊ตญ์ธ | Pัฬััะบะธะน ัะทัฬะบ
ๅฎ่ฃ | ไฝฟ็จๆๆกฃ | APIๆๆกฃ | ๆดๆฐๆฅๅฟ
โก๏ธFastDeployๆฏไธๆฌพๅ จๅบๆฏใๆ็จ็ตๆดปใๆ่ด้ซๆ็AIๆจ็้จ็ฝฒๅทฅๅ ทใๆไพ๐ฆๅผ็ฎฑๅณ็จ็ไบ่พน็ซฏ้จ็ฝฒไฝ้ช, ๆฏๆ่ถ ่ฟ ๐ฅ150+ Text, Vision, Speechๅ่ทจๆจกๆๆจกๅ๏ผๅนถๅฎ็ฐ๐็ซฏๅฐ็ซฏ็ๆจ็ๆง่ฝไผๅใๅ ๆฌๅพๅๅ็ฑปใ็ฉไฝๆฃๆตใๅพๅๅๅฒใไบบ่ธๆฃๆตใไบบ่ธ่ฏๅซใๅ ณ้ฎ็นๆฃๆตใๆ ๅพใOCRใNLPใTTS็ญไปปๅก๏ผๆปก่ถณๅผๅ่ ๅคๅบๆฏใๅค็กฌไปถใๅคๅนณๅฐ็ไบงไธ้จ็ฝฒ้ๆฑใ
Image Classification | Object Detection | Semantic Segmentation | Potrait Segmentation |
---|---|---|---|
Image Matting | Real-Time Matting | OCR | Face Alignment |
Pose Estimation | Behavior Recognition | NLP | Speech |
input ๏ผๆฉไธๅฅฝไปๅคฉๆฏ2020 |
- ๐ฅ็ดๆญ้ขๅ๏ผ2022.12.12 ~ 2022.12.30ๆฅๆฏๆ20:30๏ผ่ๅๅๅฎถ็กฌไปถๅๅไผไผด๏ผๆจๅบ้จ็ฝฒๆใไบงไธ็บงAIๆจกๅ้จ็ฝฒๅ จๆป็ฅใใๅพฎไฟกๆซๆไธๆนไบ็ปด็ ๏ผๅ ณๆณจๅ ฌไผๅทๅนถๅกซๅ้ฎๅทๅ่ฟๅ ฅๅฎๆนไบคๆต็พค๏ผไธ่กไธ็ฒพ่ฑๅ ฑๅๆข่ฎจAI้จ็ฝฒ่ฏ้ขใ
-
๐ฅ๏ธ ๆๅกๅจ็ซฏ้จ็ฝฒ
-
๐ฒ ็งปๅจ็ซฏๅ็ซฏไพง้จ็ฝฒ
-
๐ Webๅๅฐ็จๅบ้จ็ฝฒ
Python SDKๅฟซ้ๅผๅง๏ผ็นๅผๆฅ็่ฏฆๆ ๏ผ
- CUDA >= 11.2ใcuDNN >= 8.0ใPython >= 3.6
- OS: Linux x86_64/macOS/Windows 10
pip install numpy opencv-python fastdeploy-gpu-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html
conda config --add channels conda-forge && conda install cudatoolkit=11.2 cudnn=8.2
pip install numpy opencv-python fastdeploy-python -f https://www.paddlepaddle.org.cn/whl/fastdeploy.html
- ๅๅคๆจกๅๅๅพ็
wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz
tar xvf ppyoloe_crn_l_300e_coco.tgz
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
- ๆต่ฏๆจ็็ปๆ
# GPU/TensorRT้จ็ฝฒๅ่ examples/vision/detection/paddledetection/python
import cv2
import fastdeploy.vision as vision
model = vision.detection.PPYOLOE("ppyoloe_crn_l_300e_coco/model.pdmodel",
"ppyoloe_crn_l_300e_coco/model.pdiparams",
"ppyoloe_crn_l_300e_coco/infer_cfg.yml")
im = cv2.imread("000000014439.jpg")
result = model.predict(im)
print(result)
vis_im = vision.vis_detection(im, result, score_threshold=0.5)
cv2.imwrite("vis_image.jpg", vis_im)
C++ SDKๅฟซ้ๅผๅง๏ผ็นๅผๆฅ็่ฏฆๆ ๏ผ
- ๅ่C++้ข็ผ่ฏๅบไธ่ฝฝๆๆกฃ
- ๅๅคๆจกๅๅๅพ็
wget https://bj.bcebos.com/paddlehub/fastdeploy/ppyoloe_crn_l_300e_coco.tgz
tar xvf ppyoloe_crn_l_300e_coco.tgz
wget https://gitee.com/paddlepaddle/PaddleDetection/raw/release/2.4/demo/000000014439.jpg
- ๆต่ฏๆจ็็ปๆ
// GPU/TensorRT้จ็ฝฒๅ่ examples/vision/detection/paddledetection/cpp
#include "fastdeploy/vision.h"
int main(int argc, char* argv[]) {
namespace vision = fastdeploy::vision;
auto model = vision::detection::PPYOLOE("ppyoloe_crn_l_300e_coco/model.pdmodel",
"ppyoloe_crn_l_300e_coco/model.pdiparams",
"ppyoloe_crn_l_300e_coco/infer_cfg.yml");
auto im = cv::imread("000000014439.jpg");
vision::DetectionResult res;
model.Predict(im, &res);
auto vis_im = vision::VisDetection(im, res, 0.5);
cv::imwrite("vis_image.jpg", vis_im);
return 0;
}
ๆดๅค้จ็ฝฒๆกไพ่ฏทๅ่ๆจกๅ้จ็ฝฒ็คบไพ .
็ฌฆๅท่ฏดๆ: (1) โ
: ๅทฒ็ปๆฏๆ; (2) โ: ๆญฃๅจ่ฟ่กไธญ; (3) N/A: ๆไธๆฏๆ;
ๆๅก็ซฏๆจกๅๆฏๆๅ่กจ๏ผ็นๅปๅฏๆถ็ผฉ๏ผ
ไปปๅกๅบๆฏ | ๆจกๅ | Linux | Linux | Win | Win | Mac | Mac | Linux | Linux | Linux | Linux | Linux | Linux |
---|---|---|---|---|---|---|---|---|---|---|---|---|---|
--- | --- | X86 CPU | NVIDIA GPU | X86 CPU | NVIDIA GPU | X86 CPU | Arm CPU | AArch64 CPU | ้ฃ่ พD2000 aarch64 | NVIDIA Jetson | Graphcore IPU | KunlunXin XPU | Serving |
Classification | PaddleClas/ResNet50 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | TorchVison/ResNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | ltralytics/YOLOv5Cls | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/PP-LCNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/PP-LCNetv2 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/EfficientNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/GhostNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/MobileNetV1 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/MobileNetV2 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/MobileNetV3 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/ShuffleNetV2 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/SqueeezeNetV1.1 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/Inceptionv3 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Classification | PaddleClas/PP-HGNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/PP-YOLOE | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/PicoDet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/YOLOX | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/YOLOv3 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/PP-YOLO | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/PP-YOLOv2 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/Faster-RCNN | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | PaddleDetection/Mask-RCNN | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | Megvii-BaseDetection/YOLOX | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | WongKinYiu/YOLOv7 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | WongKinYiu/YOLOv7end2end_trt | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | WongKinYiu/YOLOv7end2end_ort_ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | meituan/YOLOv6 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | ultralytics/YOLOv5 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | WongKinYiu/YOLOR | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | WongKinYiu/ScaledYOLOv4 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Detection | ppogg/YOLOv5Lite | โ | โ | โ | โ | โ | โ | โ | โ | โ | ? | โ | โ |
Detection | RangiLyu/NanoDetPlus | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
KeyPoint | PaddleDetection/TinyPose | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
KeyPoint | PaddleDetection/PicoDet + TinyPose | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
HeadPose | omasaht/headpose | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Tracking | PaddleDetection/PP-Tracking | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
OCR | PaddleOCR/PP-OCRv2 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
OCR | PaddleOCR/PP-OCRv3 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Segmentation | PaddleSeg/PP-LiteSeg | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Segmentation | PaddleSeg/PP-HumanSegLite | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Segmentation | PaddleSeg/HRNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Segmentation | PaddleSeg/PP-HumanSegServer | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Segmentation | PaddleSeg/Unet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Segmentation | PaddleSeg/Deeplabv3 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceDetection | biubug6/RetinaFace | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceDetection | Linzaer/UltraFace | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceDetection | deepcam-cn/YOLOv5Face | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceDetection | insightface/SCRFD | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceAlign | Hsintao/PFLD | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceAlign | Single430/FaceLandmark1000 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceAlign | jhb86253817/PIPNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceRecognition | insightface/ArcFace | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceRecognition | insightface/CosFace | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceRecognition | insightface/PartialFC | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
FaceRecognition | insightface/VPL | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Matting | ZHKKKe/MODNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Matting | PeterL1n/RobustVideoMatting | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Matting | PaddleSeg/PP-Matting | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Matting | PaddleSeg/PP-HumanMatting | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Matting | PaddleSeg/ModNet | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Video Super-Resolution | PaddleGAN/BasicVSR | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Video Super-Resolution | PaddleGAN/EDVR | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Video Super-Resolution | PaddleGAN/PP-MSVSR | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Information Extraction | PaddleNLP/UIE | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | |
NLP | PaddleNLP/ERNIE-3.0 | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ | โ |
Speech | PaddleSpeech/PP-TTS | โ | โ | โ | โ | โ | โ | โ | โ | โ | -- | โ | โ |
็ซฏไพงๆจกๅๆฏๆๅ่กจ๏ผ็นๅปๅฏๆถ็ผฉ๏ผ
ไปปๅกๅบๆฏ | ๆจกๅ | ๅคงๅฐ(MB) | Linux | Android | Linux | Linux | Linux | Linux | Linux | ๆดๆฐไธญ... |
---|---|---|---|---|---|---|---|---|---|---|
--- | --- | --- | ARM CPU | ARM CPU | ็่ฏๅพฎNPU RK3568/RK3588 |
็่ฏๅพฎNPU RV1109/RV1126/RK1808 |
ๆถๆจNPU A311D/S905D/C308X |
ๆฉๆบๆตฆNPU i.MXย 8Mย Plus |
ๆดๆฐไธญ...๏ฝ | |
Classification | PaddleClas/ResNet50 | 98 | โ | โ | โ | โ | ||||
Classification | PaddleClas/PP-LCNet | 11.9 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/PP-LCNetv2 | 26.6 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/EfficientNet | 31.4 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/GhostNet | 20.8 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/MobileNetV1 | 17 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/MobileNetV2 | 14.2 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/MobileNetV3 | 22 | โ | โ | โ | โ | โ | โ | -- | |
Classification | PaddleClas/ShuffleNetV2 | 9.2 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/SqueezeNetV1.1 | 5 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/Inceptionv3 | 95.5 | โ | โ | โ | โ | -- | -- | -- | |
Classification | PaddleClas/PP-HGNet | 59 | โ | โ | โ | โ | -- | -- | -- | |
Detection | PaddleDetection/PicoDet_s | 4.9 | โ | โ | โ | โ | โ | โ | -- | |
Face Detection | deepinsight/SCRFD | 2.5 | โ | โ | โ | -- | -- | -- | -- | |
Keypoint Detection | PaddleDetection/PP-TinyPose | 5.5 | โ | โ | โ | โ | โ | โ | -- | |
Segmentation | PaddleSeg/PP-LiteSeg(STDC1) | 32.2 | โ | โ | โ | -- | -- | -- | -- | |
Segmentation | PaddleSeg/PP-HumanSeg-Lite | 0.556 | โ | โ | โ | -- | -- | -- | -- | |
Segmentation | PaddleSeg/HRNet-w18 | 38.7 | โ | โ | โ | -- | -- | -- | -- | |
Segmentation | PaddleSeg/PP-HumanSeg | 107.2 | โ | โ | โ | -- | -- | -- | -- | |
Segmentation | PaddleSeg/Unet | 53.7 | โ | โ | โ | -- | -- | -- | -- | |
Segmentation | PaddleSeg/Deeplabv3 | 150 | โ | โ | โ | |||||
OCR | PaddleOCR/PP-OCRv2 | 2.3+4.4 | โ | โ | โ | -- | -- | -- | -- | |
OCR | PaddleOCR/PP-OCRv3 | 2.4+10.6 | โ | โ | โ | โ | โ | โ | -- |
Webๅๅฐ็จๅบ้จ็ฝฒๆฏๆๅ่กจ๏ผ็นๅปๅฏๆถ็ผฉ๏ผ
ไปปๅกๅบๆฏ | ๆจกๅ | web_demo |
---|---|---|
--- | --- | Paddle.js |
Detection | FaceDetection | โ |
Detection | ScrewDetection | โ |
Segmentation | PaddleSeg/HumanSeg | โ |
Object Recognition | GestureRecognition | โ |
Object Recognition | ItemIdentification | โ |
OCR | PaddleOCR/PP-OCRv3 | โ |
-
Slack๏ผJoin our Slack community and chat with other community members about ideas
-
ๅพฎไฟก๏ผๆซๆไบ็ปด็ ๏ผๅกซๅ้ฎๅทๅ ๅ ฅๆๆฏ็คพๅบ๏ผไธ็คพๅบๅผๅ่ ๆข่ฎจ้จ็ฝฒ็็็นไธๆนๆก
ๆฌ้กน็ฎไธญSDK็ๆๅไธ่ฝฝไฝฟ็จไบEasyEdgeไธญ็ๅ ่ดนๅผๆพ่ฝๅ๏ผๅจๆญค่กจ็คบๆ่ฐขใ
FastDeploy้ตๅพชApache-2.0ๅผๆบๅ่ฎฎใ