High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle
最近更新: 19天前基于飞桨的OCR和文档解析工具库,包含文字识别PP-OCR系列模型、文档解析PaddleOCR-VL、PP-Structure系列方案和关键信息抽取PP-ChatOCR系列方案
实现AI模型在不同平台的部署。基于C++与C#两种编程语言,分别实现了在OpenVINO、TensorRT、ONNX runtime以及OpenCV dnn四个平台的部署,并提供了C#Winform桌面程序演示。
最近更新: 3年多前