向AI转型的程序员都关注公众号 机器学习AI算法工程
TensorRT-YOLO 是一款专为 NVIDIA 设备设计的易用灵活 、极致高效 的YOLO系列 推理部署工具。项目不仅集成了 TensorRT 插件以增强后处理效果，还使用了 CUDA 核函数以及 CUDA 图来加速推理。TensorRT-YOLO 提供了 C++ 和 Python 推理的支持，旨在提供📦开箱即用 的部署体验。包括 目标检测、实例分割、图像分类、姿态识别、旋转目标检测、视频分析等任务场景，满足开发者多场景 的部署需求。
| Detect | |
| Segment | |
| Pose | |
| OBB |
项目地址：TensorRT-YOLO GitHub:https://github.com/laugh12321/TensorRT-YOLO
✨ 主要特性
- 多样化的YOLO支持 ：全面兼容YOLOv3至YOLOv11以及PP-YOLOE和PP-YOLOE+，满足不同版本需求。
- 多场景应用 ：提供Detect、Segment、Classify、Pose、OBB等多样化场景的示例代码。
- 模型优化与推理加速 ：
- ONNX支持 ：支持ONNX模型的静态和动态导出，包括TensorRT自定义插件支持，简化模型部署流程。
- TensorRT集成 ：集成TensorRT插件，包括自定义插件，加速Detect, Segment, Pose, OBB等场景的后处理，提升推理效率。
- CUDA加速 ：利用CUDA核函数优化前处理，CUDA图技术加速推理流程，实现高性能计算。
- 语言支持 ：支持C++和Python（通过Pybind11映射，提升Python推理速度），满足不同编程语言需求。
- 部署便捷性 ：
- 动态库编译 ：提供动态库编译支持，方便调用和部署。
- 无第三方依赖 ：全部功能使用标准库实现，无需额外依赖，简化部署流程。
- 快速开发与部署 ：
- CLI工具 ：提供命令行界面（CLI）工具，实现快速模型导出和推理。
- 跨平台支持 ：支持Windows、Linux、ARM、x86等多种设备，适应不同硬件环境。
- Docker部署 ：支持Docker一键部署，简化环境配置和部署流程。
- TensorRT兼容性 ：兼容TensorRT 10.x版本，确保与最新技术兼容。
机器学习算法AI大数据技术
搜索公众号添加： datanlp
长按图片，识别二维码
阅读过本文的人还看了以下文章：
整理开源的中文大语言模型，以规模较小、可私有化部署、训练成本较低的模型为主
基于40万表格数据集TableBank，用MaskRCNN做表格检测
《深度学习入门：基于Python的理论与实现》高清中文PDF+源码
2019最新《PyTorch自然语言处理》英、中文版PDF+源码
《21个项目玩转深度学习：基于TensorFlow的实践详解》完整版PDF+附书代码
PyTorch深度学习快速实战入门《pytorch-handbook》
【下载】豆瓣评分8.1,《机器学习实战:基于Scikit-Learn和TensorFlow》
李沐大神开源《动手学深度学习》，加州伯克利深度学习（2019春）教材
【Keras】完整实现‘交通标志’分类、‘票据’分类两个项目，让你掌握深度学习图像分类
如何利用全新的决策树集成级联结构gcForest做特征工程并打分？
Machine Learning Yearning 中文翻译稿
斯坦福CS230官方指南：CNN、RNN及使用技巧速查（打印收藏）
中科院Kaggle全球文本匹配竞赛华人第1名团队-深度学习与特征工程
不断更新资源
深度学习、机器学习、数据分析、python
搜索公众号添加： datayx