BreezeDeploy

驱动安装文档 | 编译文档 | 二次开发例程文档 | 二次开发API文档

BreezeDeploy是一款用于在RK平台上高效部署AI视觉模型的部署工具库。除部分对NPU极度不友好的模型外，BreezeDeploy计划全程使用RKNPU进行推理。 为了提供高效、灵活且可靠的部署解决方案，BreezeDeploy采用C++编写并计划提供Python工具包。

📌 稳定版本

BreezeDeploy最新的稳定版本为release/0.2.0 ，如果您有固定版本的需求，你可以前往Release 来使用指定的稳定版本。

⚠️值得注意的是，BreezeDeploy正在高速迭代中，我们强烈建议您编译最新的develop分支的代码以获取更好的使用体验，而不是使用现有的稳定版本。

ℹ️ 简介

FastDeploy是一款全场景、易用灵活、极致高效的AI推理部署工具，被很多用户所使用。 BreezeDeploy参考FastDeploy设计而来。 在FastDeploy的基础上， BreezeDeploy充分利用了部署平台的优势，对内存拷贝、前后处理、模型推理 等多个方面进行了优化，可以支持在RK平台上以较高的效率部署市面上常见的视觉算法。 希望它能够帮你实现快速且友好的模型部署体验。

🐛 Bug反馈

非常感谢您使用BreezeDeploy仓库！目前我们仍处于研发阶段，可能会遇到一些Bug。 如果您在使用过程中发现任何问题，请前往Issues页面反馈，我们将尽力解决并改进。感谢您的理解和支持！

💐 Acknowledge

本项目中使用和参考了多个由开源社区提供的性能优异的库，在此列出表示感谢:

• ⭐ eigen: Eigen is a C++ template library for linear algebra: matrices, vectors, numerical solvers, and related algorithms.
• ⭐ FastDeploy: ⚡️An Easy-to-use and Fast Deep Learning Model Deployment Toolkit for ☁️Cloud 📱Mobile and 📹Edge. Including Image, Video, Text and Audio 20+ main stream scenarios and 150+ SOTA models with end-to-end optimization, multi-platform and multi-framework support.
• ⭐ faiss: A library for efficient similarity search and clustering of dense vectors.
• ⭐ onnxruntime: ONNX Runtime: cross-platform, high performance ML inferencing and training accelerator.
• ⭐ opencv: Open Source Computer Vision Library.
• ⭐ spdlog: Fast C++ logging library.
• ⭐ yaml-cpp: A YAML parser and emitter in C++.

©️ License

本仓库遵循Apache-2.0开源协议。