关键词：

一、前言

随着技术的不断发展，深度学习算法也在不断更新迭代，无论是2D目标检测、3D目标检测，还是语义分割、实例分割，车道线检测、深度估计等领域相关算法也在不断更新，虽然可选择的算法很多，但是我们面临的一个重要的问题是如何将常用的深度学习算法更加快捷方便的去部署到自己的硬件上，近几年来，随着AI芯片的不断发展，各大厂商相继推出自己的高算力AI芯片，也相继开发属于自家硬件的AI工具链，在此之前，各大自动驾驶公司使用最多的当属英伟达的芯片，起初有低算力的TX2，再到较高算力的Xavier，去年更是发布了INT8算力高达256TOPS的Orin，算力的提升及生态的完善使得英伟达的硬件在市场上占据主导位置，英伟达的工具链CUDA、TensorRT也在不断更新迭代，新版本的更新不断覆盖低版本无法解决的问题，但是英伟达的芯片面临的问题便是价格昂贵，虽然与英伟达同处竞争行列的高通也有属于自家的AI芯片及工具链，但是SNPE、OPENCL一直不温不火，无论是生态还是算力均不如英伟达，不过高通的8155及相关系列AI芯片主要用于智能驾驶座舱的开发，随着国产化的趋势，国内很多家芯片公司也开始纷纷推出自己的AI芯片，比如地平线、华为等，不同的芯片都有着自己的部署框架。

二、深度学习模型部署综述

参考https://mp.weixin.qq.com/s/EAO7bLPNDthw5gOWmZvdNw

三、深度学习模型部署开源库

源码：https://github.com/yhwang-hub/dl_model_deploy
该开源项目记录了经典深度学习模型在不同框架(x86)中的部署，致力于帮助大

[深度学习]python人脸识别库face_recognition使用教程(代码片段)

Python人脸识别库face_recognition使用教程face_recognition号称是世界上最简单的开源人脸识别库，可以通过Python或命令行识别和操作人脸。face_recognition提供了十分完整的技术文档和应用实例，人脸识别初学者建议研究该库上手... 查看详情

深度学习heartpy心电图分析(代码片段)

目录1heartpy介绍2使用Pands读取数据2.1数据说明2.2心电图的绘制3心电滤波4心电特性数据读取处理5ECG信号处理相关的开源Python库5.1NeuroKit25.2hrv1heartpy介绍该库提供了处理以下几种信号的方法：来自智能手表和智能手环的常规PPG信... 查看详情

[深度学习工具]·极简安装dlib人脸识别库(代码片段)

[深度学习工具]·极简安装Dlib人脸识别库Dlib介绍Dlib是一个现代化的C++工具箱，其中包含用于在C++中创建复杂软件以解决实际问题的机器学习算法和工具。它广泛应用于工业界和学术界，包括机器人，嵌入式设备，移动电话和大... 查看详情

人工智能python深度学习库都有哪些

由于Python的易用性和可扩展性，众多深度学习框架提供了Python接口，其中较为流行的深度学习库如下：第一：CaffeCaffe是一个以表达式、速度和模块化为核心的深度学习框架，具备清晰、可读性高和快速的特性，在视频、图像处... 查看详情

翻译:deeplearning深度学习平台huggingface开源代码和技术构建训练和部署ml模型(代码片段)

1.什么是HuggingFace🤗HuggingFace是一个社区和数据科学平台，提供：使用户能够基于开源(OS)代码和技术构建、训练和部署ML模型的工具。一个广泛的数据科学家、研究人员和ML工程师社区可以聚集在一起分享想法、获得支... 查看详情

翻译:deeplearning深度学习平台huggingface开源代码和技术构建训练和部署ml模型(代码片段)

1.什么是HuggingFace🤗HuggingFace是一个社区和数据科学平台，提供：使用户能够基于开源(OS)代码和技术构建、训练和部署ML模型的工具。一个广泛的数据科学家、研究人员和ML工程师社区可以聚集在一起分享想法、获得支... 查看详情

tensorflow2深度学习实战（十三）：语义分割算法segnet实战(代码片段)

...开源！这博客是我对学习的一点总结与记录。如果您也对深度学习、机器视觉、算法、Python、C++感兴趣，可以关注我的动态，我们一起学习，一起进步~我的博客地址为：【AI菌】的博客我的Github项目地址是：【AI菌】的Github本教... 查看详情

自动驾驶中的深度学习模型量化部署加速实战

这里主要是针对AI算法落地的模型部署，其中有基于TensorRT的部署、基于OpenCV+CUDA的部署以及基于NCNN的部署，项目包括简单的demo案例、目标检测、语义分割、实例分割、车道线检测以及Transformer等。大家可以参考以下的链接进行... 查看详情

自动驾驶中的深度学习模型量化部署加速实战

这里主要是针对AI算法落地的模型部署，其中有基于TensorRT的部署、基于OpenCV+CUDA的部署以及基于NCNN的部署，项目包括简单的demo案例、目标检测、语义分割、实例分割、车道线检测以及Transformer等。大家可以参考以下的链接进行... 查看详情

机器学习基础教程笔记---机器学习概述(代码片段)

...机器学习概述1.1人工智能概述1.1.1机器学习与人工智能、深度学习1.1.2机器学习、深度学习能做些什么1.1.3人工智能阶段课程安排1.2什么是机器学习1.2.1定义1.2.2解释1.2.3数据集构成1.3机器学习算法分类学习目标分析1.2中的例子࿱... 查看详情

寻找开源c++操作excel表格库？

...Axlslib开源库，满足你的要求。官网：xlslib.sourceforge.net，代码中有实例及说明文档。但不支持excel2007及以上的格式。 参考技术B1、“工具”→“宏”→“VisualBasic编辑器”2、双击“MicrosoftEXCEL对象”下的“Sheet1”3、在右边的最大... 查看详情

信号处理开源库sp++介绍(代码片段)

...的开源C++程序库，该库提供了信号处理与数值计算中常用算法的C++实现。SP++中所有算法都以C++类模板方法实现，以头文件形式组织而成，所以不需要用户进行本地编译，只要将相关的头文件包含在项目中即可使用。”XXX.h”表示... 查看详情

[a*算法01]c++绘图神器-easyx(代码片段)

写在前面接下来需要用C++做轨迹规划相关项目的学习和开发，因此C++的可用GUI库那就是必不可少的了，今天就给大家介绍一个香喷喷的开源图形库——EasyX。效果展示只需要一段简单的程序就可以进行图形绘... 查看详情

eigen学习(代码片段)

　　Eigen是一个基于C++的线性代数库，其中实现大量常用的线性代数算法，包括常规矩阵计算，矩阵变换，矩阵分解，矩阵块操作。Eigen广泛地应用在开源项目中，例如OpenCV，PCL(PointCloudLibrary)，ROS等。其实Eigen中算法都可以在matla... 查看详情

algorithmstar机器学习as机器学习库特征工程使用说明文档(代码片段)

...般处理流程数据采集与清洗向量生成与特征提取选择机器学习后续处理AlgorithmStar使用数据类型-操作数浮点类型操作数整数类型操作数复数特征提取字典特征提取词频特征提取特征选择基于冗余排名比例去除基于相关系数去除机... 查看详情

开源深度学习模型部署工具箱mmdeploy简介及安装(代码片段)

   MMDeploy是一个开源的深度学习模型部署工具箱，是OpenMMLab项目的一部分，源码在https://github.com/open-mmlab/mmdeploy，最新发布版本为v0.8.0，License为Apache-2.0。它支持在Windows10、Linux和Mac上运行。   MMDeploy主要特性&#x... 查看详情

基于c++的简单深度学习ann（人工神经网络）模型(代码片段)

使用C++实现的简单ANN（人工神经网络）github地址使用C++实现的最简单的人工神经网络，包含梯度下降的反向传播算法（BP）。内有部分注释，适合初学学习。至于为什么不用python？还是觉得... 查看详情

基于c++的简单深度学习ann（人工神经网络）模型(代码片段)

使用C++实现的简单ANN（人工神经网络）github地址使用C++实现的最简单的人工神经网络，包含梯度下降的反向传播算法（BP）。内有部分注释，适合初学学习。至于为什么不用python？还是觉得... 查看详情