yolov5labview+openvino让你的yolov5在cpu上飞起来

virobotics virobotics     2023-04-07     143

关键词:

文章目录


前言

上一篇博客给大家介绍了使用opencv加载YOLOv5的onnx模型,但我们发现使用CPU进行推理检测确实有些慢,那难道在CPU上就不能愉快地进行物体识别了吗?当然可以啦,这不LabVIEW和OpenVINO就来了嘛!今天就和大家一起看一下如何在CPU上也能感受丝滑的实时物体识别。

一、OpenVINO是什么

OpenVINO是英特尔针对自家硬件平台开发的一套深度学习工具库,用于快速部署应用和解决方案,包含推断库,模型优化等等一系列与深度学习模型部署相关的功能。

特点:
1、在边缘启用基于CNN的深度学习推理
2、支持通过英特尔®Movidius™VPU在英特尔®CPU,英特尔®集成显卡,英特尔®神经计算棒2和英特尔®视觉加速器设计之间进行异构执行
3、通过易于使用的计算机视觉功能库和预先优化的内核加快上市时间
4、包括对计算机视觉标准(包括OpenCV *和OpenCL™)的优化调用
5、通俗易懂点说想要在intel-cpu或者嵌入式上部署深度学习模型,可以考虑考虑openvino

二、LabVIEW视觉工具包下载与配置

1、视觉工具包的下载安装

可在如下链接中下载OpenVINO版工具包:基于LabVIEW可使用opencv DNN模块调用的深度学习工具包

安装方式可参考:LabVIEW AI视觉工具包(非NI Vision)下载与安装教程中CPU用户的安装。

2、OpenVINO toolkit下载安装

下载地址:英特尔® Distribution of OpenVINO™ 工具套件
1)点击Dev Tools


2)选择版本,选择如下版本,并DownLoad:


3)下载后,运行安装即可!

4)可以选择安装路径,具体安装可以参考官方文档:https://docs.openvino.ai/cn/latest/openvino_docs_install_guides_installing_openvino_windows.html

三、模型获取

openvino工作流程,和其他的部署工具都差不多,训练好模型,解析成openvino专用的.xml和.bin,随后传入Inference Engine中进行推理。这里和上一篇博客一样可以使用export.py导出openvino模型:python export.py --weights yolov5s.pt --include openvino
当然这里已经为大家转换好了模型,大家可以直接下载,下载链接:YOLOv5 OpenVINO IR模型

四、LabVIEW+OpenVINO调用Yolov5进行实时物体识别

1、实现过程

  • dnn模块调用IR模型(模型优化器)
  • 设置计算后台与计算目标设备(推理引擎加速)
  • 获取输出端的LayerName
  • 图像预处理
  • 推理
  • 后处理
  • 绘制检测出的对象

2、程序源码


3、识别结果

CPU模式下,使用openvino进行推理加速,实时检测推理用时仅95ms/frame,是之前加载速度的三分之一

注意:
1.必须安装含openvino字眼的labview工具包
2. readNetFromModelOptimizer.vi中IR模型路径不可以包含中文

附加说明:计算机环境

操作系统:Windows10
python:3.6及以上
LabVIEW:2018及以上 64位版本
视觉工具包:techforce_lib_opencv_cpu_openvino2021-1.0.0.61.vip
OpenVINO:2021.4.2

总结

以上就是今天要给大家分享的内容。

如需源码,请在评论区留下您的邮箱。

如您想要探讨更多关于LabVIEW与人工智能技术,欢迎加入我们的技术交流群:705637299。

让你的ansible飞起来

一、SSHMultiplexing1配置vim/etc/ssh/ssh_configHost* GSSAPIAuthenticationyes#IfthisoptionissettoyesthenremoteX11clientswillhavefullaccess#totheoriginalX11display.AsvirtuallynoX11clientsupportstheuntrusted# 查看详情

html让你的浏览器说话(代码片段)

查看详情

writage让你的word支持markdown

 Writage 简单的执行后,word就可以在保存或打开的时候支持Markdown了!  查看详情

模型推理openvino推理实践(代码片段)

 本教程详细记录了在ubuntu上使用openvino进行推理的方法。文章目录1、安装openvino和open_model_zoo2、典型模型下载3、模型优化4、模型推理1、安装openvino和open_model_zoo 可以参考我这篇《【模型推理】ubuntu配置和使用openvino》进行open... 查看详情

一键接入chatgpt,让你的qq群变得热闹起来

查看详情

让你的blend“编辑其他模板”菜单里出现你的style

原文:让你的Blend“编辑其他模板”菜单里出现你的Style如图。。昨天在做控件的时候遇到了一个新的要求,让美工可以在Blend里直接编辑自定义控件里子内容的模板。于是乎疯狂的求助谷哥度姐,结果一无所获。在查了一遍又一... 查看详情

让你的程序使用 gui

】让你的程序使用gui【英文标题】:MakeyourprogramUSEagui【发布时间】:2010-11-0805:50:29【问题描述】:我想编写一个程序,通过控制鼠标/键盘并能够“看到”屏幕上的内容来“使用”其他程序。我用AutoIt做类似的事情,但有时我不... 查看详情

让你的apache支持ipv6

如果你使用的linux系统已经获取到了ipv6地址,你就可以让你的apachehtpd等也支持ipv6.1.检查linux监听的端口,如果有:::port,而且获取到了ipv6地址,则可以确定你的linuxserver已经支持ipv6 2.httpd使用默认配置就可以。 3.servicehttpd... 查看详情

如何快速让你的代码支持cocoapods!

Showmethecode!此次分享的是如何让你的代码框架上传到cocoapods,方便使用!对了,在第一句之前应该介绍cocoapods的背景,但作为iOSdeveloper,不用介绍都知道其重要性,OK,Talkischeap!只需几步:1.整理目录,代码提交到GitHub(任何开源... 查看详情

让你的javascript计算性能提升70%

   现在的JavaScript代码要进行性能优化,通常使用一些常规手段,如:延迟执行、预处理、setTimeout等异步方式避免处理主线程,高大上一点的会使用WebWorker。即使对于WebWorker也仅仅是解决了阻塞主线程的问题,但是对于Java... 查看详情

一键接入chatgpt,让你的qq群变得热闹起来

送自己一个上知天文,下至地理的小管家目录 查看详情

java示例代码_让你的android应用只请求超级用户访问一次

java示例代码_让你的android应用只请求超级用户访问一次 查看详情

java程序性能优化:让你的java程序更快更稳定

...序的优化方法有重要的现实意义。《Java程序性能优化:让你的Java程序更快、更稳定》以Java性能调优为主线,系统地阐述了与Java性能优化相关的知识与技巧。  《Java程序性能优化:让你的Java程序更快、更稳定》共6章,先后... 查看详情

openvino入门

关于OpenVINO入门,今天给大家分享一个好东西和好消息!现如今,说人工智能(AI)正在重塑我们的各行各业绝不虚假,深度学习神经网络的研究可谓如火如荼, 但这一流程却相当复杂,但对于初学者来说也不是高深莫测,... 查看详情

用固态u盘让你的办公环境随身移动

...背着电脑,其实大可不必,只要将系统装进U盘,就可以让你的办公环境随身移动。在公司时启动U盘系统工作,下班后还可以插入家中的电脑继续办公。只要U盘随身携带,那你的办公环境随处可用,这样貌似也很酷。另外再购买 查看详情

vscode管理你的markdown文档

...ux下工作的,应该都熟悉。那顺爽的快捷键。MarkdownAllinone让你的vscode顺爽的支持markdownPasteImage让你的vscode可以插入图片到md文件当前目录ExceltoMarkdowntable让你的excel表格插入到md文件中MarkdownTOC给你的md文档生成目录MarkdownPDF把你的m... 查看详情

包装好你的hr,让你的造型更简单';

HRsareapainintheasstostyle,sowhybother?WraptheminaDIVwithaclassofHRinstead.(Inyourstylesheet,set.hrhrdisplay:none).ThisalsoportstheclassoftheHRuptothenewparentDIV,allowingyoutomakeafewdifferentHRtypesthatclientscaneasilyworkwith.$("hr").each(function(){varhrClass=j... 查看详情

让你的滚动scroll更加顺滑流畅

​​https://www.zhangxinxu.com/wordpress/2018/10/scroll-behavior-scrollintoview-%E5%B9%B3%E6%BB%91%E6%BB%9A%E5%8A%A8/​​ 查看详情