码垛编程公式(教你如何实现英码科技边缘计算盒子IVP07A环境部署)
开发环境:
➢开发系统:Ubuntu18.04 64位 X86操作系统
➢内存:大于4G
➢储存空间:大于10G
➢系统语言:en_US.UTF-8(MindStudio)
➢编译器:g 或aarch64-linux-gnu-g
➢python版本:python3.7.5
➢智能工作站型号:英码科技IVP07A
温馨提示:
本文旨在为已购买IVP07A盒子的用户提供设备端的部署指南,使用此指南的前提:在开发系统上已安装搭建好相应的框架;已完成模型的处理,包括:模型量化、模型转换等;且已完成代码工程的编译,并通过相应框架生成设备端适配的可执行程序,具体的操作流程请参考相应的《开发环境搭建指南》完成系统环境搭建。
另外,IVP07A内包含SVP_NNN一个算力核,适配SVP架构。
SVP框架SVP ACL逻辑架构图
准备工作就绪后,环境部署流程正式开始~
步骤1:安装CH340驱动;
步骤2:设备插入网线、电源线、且通过Type-C线连接电脑;
步骤3:连接后,要在设备管理器查看是否连接成功,并记录端口号;
步骤4:通过串口工具连接设备端,可使用MobaXterm、Xshell等工具,选择端口号,bps为115200;
步骤5:连接设备后,执行命令加载设备端驱动及ko文件,./insmod.sh以及./init.sh(如设备端版本为Ubuntu20.04则上电时已自动加载驱动和ko文件);
步骤6:根据连接的网口配置ip地址以及网关地址:
ifconfig eth0 xxx.xxx.xxx.xxx netmask 255.255.255.0 up
// ip地址,请自行填入
执行route命令,进行网关配置;
route add default gw xxx.xxx.xxx.xxx // 网关地址,请自行填入
配置完毕后,需要ping通本机的ip;
步骤7:yolov3网络模型需要开发者自行准备,本样例的预测框准确率与网络模型的迭代次数相关,因此开发者需使用自己训练后的yolov3模型,这里仅供示例。把yolov3模型及权重文件放入相应路径下;
步骤8:通过MindStudio工具启动ATC功能进行模型转换,把yolov3模型文件转换为SoC设备端识别的离线模型(.om模型)。在MindStudio转换界面配置相应的参数,包括Type和Images File等,且需要设置profiling工具启动的参数;
步骤9:转换成功后,会在指定目录下生成离线模型以及精度比对文件、转换数据文件等。把离线模型放入工程目录下。执行编译命令,生成可执行程序;
步骤10:需要在虚拟机以及设备上安装nfs,并且把编译后的工程文件及所需的动态库放在nfs文件夹下,之后在设备端通过nfs挂载到虚拟机的文件夹;
参考命令:
mount -t nfs ip地址:/xxx/xxx/xxx /mnt -o nolock
ip地址为您虚拟机的IP地址
/xxx/xxx/xxx为您虚拟机内nfs文件夹挂载路径
步骤11:声明SDK包内动态库;
参考命令:
export LD_LIBRARY_PATH=/mnt/mpp/out/lib/svp_npu
声明路径为sdk包内mpp文件夹下动态库的路径
步骤12:执行命令进行推理后会打印相关数据,并在目录下生成预测框坐标点的txt文件
./main 3;
以下为输出示例:
步骤13:在工程目录下,执行命令启动生成预测框的脚本即可产生图片预测结果,下图为示例图;
参考命令:
python3.7.5 ../script/drawbox.py -i ../data/2.jpg -t yolov(1/2/3/4)_detResult.txt
步骤14:配置了profiling相关参数的代码后,模型推理完成时会在工程目录下生成一个JOB文件夹,该文件夹内记录了模型推理的性能指标;
步骤15:采集完成后需要执行脚本进行解析性能指标,需要进入到msprof下执行脚本,解析后会在JOB文件夹下生成sqlite文件夹,里面包含了各性能指标的db文件;
参考命令:
python3.7.5 msprof.py import -dir /home/hyq/rootfs/yolo/job
步骤16:得到解析坐标后,执行相应命令即可导出指标为可视化表格;
参考命令:
python3.7.5 msprof.py export summary -dir /home/hyq/rootfs/yolo/job --format csv
步骤17:以下为op_summary的表格示例,该表格内记录了每一层算子的时间、推理耗时、调用接口耗时等性能指标;
至此,英码科技智能视频分析边缘计算盒子IVP07A设备端环境部署成功!
想了解英码科技智能视频分析边缘计算盒子IVP07A产品信息的请点击了解:英码科技八核智能视频分析边缘计算盒子,4.8T 24路1080P视频解码
,免责声明:本文仅代表文章作者的个人观点,与本站无关。其原创性、真实性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容文字的真实性、完整性和原创性本站不作任何保证或承诺,请读者仅作参考,并自行核实相关内容。