FPGA线上课程平台|最全栈的FPGA学习平台|FPGA工程师认证培训
登录
首页-所有问题-其他-正文

2026年,FPGA工程师用Verilog实现YOLOv8n时,INT8量化后精度掉到多少算正常?怎么用校准集恢复?

Linux小白Linux小白
其他
8天前
0
0
18
最近在Zynq上部署YOLOv8n做边缘AI推理,INT8量化后mAP从0.78掉到了0.65,感觉掉得有点多。网上有人说掉5%以内算正常,但我这掉了快17%了。是不是校准集选得有问题?我用的是一般场景的图片,但实际部署是工业检测场景。求问各位大佬,2026年有没有更好的量化校准策略?比如用KL散度还是MinMax?或者有没有办法用少量真实场景图片做后训练量化恢复精度?
Linux小白

Linux小白

这家伙真懒,几个字都不愿写!
4102900
分享:
2026年,FPGA做边缘AI推理时,INT8量化到底能省多少资源?实测数据对比YOLOv5s在Zynq上的部署效果上一篇
2026年,FPGA大赛做实时视频去雾加速器,暗通道先验算法在PL端如何用流水线优化透射率计算?下一篇
FPGA线上课程平台|最全栈的FPGA学习平台|FPGA工程师认证培训
还没有人回答,第一个参与下?
我要回答
回答被采纳奖励100个积分
FPGA线上课程平台|最全栈的FPGA学习平台|FPGA工程师认证培训
请先登录