Quick Start：最短路径跑通FPGA加速AI推理
本指南旨在帮助参赛者以最快速度在FPGA上部署一个AI推理模型（以二分类CNN为例），并验证加速效果。假设你已具备基础FPGA开发环境（如Vivado、Vitis HLS等工具链）。
前置条件
- 硬件平台：Xilinx Zynq-7020开发板（如PYNQ-Z2），板卡供电正常，USB-JTAG驱动已安装。
- EDA工具：Vivado 2020.2或更高版本（含Vitis HLS），环境变量设置正确。
- 预训练模型：从Kaggle下载一个简单的CIFAR-10分类模型（如Keras格式），并转换为ONNX中间格式。
- 软件依赖：Python 3.8+、Vitis AI 2.5或更高版本、PYNQ框架（如使用PYNQ-Z2）。
目标与验收标准
- 功能目标：在FPGA上成功运行AI推理，输出分类结果（如“cat” vs “dog”），与软件参考结果一致。
- 性能目标：单帧推理时间低于软件参考（例如从200ms降至50ms以内）。
- 验收方法：通过串口终端观察打印结果，并记录推理时间。
实施步骤
步骤1：准备硬件平台
确保Zynq-7020开发板（如PYNQ-Z2）供电正常，通过USB-JTAG连接至主机。安装板卡驱动（如FTDI驱动），并在设备管理器中确认识别成功。
步骤2：安装EDA工具
安装Vivado 2020.2或更高版本（含Vitis HLS），并设置环境变量（如source /opt/Xilinx/Vivado/2020.2/settings64.sh）。验证安装：运行vivado -version。
步骤3：获取并转换预训练模型
从Kaggle下载一个简单的CIFAR-10二分类模型（如Keras格式）。使用TensorFlow的tf.keras.models.load_model()加载模型，然后通过tf2onnx.convert将其转换为ONNX中间格式（如model.onnx）。
步骤4：使用Vitis AI量化与编译
运行vai_q_tensorflow2 quantize命令，将模型权重从FP32量化为INT8（示例：vai_q_tensorflow2 quantize --input_model model.onnx --output_dir ./quantized --calib_dataset ./calib_data）。接着，使用vai_c_xir编译量化后的模型为DPU指令文件（.xmodel），例如：vai_c_xir --xmodel ./quantized/quantize_model.xmodel --arch /opt/vitis_ai/compiler/arch/dpuv2/Zynq7020/arch.json --output_dir ./compiled。
步骤5：创建Vivado硬件工程
在Vivado中新建工程，选择Zynq-7020器件。在Block Design中例化DPU IP核（DPUCZDX8G），添加DDR4控制器和AXI互联总线。连接PS端（Zynq处理系统）与PL端（可编程逻辑），确保时钟和复位信号正确。生成比特流（Bitstream）。
步骤6：导出硬件描述文件
在Vivado中，通过File → Export → Export Hardware导出硬件平台文件（.xsa），包含PS配置和PL比特流。确保勾选“Include bitstream”。
步骤7：编写Vitis AI应用程序
使用Python（PYNQ环境）或C++（Vitis统一平台）编写推理程序。核心逻辑如下：
- 加载.xmodel文件：
graph = xir.Graph.deserialize('model.xmodel') - 创建Runner：
runner = vart.Runner.create_runner(graph, 'run') - 读取测试图片并预处理（如归一化、resize至32x32）。
- 执行推理：
runner.execute_async(input_tensors, output_tensors)，等待完成。 - 打印分类结果（如argmax输出）。
步骤8：上板运行与验证
将生成的比特流（.bit）和.xmodel文件拷贝至板卡（如通过SCP或SD卡）。运行应用程序，观察串口终端输出。预期结果：打印正确标签（如“cat” vs “dog”），并显示单帧推理时间（如45ms）。
验证结果
串口终端输出应与软件参考结果一致（例如，同一张图片输出相同类别）。记录单帧推理时间，并与软件基线对比（例如，软件推理200ms，FPGA推理45ms，加速比约4.4倍）。若结果不符，请参考排障章节。
排障指南
- 问题1：Vivado无法识别板卡 — 检查USB-JTAG驱动是否安装，尝试重新插拔或更换USB端口。
- 问题2：量化后模型精度下降 — 增加校准数据集大小（建议至少100张图片），或尝试INT16量化。
- 问题3：推理结果错误 — 检查预处理步骤（如归一化参数、图像尺寸）是否与训练时一致；确认ONNX转换未丢失层。
- 问题4：推理时间过长 — 检查DPU配置参数（如深度流水线是否启用），或尝试优化模型结构（减少层数/通道数）。
扩展实践
本指南以二分类CNN为例，但方法可推广至多分类、目标检测等任务。建议尝试以下扩展：
- 模型复杂度提升：使用ResNet-18或MobileNetV2，观察加速比变化。
- 多帧流水线：利用DPU的批处理能力，同时推理多张图片，提升吞吐量。
- 自定义IP集成：在PL端添加自定义预处理IP（如图像缩放），减少PS端负担。
参考资源
- Vitis AI用户指南（UG1414）
- PYNQ-Z2官方文档
- Xilinx DPU IP核产品指南（PG338）
附录：关键命令速查
# 量化模型
vai_q_tensorflow2 quantize --input_model model.onnx --output_dir ./quantized --calib_dataset ./calib_data
# 编译为.xmodel
vai_c_xir --xmodel ./quantized/quantize_model.xmodel --arch /opt/vitis_ai/compiler/arch/dpuv2/Zynq7020/arch.json --output_dir ./compiled
# 运行推理（PYNQ示例）
python3 run_inference.py --model ./compiled/model.xmodel --image test.jpg
