今日应用
今日话题
不是Nvidia买不起，只是国产更有性价比！使用全国产CPU和GPU项目开发记录-训练篇—部署篇
重点标签 tag1、客流统计算法、tag2、国产海光CPU+DCU、tag3、迁移部署过程、tag4、AI技术方法、tag5、模型推理
文章摘要
摘要：
本文详细介绍了如何将真实的客流统计算法从Nvidia环境迁移到国产海光CPU+DCU的部署过程。项目背景是在当前AI技术迅猛发展的背景下，国产AI软硬件也在不断发力，尽管与国际先进水平存在差距，但已经取得了一定的进展。文章首先回顾了前文提到的全国产方案替代实操记录，然后介绍了项目任务，即利用监控摄像头采用AI技术方法对零售门店、大型商超和公共设施等场景下进行客流信息统计。技术方案包括四个需求点：实时统计门口的进入客流数量和出去客流数量、客流去重、特殊人员筛选以及限制条件。
部署开发流程分为部署环境搭建、模型导出、算法SDK编写、DCU模型推理等步骤。在部署环境搭建中，介绍了海光DCU开发的相关文档和资源，以及如何选择合适的docker镜像。模型导出部分，作者推荐将训练后的模型导出为onnx格式，以便于在不同的AI硬件上进行推理。算法SDK编写部分，详细介绍了算法流程和EV_SDK规范接口的使用。DCU模型推理部分，重点介绍了采用DCU实现C++模型推理的过程，包括导入头文件、定义migraphx::program类型、获取模型输入输出节点信息、模型编译等步骤。
文章最后总结了项目的测试效果，指出在视频流分析上可以轻松做到实时分析，分析速度可达60+fps。作者认为，在当前被“卡脖子”的时代，采用国产AI软硬件是一个不错的选择，并期待国产生态越来越好。同时，文章还提供了相关技术专栏、技术综述和极视角动态等资源链接，供读者进一步学习和了解。
文章来源
原文地址: 点我阅读全文
原文作者: 极市平台
相关文章
