不是Nvidia买不起,只是国产更有性价比!使用全国产CPU和GPU项目开发记录-训练篇—部署篇

AI最新资讯2周前发布 tree
18 0 0

今日应用


今日话题


不是Nvidia买不起,只是国产更有性价比!使用全国产CPU和GPU项目开发记录-训练篇—部署篇
不是Nvidia买不起,只是国产更有性价比!使用全国产CPU和GPU项目开发记录-训练篇—部署篇
 

重点标签 tag1客流统计算法tag2国产海光CPU+DCUtag3迁移部署过程tag4AI技术方法tag5模型推理

文章摘要


摘要:
本文详细介绍了如何将真实的客流统计算法从Nvidia环境迁移到国产海光CPU+DCU的部署过程。项目背景是在当前AI技术迅猛发展的背景下,国产AI软硬件也在不断发力,尽管与国际先进水平存在差距,但已经取得了一定的进展。文章首先回顾了前文提到的全国产方案替代实操记录,然后介绍了项目任务,即利用监控摄像头采用AI技术方法对零售门店、大型商超和公共设施等场景下进行客流信息统计。技术方案包括四个需求点:实时统计门口的进入客流数量和出去客流数量、客流去重、特殊人员筛选以及限制条件。

部署开发流程分为部署环境搭建、模型导出、算法SDK编写、DCU模型推理等步骤。在部署环境搭建中,介绍了海光DCU开发的相关文档和资源,以及如何选择合适的docker镜像。模型导出部分,作者推荐将训练后的模型导出为onnx格式,以便于在不同的AI硬件上进行推理。算法SDK编写部分,详细介绍了算法流程和EV_SDK规范接口的使用。DCU模型推理部分,重点介绍了采用DCU实现C++模型推理的过程,包括导入头文件、定义migraphx::program类型、获取模型输入输出节点信息、模型编译等步骤。

文章最后总结了项目的测试效果,指出在视频流分析上可以轻松做到实时分析,分析速度可达60+fps。作者认为,在当前被“卡脖子”的时代,采用国产AI软硬件是一个不错的选择,并期待国产生态越来越好。同时,文章还提供了相关技术专栏、技术综述和极视角动态等资源链接,供读者进一步学习和了解。

文章来源


原文地址: 点我阅读全文
原文作者: 极市平台

© 版权声明

相关文章

暂无评论

暂无评论...