一种面向NPU计算架构的神经网络推理性能分析方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种面向NPU计算架构的神经网络推理性能分析方法
申请号:CN202511097657
申请日期:2025-08-06
公开号:CN120611352B
公开日期:2025-10-14
类型:发明专利
摘要
本发明涉及神经网络推理性能分析技术领域,公开了一种面向NPU计算架构的神经网络推理性能分析方法,该方法获取原始数据并标准化,提取计算单元、任务及架构负载特征生成性能特征向量,识别推理性能需求得到初步分析结果;整合初步结果与标准化数据生成增强型分析矩阵,多维度解析性能,计算必要性分数和架构影响值,经多重验证得到决策数据;结合NPU计算特征库和决策数据构建增强计算特征空间,进行计算匹配与参数优化,优化推理路径并预检验;采集执行数据流和历史监控数据生成综合监控数据包,进行异常检测、预警及动态优化。该方法提升网络推理性能分析的准确性与效率,实现推理过程的动态优化与自适应调整。
技术关键词
神经网络推理 性能分析方法 上下文特征 资源需求数据 策略 矩阵 关联特征数据 决策 序列 调度特征 时序 风险 模式 负载特征 资源特征 容错机制 生成资源 静态特征