精准评估算子性能的方法、装置、设备、介质及产品

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
精准评估算子性能的方法、装置、设备、介质及产品
申请号:CN202510965014
申请日期:2025-07-14
公开号:CN120872761A
公开日期:2025-10-31
类型:发明专利
摘要
本发明公开了一种精准评估算子性能的方法、装置、设备、介质及产品。该方法包括:在待评估算子为数据搬运及计算算子时,根据算子特征、各级缓存的存储特征和计算核特征,获取多条切分策略;在目标AI芯片中运行与各切分策略适配带宽测试程序,测量待评估算子的各切分策略在各级缓存间执行数据搬运时的实测数据搬运耗时;在目标AI芯片中运行与各切分策略适配的计算核测试程序,测量出待评估算子在一级缓存上针对每条切分策略执行计算时的实测计算耗时;根据各实测计算耗时和各实测数据搬运耗时,计算待评估算子针对每条切分策略的算子总耗时,对待评估算子进行算子性能评估,以在最小化引入人力成本的基础上,准确评估出AI芯片的算子性能。
技术关键词
策略 芯片 存储特征 重构 数据存储 计算机程序产品 流水线 可读存储介质 电子设备 处理器通信 存储器 模块 指令 人力 基础