摘要
本发明公开了一种精准评估算子性能的方法、装置、设备、介质及产品。该方法包括:在待评估算子为数据搬运及计算算子时,根据算子特征、各级缓存的存储特征和计算核特征,获取多条切分策略;在目标AI芯片中运行与各切分策略适配带宽测试程序,测量待评估算子的各切分策略在各级缓存间执行数据搬运时的实测数据搬运耗时;在目标AI芯片中运行与各切分策略适配的计算核测试程序,测量出待评估算子在一级缓存上针对每条切分策略执行计算时的实测计算耗时;根据各实测计算耗时和各实测数据搬运耗时,计算待评估算子针对每条切分策略的算子总耗时,对待评估算子进行算子性能评估,以在最小化引入人力成本的基础上,准确评估出AI芯片的算子性能。