神经网络模型的量化方法、装置、介质和设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
神经网络模型的量化方法、装置、介质和设备
申请号:CN202510857515
申请日期:2025-06-24
公开号:CN120706489A
公开日期:2025-09-26
类型:发明专利
摘要
本公开实施例公开了一种神经网络模型的量化方法、装置、介质和设备,其中,方法包括:确定待量化的第一神经网络模型;对第一神经网络模型进行伪量化处理,得到第二神经网络模型,第二神经网络模型包括伪量化节点和算子;确定各伪量化节点分别对应的目标校准方式;基于各伪量化节点分别对应的目标校准方式,确定第二神经网络模型对应的目标校准模型;确定目标校准模型中各算子分别对应的目标量化参数;基于目标校准模型和各算子分别对应的目标量化参数,确定第一神经网络模型对应的量化模型。本公开实施例可以减少模型的计算精度损失,提高模型的精度。
技术关键词
校准方式 神经网络模型 节点 量化误差 参数 数据 电子设备 模块 处理器 可读存储介质 指令 精度 存储器 计算机