基于知识蒸馏解决遗忘学习灾难性回忆的方法及装置

本发明属于信息数据处理的技术领域，更具体地，涉及基于知识蒸馏解决遗忘学习灾难性回忆的方法及装置。所述方法包括选择初始模型并使用标准数据集训练，通过最小化交叉熵损失优化初始模型参数；选定目标遗忘类别，应用类遗忘方法调整模型参数，生成对目标遗忘类别识别能力低，对其他类别识别准确率高的遗忘模型；从原始数据集中选择剩余的类别数据作为增量学习数据并加入定量的目标遗忘类别数据作为输入数据，以生成的遗忘模型为教师模型，初始化学生模型，学生模型在输入数据上通过知识蒸馏损失约束输出分布，更新学生模型的参数。本发明解决了被遗忘模型在增量学习过程中无法保持遗忘性能，在吸收新信息时可能会出现灾难性遗忘的问题。