一种基于自动截断时空反向传播框架的内循环数据集蒸馏方法
申请号:CN202510860487
申请日期:2025-06-25
公开号:CN120747666A
公开日期:2025-10-03
类型:发明专利
摘要
本发明提供了一种基于自动截断时空反向传播框架的内循环数据集蒸馏方法,属于数据集蒸馏领域。基于训练阶段动态感知的截断策略,通过梯度动态分析将训练过程划分为早、中、晚三阶段,分别采用差异化截断方案(早期截断前半段/中期随机/晚期截断后半段),结合温度控制softmax实现概率化截断决策。根据梯度变化量动态调整截断窗口尺寸(高波动阶段扩展窗口保留信息,平稳阶段收缩窗口节省资源),通过权重函数实现窗口尺寸自适应伸缩。对于高分辨率图像,多尺度语义协同保持,通过分块局部蒸馏保持跨区域语义一致性,结合原型质心对齐损失约束全局语义稳定性。
技术关键词
蒸馏方法
阶段
原型
图像块
框架
数据
动态
语义协同
网络
多尺度
策略
参数
度量
决策
尺寸
精度
计数器