基于模型模块化与模型合并的神经网络模型协同演化方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
基于模型模块化与模型合并的神经网络模型协同演化方法
申请号:CN202510980096
申请日期:2025-07-16
公开号:CN120805989A
公开日期:2025-10-17
类型:发明专利
摘要
本发明提供基于模型模块化与模型合并的神经网络模型协同演化方法,属于人工智能领域。包括:(1)基于梯度搜索的模型模块化分解。通过权重保留率指标和在领域预训练集上的性能指标,共同优化,从预训练模型中提取功能相关的稀疏模块。(2)模块在下游任务上,只针对特定权重进行更新,从而针对特定领域进行知识更新。(3)基于模型合并的知识融合。通过对微调后模块与预训练模型权重相减,直接获取到稀疏的任务向量,然后多个模块之间的稀疏权重更新矩阵加回预训练权重,从而得到多任务全局模型。本发明明确了神经网络参数与功能的映射关系,提升了模型协同演化效果,缓解了多任务学习中的参数冲突。
技术关键词
协同演化方法 神经网络模型 多任务 模块 掩码矩阵 神经网络参数 梯度下降算法 专属数据 门控技术 白名单 预训练模型 梯度下降法 权重数 搜索方法 指标 混合层 定义 优化器 策略