一种基于个性化增强与共享自适应的个性化联邦学习方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种基于个性化增强与共享自适应的个性化联邦学习方法
申请号:CN202510945818
申请日期:2025-07-09
公开号:CN120764634A
公开日期:2025-10-10
类型:发明专利
摘要
本发明提供了一种基于个性化增强与共享自适应的个性化联邦学习方法,将Transformer模型中的共享模块参与联邦聚合,促进各个客户端的知识迁移,将个性化模块保存在客户端本地,提升对异构数据的适应能力;在个性化模块内引入Lora低秩适配器,仅上传Lora参数,避免全局聚合导致特征表达同质化,将初始全局共享模块参数与共享模块的本地参数进行自适应融合,有效缓解模型解耦引发的语义偏移,从而在提升泛化性能的同时保持本地模型的稳定性与适应性;通过基于Lora参数对各客户端执行动态增量聚类,在个性化模块中挖掘具备跨客户端迁移价值的共享特征表示,降低了计算开销并增强同类客户端间的个性化知识共享与迁移能力。
技术关键词
联邦学习方法 客户端 参数 模块 动态增量 前馈神经网络 服务器 适配器 医疗影像数据 深度优先搜索 表达式 邻居 聚类 注意力 异构 语义 顶点 矩阵 节点