基于上下文学习模型表征的大语言模型动态路由方法和设备、可读存储介质
申请号:CN202511140833
申请日期:2025-08-15
公开号:CN120745838B
公开日期:2025-11-21
类型:发明专利
摘要
本发明涉及一种基于上下文学习模型表征的大语言模型动态路由方法和设备、可读存储介质,利用投影模型将查询嵌入映射到语言模型输入空间并实现语义对齐,再从基准题库中自动筛选覆盖多维能力的代表性评估集,一次性高效获取模型在评估集上的表现特征,形成高质量的上下文模型能力表征;随后结合实时查询嵌入与上下文模型能力表征,使用轻量级路由语言模型进行监督学习,从而实现细粒度模型区分能力,并设计增量嵌入更新机制,在新模型接入或旧模型升级时,仅通过极少量固定题目即可快速完成冷启动,大幅降低计算与维护成本,有效提升了模型路由的准确性、实时性及灵活扩展性。
技术关键词
投影模型
路由器
动态
非线性神经网络
知识问答系统
细粒度模型
可读存储介质
查询重构
语义
大语言模型
推荐系统
注意力机制
电子设备
程序
标签
层级
信息熵
正确率
存储器
处理器