大语言模型记忆资源管理内核构建方法、管理系统及装置
申请号:CN202511053593
申请日期:2025-07-29
公开号:CN120952116A
公开日期:2025-11-14
类型:发明专利
摘要
本发明公开了大语言模型记忆资源管理内核构建方法、管理系统及装置,涉及人工智能领域。本发明通过构建MemCube作为异构记忆资源的统一封装单元,每个MemCube包含记忆本体(封装参数化记忆、激活状态、外部知识等内容)和结构化元数据(描述身份信息、控制策略与行为指标);通过记忆调度器实现MemCube的上下文匹配、优先级加载、权限控制与生命周期管理,并支持跨类型记忆转化(明文→激活→参数→明文)。本发明解决了现有技术中记忆管理碎片化、可控性差、调度低效等问题,实现了异构记忆的统一治理,提升了模型推理效率与演化能力,适用于各类大语言模型的记忆系统优化。
技术关键词
大语言模型
细粒度访问控制
封装单元
异构
明文
调度器
元数据管理模块
控制策略
指标
资源管理装置
资源管理系统
更新时间戳
语义
参数
生命周期管理
记忆管理