MoE中专家的热度预测方法、装置、存储介质及设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
MoE中专家的热度预测方法、装置、存储介质及设备
申请号:CN202510998796
申请日期:2025-07-21
公开号:CN120994330A
公开日期:2025-11-21
类型:发明专利
摘要
本申请公开了一种MoE中专家的热度预测方法、装置、存储介质及设备,属于人工智能技术领域。所述方法包括:利用滑动窗口统计MoE中每个专家的资源占用参数;根据所述MoE的模型类型确定每种资源占用参数对应的权重参数;根据所述资源占用参数和所述权重参数计算每个专家的资源占用信息;利用EMA模型对所述资源占用信息进行处理,得到每个专家的热度参数;根据所述热度参数预测每个专家的热度等级。本申请能根据每个专家的资源调度来预测专家的热度等级,以便于根据热度等级来调整专家的资源分配,从而提高资源的利用率。
技术关键词
热度预测方法 滑动窗口 参数 预测装置 图形处理单元 计算机设备 人工智能技术 指数 令牌 模块 资源分配 可读存储介质 频率 指令 处理器 关系