一种GPU算力的智能动态管理方法及云平台

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种GPU算力的智能动态管理方法及云平台
申请号:CN202511089272
申请日期:2025-08-05
公开号:CN120994376A
公开日期:2025-11-21
类型:发明专利
摘要
本发明适用于GPU管理领域,提供了一种GPU算力的智能动态管理方法及云平台,所述方法包括以下步骤:采集任务数据及GPU状态数据并结合调度插件生成任务队列和资源分配策略;基于任务队列和GPU实时负载,通过强化学习动态调整资源分配比例来分析任务依赖关系并生成迁移计划;根据任务依赖关系和GPU通信拓扑进行通信路径的优化和异步传输延迟的调整,并输出同步状态标记;结合同步状态和GPU硬件状态监控异常,依据迁移计划执行热迁移且进行显存回收,并更新资源空闲列表。本发明通过算法创新与硬件协同优化,实现了多GPU系统中资源调度的智能化、动态化和高效化。
技术关键词
动态管理方法 资源分配策略 硬件状态监控 GPU互联结构 管理云平台 队列 通信带宽 计划 数据传输需求 强化学习模型 插件 关系 矩阵 标记 状态监测单元 低延迟