一种GPU调度系统、方法及电子设备

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种GPU调度系统、方法及电子设备
申请号:CN202511093589
申请日期:2025-08-06
公开号:CN120596280B
公开日期:2025-10-10
类型:发明专利
摘要
本发明提供一种GPU调度系统、方法及电子设备,涉及计算机控制技术领域,GPU调度系统包括:分配运行模块获取用户GPU设备信息并生成资源池,按需分配GPU资源至系统实例以执行任务。监控模块实时跟踪系统实例的资源使用情况及任务队列详情,包括任务类型、系统负载和用户优先级。动态调度模块依据监控数据,通过GPU调度算法进行离线测量、优先级填充和多策略协调,动态调整GPU资源分配。切换模块在收到切换请求时,执行上下文快照、通道迁移和目标端快照恢复,实现GPU资源在不同系统实例间的快速切换。本发明通过各模块相互协作,共同提升GPU资源的调度效率和利用率。
技术关键词
调度系统 调度算法 多策略协调 队列 服务等级协议约束 离线 资源分配 内核 实时跟踪系统 计算机控制技术 动态 监控模块 生成快照 电子设备 存储计算机程序 生成资源