一种面向异构智能内容生成服务的资源分配与模型部署方法

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
一种面向异构智能内容生成服务的资源分配与模型部署方法
申请号:CN202510916591
申请日期:2025-07-03
公开号:CN120769309A
公开日期:2025-10-10
类型:发明专利
摘要
本发明公开了一种面向异构智能内容生成服务的资源分配与模型部署方法,该方法中构建了一个边‑云协同的AIGC服务网络模型,该模型架构包括多个请求AIGC服务的无线设备、一个边缘服务器和一个云服务器。在该网络中,这些无线设备请求三类异构AIGC服务,三类AIGC服务分别是轻量级AIGC服务、计算密集型AIGC服务和基于预处理的AIGC服务。本发明考虑边缘服务器只部署有限数量的AIGC服务模型,协同云服务器和边缘服务器的AIGC服务模型为所有设备提供服务。通过联合优化带宽分配、计算资源分配及边缘服务器模型部署决策,在边缘服务器存储容量有限的前提下,最小化所有无线设备AIGC服务请求的总体推理时延,实现资源分配与模型部署。
技术关键词
模型部署方法 资源分配 无线设备 上行传输时延 异构 云服务器 混合整数非线性规划 交叉熵算法 凸优化方法 KKT条件 计算机可执行指令 决策 处理器 无线网络 可读存储介质 链路 代表