摘要
本申请实施例提供一种模型调用方法、设备、存储介质及程序产品。在本申请实施例中,一方面,位于目标应用与AI模型之间的模型服务框架可面向目标应用提供单模型链路和多模型链路,突破了传统目标应用直接调用模型的模型应用模式;一方面,基于模型服务框架使得两种模型链路并存,并设置多模型链路的准入条件,既能基于多模型链路上的多个AI模型对目标任务进行并行处理,提高推理过程的准确度,满足准确度要求较高的应用场景中的模型需求,较为有效地缓解幻觉问题,又能基于单模型链路满足准确度要求较低的应用场景的模型需求,从而均衡模型调用成本和模型服务质量。