推理计算方法及相关设备

本申请公开了一种推理计算方法及相关设备，涉及人工智能技术领域，包括：响应于第一推理计算指令，获取第一待推理数据，基于本地化部署的预设推理计算模型，对所述第一待推理数据进行推理计算，获得第一推理计算结果，其中，所述预设推理计算模型是基于基础推理模型框架与第一推理片段构建而成的，所述第一推理片段是基于所述第一推理计算指令所对应的第一推理类型确定的。本申请根据不同类型的推理计算指令，在使用不同模型推理的过程中，只需要改变模型的推理片段，而不需要改变整个模型，提高部署模型的效率。