推理模型的加速方法及推理模型

本申请公开了一种推理模型的加速方法及推理模型，属于云计算技术领域。所述推理模型包括终端推理模型和云端推理模型，所述方法应用于所述终端推理模型，所述方法包括：接收用户的第一输入；基于所述第一输入进行推理，得到第一推理结果，将所述第一推理结果输出至所述云端推理模型；得到所述云端推理模型返回的第二推理结果，并向所述用户展示所述第二推理结果，所述第二推理结果是通过所述云端推理模型在所述第一推理结果的置信度小于第一置信度阈值的情况下，基于所述第一推理结果得到的。可以在保证推理效果的同时，有效平衡速度与精度。