基于微调大语言模型的任务处理方法、装置、设备及介质

本申请公开了一种基于微调大语言模型的任务处理方法、装置、设备及介质。方法包括：基于构建的训练数据集，采用多任务并行调度策略训练上下文感知微调算法；其中，所述上下文感知微调算法基于任务之间的依赖关系进行LoRA参数微调；基于所述上下文感知微调算法，得到微调的大语言模型；将目标任务的多模态数据输入所述大语言模型处理，输出任务处理结果。本申请提出一种基于任务依赖关系的LoRA微调方法，称为上下文感知微调算法，引导模型学习任务之间的隐含因果逻辑关系，提升了模型对复杂推理任务的适应能力与泛化能力，支持分布式协同处理方式，显著提升了模型部署效率与响应速度，适应低延时、低功耗的边缘部署需求。