模型训练文件读存系统，及基于模型训练文件读存系统的模型训练文件读存方法、装置、设备、介质和产品

本申请提供一种模型训练文件读存系统，及基于模型训练文件读存系统的模型训练文件读存方法、装置、设备、介质和产品。该系统包括：存储有每个模型分块的第一训练文件的对象存储器，以及运行有多个计算进程的训练集群。该方法包括：若触发大语言模型的训练任务，训练集群根据拓扑结构，以及每个模型分块的第一训练文件，得到每个计算进程的第二训练文件，并存储至对应的计算节点的本地存储器，用于大语言模型的训练；根据每个计算进程的第二训练文件，得到对应的计算进程的第三训练文件，并存储至对象存储器，用于大语言模型的检查点创建和断点恢复。本申请的方法，减小了带宽资源和存储资源的浪费，提高了大语言模型的训练和断点恢复的效率。