摘要
本申请提供了一种模型训练系统、模型的分布式训练方法及电子设备,该系统包括控制节点和多个工作节点,其中:控制节点用于在多个工作节点中选择至少一个第一执行节点,并指示启动执行训练任务;第一执行节点用于执行训练任务,并在训练过程中在存储服务端和第一执行节点的内存中存储第一执行节点的训练过程数据;控制节点还用于在存在第一执行节点发生训练异常时,控制至少一个第一执行节点中止训练,在多个工作节点中选择至少一个第二执行节点,并指示继续执行训练任务;第二执行节点用于在存储服务端或第二执行节点的内存中获取第二执行节点的训练过程数据,并基于该训练过程数据继续执行训练任务。应用本方案,能够提高模型训练效率。