标签： DeepSpeed

一、DeepSpeed介绍 DeepSpeed 是 PyTorch 的开源深度学习优化库。 该库旨在降低计算能力和内存使用，并在现有计算机硬件上训练具有更好并行性的大型分布式模型。 DeepSpeed…