############# 分布式训练 #############

您可以通过以下内容,了解飞桨分布式训练的特性和使用指南:

• 分布式训练简介 <./distributed_overview.html>_ : 飞桨分布式场景介绍和技术选型。
• 环境部署 <./deployment_cn.html>_ : 部署环境以使用飞桨框架进行分布式训练。
• 快速开始-数据并行 <./cluster_quick_start_collective_cn.html>_ : 使用飞桨数据并行快速开始分布式训练。
• 快速开始-参数服务器 <./cluster_quick_start_ps_cn.html>_ : 使用飞桨参数服务器快速开始分布式训练。
• 数据并行 <./data_parallel/index_cn.html>_ : 使用飞桨框架完成数据并行训练。
• 参数服务器 <./ps/index_cn.html>_ : 使用飞桨框架完成参数服务器训练。
• 张量模型并行 <./model_parallel_cn.html>_ : 使用飞桨框架完成张量模型并行训练。
• 流水线并行 <./pipeline_parallel_cn.html>_ : 使用飞桨框架完成流水线并行训练。
• 分组切分并行 <./group_sharded_parallel_cn.html>_ : 使用飞桨框架完成分组切分并行训练。
• MoE <./moe_cn.html>_ : 使用飞桨框架完成 MoE 模型训练。

.. toctree:: :hidden:

distributed_overview.md
deployment_cn.rst
cluster_quick_start_collective_cn.rst
cluster_quick_start_ps_cn.rst
data_parallel/index_cn.rst
ps/index_cn.rst
model_parallel_cn.rst
pipeline_parallel_cn.rst
group_sharded_parallel_cn.rst
moe_cn.rst
auto_parallel_cn.md
visual_pipeline_parallel_static_mode_cn.rst