专题：fsdp

smolcluster 是一个基于 Python socket 的教育型分布式训练框架，重新实现了 EDP、SyncPS、FSDP、DP、MP、PP 等主流并行算法，并在 Mac Mini、Raspberry Pi、GPU 与 Jetson 等异构硬件上完成测试。项目以单文件形式提供，旨在帮助学生和研究者从底层网络层面学习分布式系统原理。