模型训练
Unsloth 极速微调
⭐ 75k+ GitHub Stars
速度提升 2-5 倍、显存减少 70% 的 LLM 微调工具
LLaMA-Factory 微调框架
⭐ 74k+ GitHub Stars
支持 100+ LLM 的统一微调框架,含 Web 界面
DeepSpeed 分布式训练
⭐ 43k+ GitHub Stars
微软深度学习大规模训练优化库
PyTorch Lightning 训练框架
⭐ 31k+ GitHub Stars
快速训练、部署和发布 AI 产品的深度学习框架
MLX 机器学习框架
⭐ 28k+ GitHub Stars
Apple 专为 Apple Silicon 打造的机器学习数组框架
PEFT 参数高效微调
⭐ 22k+ GitHub Stars
含 LoRA 的参数高效微调方法库
TRL 强化学习微调
⭐ 19k+ GitHub Stars
RLHF/PPO/DPO 训练大语言模型的库
LitGPT LLM 训练库
⭐ 14k+ GitHub Stars
在自有硬件上预训练/微调/部署 20+ LLM
Axolotl 微调工具
⭐ 12k+ GitHub Stars
简化 AI 模型微调流程的工具
AI Toolkit LoRA 训练
⭐ 12k+ GitHub Stars
LoRA 和 Dreambooth 训练的 AI 脚本工具集
Accelerate 分布式训练
⭐ 9.8k+ GitHub Stars
仅需少量代码变更即可进行大规模 PyTorch 训练
DeepSpeed Chat 训练
⭐ 6.8k+ GitHub Stars
端到端 RLHF 聊天模型训练示例
TorchTune PyTorch 微调
⭐ 5.8k+ GitHub Stars
PyTorch 原生 LLM 微调库
InstructLab 模型微调
⭐ 1.4k+ GitHub Stars
Red Hat 社区驱动的 LLM 对齐与微调工具
AI 模型训练与微调工具:21 个开源项目:常见问题
开源模型怎么微调?
个人级常用 LoRA:用 axolotl 或 AI Toolkit(kohya)做 LoRA 训练,显存需求低(8-12GB),效果针对特定风格/对象明显。