⚡ TL;DR — 30-Second Verdict
怎么选:想要图形界面、更广的模型覆盖、开箱即用的 RLHF 和 DPO 训练,选 LLaMA-Factory,它是对新手最友好的微调框架。偏好配置文件工作流、需要 DeepSpeed 或 FSDP 深度集成、想更细粒度控制训练动态,选 Axolotl。
快速对比:LLaMA-Factory 与 Axolotl 核心差异
| 对比项 | LLaMA-Factory | Axolotl |
|---|---|---|
| 接口形式 | 网页界面(LlamaBoard)加命令行 | YAML 配置文件加命令行 |
| 模型支持 | 上百个模型(Llama、Mistral、Qwen 等) | 全部主流模型,走 HF transformers |
| 微调方法 | LoRA、QLoRA、全参、DPO、PPO、ORPO | LoRA、QLoRA、全参、DPO、RLHF |
| 分布式支持 | 支持 DeepSpeed | DeepSpeed 和 FSDP 都支持 |
| 多卡训练 | 支持(DeepSpeed) | 支持(DeepSpeed 加 FSDP) |
| 新手友好度 | 高,有图形界面 | 中等,要写配置文件 |
| 导出格式 | GGUF、vLLM、OpenAI 兼容 | HuggingFace 原生格式 |
LLaMA-Factory 是什么
LLaMA-Factory 的价值在统一接口。用它微调 Mistral 做垂直任务,不用为每个模型维护一套代码;对比 Hugging Face 的 transformers 库需要写大量样板,这个 73k+ star 的框架为上百个模型准备了预设配置,开箱即用。但它的定位很纯粹——只管训练工作流,需要自定义推理优化或高级量化的团队应该另选工具。
— 中国吧 AI Tools Hub Editorial Team on LLaMA-Factory
→ Read the full LLaMA-Factory review
Axolotl 是什么
如果你要把 Llama 系列微调到生产可用,Axolotl 把 SFT、DPO、RLHF 统一在一套配置里,比东拼西凑几个脚本强得多。12k+ star,开箱支持的训练范式比 LitGPT 多。它不适合的情况是需要企业级技术支持,或者你更想直接用 OpenAI API 那种全托管云平台。
— 中国吧 AI Tools Hub Editorial Team on Axolotl
→ Read the full Axolotl review
什么场景该选哪个
Choose LLaMA-Factory if…
Choose Axolotl if…
性能与分布式训练
性能差异主要在多卡规模上。LLaMA-Factory 用 DeepSpeed 做多卡但缺原生 FSDP,超过 8 到 16 张卡复杂度就上来了;Axolotl 同时实现 DeepSpeed 和 FSDP,能在几百张卡上做真正的分布式训练,梯度同步控制更好。做千亿参数级别的生产级微调,Axolotl 的 FSDP 内存开销更低、收敛更快。LLaMA-Factory 则用优化过的 QLoRA 在单张 24GB 显卡上高效训 13B。用 LoRA 时两者吞吐接近,消费级显卡上都是 300 到 500 样本每秒。超大规模集群选 Axolotl,资源受限的研究环境选 LLaMA-Factory。
开发者体验与上手难度
上手体验差在有没有界面。LlamaBoard 让你在下拉框和输入框里配好训练任务直接启动,完全不碰命令行和 YAML,非算法工程师的上手周期从几周压到几小时。Axolotl 要写显式声明超参数的 YAML,需要理解 transformers 库结构和调参概念,对新手门槛高。不过 Axolotl 的「配置即代码」对运维团队很有吸引力,训练配方可以进 Git 做版本管理。LLaMA-Factory 的命令行也支持配置文件,可复现性两边都有。
生态与生产部署
导出能力决定部署形态。LLaMA-Factory 原生导出 GGUF 和 vLLM 格式,可以直接丢给 llama.cpp 跑端侧,或者部署到生产服务器不用转格式;它的 OpenAI 兼容接口输出让替换现有应用变得很简单。Axolotl 主要导出 HuggingFace 原生格式,要转 GGUF 或私有推理引擎得多做一步,但和 Hugging Face 模型仓库的版本管理、分享集成得很紧。跑在 Replicate、Modal 这类云平台上,Axolotl 的生态深度更好;端侧优先或要接口兼容,LLaMA-Factory 的导出灵活性能更快上线。