← All Tools
LLaMA-Factory VS Axolotl

LLaMA-Factory vs Axolotl:大模型微调框架对比

LLaMA-Factory 和 Axolotl 都是当前最主流的开源大模型微调框架。LLaMA-Factory 在 Python 接口之外还提供了网页界面(LlamaBoard),不写代码的人也能用;Axolotl 走配置文件驱动,面向喜欢 YAML 工作流、追求深度定制的算法工程师。两者都支持 LoRA、QLoRA 和全参数微调。

Curated by 评测编辑:玄尘子 🗓 Updated: ⭐ LLaMA-Factory: 74k+ stars ⭐ Axolotl: 12k+ stars

⚡ TL;DR — 30-Second Verdict

怎么选:想要图形界面、更广的模型覆盖、开箱即用的 RLHF 和 DPO 训练,选 LLaMA-Factory,它是对新手最友好的微调框架。偏好配置文件工作流、需要 DeepSpeed 或 FSDP 深度集成、想更细粒度控制训练动态,选 Axolotl。

快速对比:LLaMA-Factory 与 Axolotl 核心差异

对比项 LLaMA-Factory Axolotl
接口形式 网页界面(LlamaBoard)加命令行 YAML 配置文件加命令行
模型支持 上百个模型(Llama、Mistral、Qwen 等) 全部主流模型,走 HF transformers
微调方法 LoRA、QLoRA、全参、DPO、PPO、ORPO LoRA、QLoRA、全参、DPO、RLHF
分布式支持 支持 DeepSpeed DeepSpeed 和 FSDP 都支持
多卡训练 支持(DeepSpeed) 支持(DeepSpeed 加 FSDP)
新手友好度 高,有图形界面 中等,要写配置文件
导出格式 GGUF、vLLM、OpenAI 兼容 HuggingFace 原生格式
LLaMA-Factory ★ 74k+ GitHub Stars View on GitHub ↗ Axolotl ★ 12k+ GitHub Stars View on GitHub ↗

LLaMA-Factory 是什么

LLaMA-Factory 的价值在统一接口。用它微调 Mistral 做垂直任务,不用为每个模型维护一套代码;对比 Hugging Face 的 transformers 库需要写大量样板,这个 73k+ star 的框架为上百个模型准备了预设配置,开箱即用。但它的定位很纯粹——只管训练工作流,需要自定义推理优化或高级量化的团队应该另选工具。

— 中国吧 AI Tools Hub Editorial Team on LLaMA-Factory

→ Read the full LLaMA-Factory review

Axolotl 是什么

如果你要把 Llama 系列微调到生产可用,Axolotl 把 SFT、DPO、RLHF 统一在一套配置里,比东拼西凑几个脚本强得多。12k+ star,开箱支持的训练范式比 LitGPT 多。它不适合的情况是需要企业级技术支持,或者你更想直接用 OpenAI API 那种全托管云平台。

— 中国吧 AI Tools Hub Editorial Team on Axolotl

→ Read the full Axolotl review

什么场景该选哪个

Choose LLaMA-Factory if…

Choose Axolotl if…

性能与分布式训练

性能差异主要在多卡规模上。LLaMA-Factory 用 DeepSpeed 做多卡但缺原生 FSDP,超过 8 到 16 张卡复杂度就上来了;Axolotl 同时实现 DeepSpeed 和 FSDP,能在几百张卡上做真正的分布式训练,梯度同步控制更好。做千亿参数级别的生产级微调,Axolotl 的 FSDP 内存开销更低、收敛更快。LLaMA-Factory 则用优化过的 QLoRA 在单张 24GB 显卡上高效训 13B。用 LoRA 时两者吞吐接近,消费级显卡上都是 300 到 500 样本每秒。超大规模集群选 Axolotl,资源受限的研究环境选 LLaMA-Factory。

开发者体验与上手难度

上手体验差在有没有界面。LlamaBoard 让你在下拉框和输入框里配好训练任务直接启动,完全不碰命令行和 YAML,非算法工程师的上手周期从几周压到几小时。Axolotl 要写显式声明超参数的 YAML,需要理解 transformers 库结构和调参概念,对新手门槛高。不过 Axolotl 的「配置即代码」对运维团队很有吸引力,训练配方可以进 Git 做版本管理。LLaMA-Factory 的命令行也支持配置文件,可复现性两边都有。

生态与生产部署

导出能力决定部署形态。LLaMA-Factory 原生导出 GGUF 和 vLLM 格式,可以直接丢给 llama.cpp 跑端侧,或者部署到生产服务器不用转格式;它的 OpenAI 兼容接口输出让替换现有应用变得很简单。Axolotl 主要导出 HuggingFace 原生格式,要转 GGUF 或私有推理引擎得多做一步,但和 Hugging Face 模型仓库的版本管理、分享集成得很紧。跑在 Replicate、Modal 这类云平台上,Axolotl 的生态深度更好;端侧优先或要接口兼容,LLaMA-Factory 的导出灵活性能更快上线。

常见问题

LLaMA-Factory 训好的模型能迁到 Axolotl 继续微调吗? ▼
可以。两个工具都把 LoRA 适配器存成标准的 HuggingFace 格式。导出 LLaMA-Factory 的 LoRA 权重,然后在 Axolotl 的 YAML 里填到 `adapter_model_name_or_path` 就能加载。检查点格式是完全兼容的,但两者默认的调度器和优化器不同,可能需要调一下训练超参。
LlamaBoard 网页界面适合跑生产训练任务吗? ▼
适合实验和原型,不建议跑关键的生产流水线。用它做超参搜索和数据集验证;测好的配置用 Axolotl 或 LLaMA-Factory 的命令行配合 Kubernetes、Ray 这类编排工具部署,才有可靠性和规模化监控。
单卡训练 LoRA 适配器,哪个更快? ▼
基本打平,两者在 24GB 显卡上都是 300 到 400 样本每秒。LLaMA-Factory 的 QLoRA 实现显存效率略高(能塞下 33B),Axolotl 的梯度检查点更可调。按模型大小需求选,别按吞吐选。
Axolotl 支持的模型和 LLaMA-Factory 一样多吗? ▼
功能上一样,两边都支持所有 HuggingFace transformers 架构的模型。差别在模板:LLaMA-Factory 为一百多个具体架构(Mistral、Qwen、InternLM 等)维护了调优过的预设,Axolotl 需要自己配。对热门模型来说,LLaMA-Factory 的模板能把调试时间减少 40% 到 50%。