← All Tools
Unsloth VS LLaMA-Factory

Unsloth vs LLaMA-Factory:大模型微调工具对比

Unsloth 和 LLaMA-Factory 都是 popular 的大模型微调工具,但定位不同。Unsloth 专注极致速度——它用自研 CUDA 内核重写注意力和梯度运算,让 QLoRA 微调快 2 到 5 倍、显存少 60%。LLaMA-Factory 走广度路线,支持更多训练方法(DPO、PPO、ORPO),还提供网页界面。Unsloth 赢在速度,LLaMA-Factory 赢在功能完整。

Curated by 评测编辑:玄尘子 🗓 Updated: ⭐ Unsloth: 75k+ stars ⭐ LLaMA-Factory: 74k+ stars

⚡ TL;DR — 30-Second Verdict

怎么选:你想要单卡上最快的 QLoRA 微调、GPU 时间和显存是瓶颈,选 Unsloth。你需要 DPO 对齐、RLHF、网页界面,或者要超出基础 LoRA 的完整训练能力,选 LLaMA-Factory。实践中很多人是先用 Unsloth 做快速实验,再用 LLaMA-Factory 跑完整流水线。

快速对比:Unsloth 与 LLaMA-Factory 核心差异

对比项 Unsloth LLaMA-Factory
速度 自研内核,快 2 到 5 倍 标准速度
显存占用 比标准 QLoRA 省 60% 标准 QLoRA 效率
训练方法 SFT 加基础 DPO LoRA、QLoRA、DPO、PPO、ORPO
网页界面 没有 有,LlamaBoard
模型支持 Llama、Mistral、Gemma 等 100+ 模型
导出格式 GGUF、HF 格式 GGUF、vLLM、OpenAI 兼容
Notebook 提供免费 Colab 示例 有 Colab 示例
Unsloth ★ 75k+ GitHub Stars View on GitHub ↗ LLaMA-Factory ★ 74k+ GitHub Stars View on GitHub ↗

Unsloth 是什么

在单张显卡上几小时而不是几天微调完 Llama 2,Unsloth 的内核优化让预算有限的研究者能做原型。跟标准 HuggingFace PEFT 相比,Unsloth 能提速 2 到 5 倍、省 70% 显存,但它的 68k+ GitHub star 说明的是细分领域的采用度。如果你需要的是推理优化而不是训练效率,就别选它。

— 中国吧 AI Tools Hub Editorial Team on Unsloth

→ Read the full Unsloth review

LLaMA-Factory 是什么

用统一接口微调 Mistral 做垂直任务,比为每个模型维护独立代码库省太多事。跟需要大量样板代码的 HuggingFace transformers 库不同,这个 73k+ star 的框架用预设配置覆盖 100+ 模型。需要自定义推理优化或高级量化的团队应该考虑别的方案,LLaMA-Factory 专注的只是训练工作流。

— 中国吧 AI Tools Hub Editorial Team on LLaMA-Factory

→ Read the full LLaMA-Factory review

什么场景该选哪个

Choose Unsloth if…

Choose LLaMA-Factory if…

性能与资源效率

Unsloth 的自研 CUDA 内核带来可量化的速度提升:QLoRA 微调快 2 到 5 倍、显存降 60%。在 RTX 4090 上,Unsloth 训练一个 7B 模型约 4 小时,标准实现要 8 到 20 小时。LLaMA-Factory 用常规 PyTorch 运算,同样硬件上慢 1.2 到 1.5 倍。但 LLaMA-Factory 的效率随训练方法变化——DPO 和 PPO 比 LoRA 更吃显存。GPU 资源紧张(消费级显卡或有限云预算)时,Unsloth 省下的显存意味着能微调更大的模型或更大的 batch size。LLaMA-Factory 在多数场景依然够用,但大模型上需要更激进的量化或多卡配置。

训练能力与对齐方法

Unsloth 专精 SFT(监督微调)和基础 DPO,适合快速做模型适配和偏好对齐。LLaMA-Factory 提供完整训练工具箱:LoRA、QLoRA、DoRA、SFT、DPO、PPO、ORPO、SimPO。这个广度对生产流水线很关键——如果你需要带 PPO 奖励的 RLHF 或者用 ORPO 做高级对齐,Unsloth 没有原生支持(虽然可以组合外部库)。LLaMA-Factory 的网页界面 LlamaBoard 让不懂命令行的用户也能配置复杂训练。Unsloth 擅长单卡快速实验,但高级工作流要自己写脚本。

社区、文档与生态集成

Unsloth 在开源大模型社区势头强劲,GitHub 活跃,还提供开箱即用的免费 Colab notebook。文档简洁但面向熟悉 PyTorch 的开发者。LLaMA-Factory 的文档更全面、支持多语言、用户基数更大——Stack Overflow 上答案更多、社区配方更多。LLaMA-Factory 和 HuggingFace 生态集成更深(自动生成模型卡、无缝上传 HF hub)。Unsloth 的导出选项(GGUF、HuggingFace 格式)够用但不如 LLaMA-Factory 丰富(还支持 vLLM、OpenAI 兼容端点)。要标准化在 HuggingFace 基础设施上的企业,LLaMA-Factory 的集成深度重要;个人研究者或小团队,Unsloth 的简洁和快速上手 notebook 能更快拿到第一个模型。

常见问题

Unsloth 真的比 LLaMA-Factory 快 2 到 5 倍吗,为什么? ▼
是真的。Unsloth 用手工优化的 CUDA 内核重写了 PyTorch 的标准注意力和反向传播运算,消掉了不必要的内存分配和内核启动开销。LLaMA-Factory 用标准 PyTorch 运算,优化得不错但没有为 QLoRA 专门优化。7B 模型 4 位量化下,Unsloth 在消费级显卡上通常快 3 到 4 倍、显存省 60%。
Unsloth 和 LLaMA-Factory 能互相替代吗? ▼
不能。Unsloth 只是 LoRA/QLoRA 训练的直接替代品——如果你要 DPO、PPO 或 ORPO,必须用 LLaMA-Factory 或者自己写代码。不过你可以用 Unsloth 微调,再用 LLaMA-Factory 做第二遍的偏好对齐,因为两者都导出标准 HF 格式。
显存只有 8GB 该选哪个? ▼
选 Unsloth,它 60% 的显存节省在受限硬件上是决定性的。在 RTX 3060(12GB 显存)上,Unsloth 能微调 7B 模型,而 LLaMA-Factory 需要激进量化或者直接失败。同样配置下 LLaMA-Factory 要多卡或者激进的梯度检查点才可行。
LLaMA-Factory 的网页界面 LlamaBoard 和 Unsloth 的 notebook 比哪个好用? ▼
服务的人群不同。LlamaBoard 更适合非开发者和团队协作,不用碰命令行。Unsloth 的 notebook 对程序员迭代更快,但需要 Python/notebook 环境。LlamaBoard 在参数调优时延迟稍高、实时反馈少,实验阶段会更慢。
想用 ORPO 或 PPO 做高级对齐,选哪个? ▼
只能选 LLaMA-Factory。Unsloth 没有原生的 PPO 和 ORPO 支持,它专注 SFT 和基础 DPO。需要完整对齐流水线的团队,LLaMA-Factory 的功能完整性直接省掉了集成的工作量。
微调 7B 模型大概要多久? ▼
看工具和硬件。Unsloth 在 RTX 4090 上约 4 小时,标准实现要 8 到 20 小时。LLaMA-Factory 慢 1.2 到 1.5 倍。数据量和序列长度也会显著影响时间。显存受限时 Unsloth 还能开更大 batch,实际差距会拉得更大。