⚡ TL;DR — 30-Second Verdict
怎么选:你想要单卡上最快的 QLoRA 微调、GPU 时间和显存是瓶颈,选 Unsloth。你需要 DPO 对齐、RLHF、网页界面,或者要超出基础 LoRA 的完整训练能力,选 LLaMA-Factory。实践中很多人是先用 Unsloth 做快速实验,再用 LLaMA-Factory 跑完整流水线。
快速对比:Unsloth 与 LLaMA-Factory 核心差异
| 对比项 | Unsloth | LLaMA-Factory |
|---|---|---|
| 速度 | 自研内核,快 2 到 5 倍 | 标准速度 |
| 显存占用 | 比标准 QLoRA 省 60% | 标准 QLoRA 效率 |
| 训练方法 | SFT 加基础 DPO | LoRA、QLoRA、DPO、PPO、ORPO |
| 网页界面 | 没有 | 有,LlamaBoard |
| 模型支持 | Llama、Mistral、Gemma 等 | 100+ 模型 |
| 导出格式 | GGUF、HF 格式 | GGUF、vLLM、OpenAI 兼容 |
| Notebook | 提供免费 Colab 示例 | 有 Colab 示例 |
Unsloth 是什么
在单张显卡上几小时而不是几天微调完 Llama 2,Unsloth 的内核优化让预算有限的研究者能做原型。跟标准 HuggingFace PEFT 相比,Unsloth 能提速 2 到 5 倍、省 70% 显存,但它的 68k+ GitHub star 说明的是细分领域的采用度。如果你需要的是推理优化而不是训练效率,就别选它。
— 中国吧 AI Tools Hub Editorial Team on Unsloth
→ Read the full Unsloth review
LLaMA-Factory 是什么
用统一接口微调 Mistral 做垂直任务,比为每个模型维护独立代码库省太多事。跟需要大量样板代码的 HuggingFace transformers 库不同,这个 73k+ star 的框架用预设配置覆盖 100+ 模型。需要自定义推理优化或高级量化的团队应该考虑别的方案,LLaMA-Factory 专注的只是训练工作流。
— 中国吧 AI Tools Hub Editorial Team on LLaMA-Factory
→ Read the full LLaMA-Factory review
什么场景该选哪个
Choose Unsloth if…
Choose LLaMA-Factory if…
性能与资源效率
Unsloth 的自研 CUDA 内核带来可量化的速度提升:QLoRA 微调快 2 到 5 倍、显存降 60%。在 RTX 4090 上,Unsloth 训练一个 7B 模型约 4 小时,标准实现要 8 到 20 小时。LLaMA-Factory 用常规 PyTorch 运算,同样硬件上慢 1.2 到 1.5 倍。但 LLaMA-Factory 的效率随训练方法变化——DPO 和 PPO 比 LoRA 更吃显存。GPU 资源紧张(消费级显卡或有限云预算)时,Unsloth 省下的显存意味着能微调更大的模型或更大的 batch size。LLaMA-Factory 在多数场景依然够用,但大模型上需要更激进的量化或多卡配置。
训练能力与对齐方法
Unsloth 专精 SFT(监督微调)和基础 DPO,适合快速做模型适配和偏好对齐。LLaMA-Factory 提供完整训练工具箱:LoRA、QLoRA、DoRA、SFT、DPO、PPO、ORPO、SimPO。这个广度对生产流水线很关键——如果你需要带 PPO 奖励的 RLHF 或者用 ORPO 做高级对齐,Unsloth 没有原生支持(虽然可以组合外部库)。LLaMA-Factory 的网页界面 LlamaBoard 让不懂命令行的用户也能配置复杂训练。Unsloth 擅长单卡快速实验,但高级工作流要自己写脚本。
社区、文档与生态集成
Unsloth 在开源大模型社区势头强劲,GitHub 活跃,还提供开箱即用的免费 Colab notebook。文档简洁但面向熟悉 PyTorch 的开发者。LLaMA-Factory 的文档更全面、支持多语言、用户基数更大——Stack Overflow 上答案更多、社区配方更多。LLaMA-Factory 和 HuggingFace 生态集成更深(自动生成模型卡、无缝上传 HF hub)。Unsloth 的导出选项(GGUF、HuggingFace 格式)够用但不如 LLaMA-Factory 丰富(还支持 vLLM、OpenAI 兼容端点)。要标准化在 HuggingFace 基础设施上的企业,LLaMA-Factory 的集成深度重要;个人研究者或小团队,Unsloth 的简洁和快速上手 notebook 能更快拿到第一个模型。