zgba 站群
中文工具 · 首页 ← English

AI工具集:300 + 开源 AI 工具按场景分类合集

AI 工具集:一份持续更新的开源 AI 工具集合。Agent 智能体、本地大模型、RAG 知识库、AI 写作等场景全覆盖,每款均附 GitHub 星标。

🤖 AI Agent 智能体

n8n 低代码自动化

⭐ 202k+ GitHub Stars

400+ 集成的低代码工作流自动化平台

AutoGPT 自主智能体

⭐ 186k+ GitHub Stars

自主 AI 智能体任务执行平台

Langflow 可视化编排

⭐ 153k+ GitHub Stars

可视化 AI 智能体与 RAG 编排工具

Dify LLM 应用平台

⭐ 153k+ GitHub Stars

开源 LLM 应用开发与编排平台

Browser Use 浏览器控制

⭐ 110k+ GitHub Stars

让 AI 自主控制浏览器完成网页任务

MCP 服务器集合

⭐ 90k+ GitHub Stars

Model Context Protocol 服务器参考实现集合

OpenHands 软件工程体

⭐ 85k+ GitHub Stars

AI 软件开发智能体平台

MetaGPT 多角色框架

⭐ 70k+ GitHub Stars

多角色 GPT 协作软件开发框架

Open Interpreter 代码体

⭐ 68k+ GitHub Stars

在本地自主编写并执行代码的智能体

Cline VS Code 编程体

⭐ 67k+ GitHub Stars

VS Code 中的自主编程智能体

AutoGen 多智能体框架

⭐ 61k+ GitHub Stars

微软多智能体对话与 LLM 自动化框架

CrewAI 多智能体协作

⭐ 58k+ GitHub Stars

多智能体角色协作编排框架

Flowise 拖拽编排工具

⭐ 55k+ GitHub Stars

拖拽式 LLM 工作流可视化编排

GPT Engineer 代码生成

⭐ 55k+ GitHub Stars

自然语言描述驱动整库代码生成

Agno 轻量智能体框架

⭐ 42k+ GitHub Stars

构建多模态智能体的轻量级库

Phidata 多模态智能体

⭐ 42k+ GitHub Stars

构建具有记忆、知识和工具的多模态 AI 智能体

LangGraph 图状态机

⭐ 40k+ GitHub Stars

以图结构构建有状态多智能体 LLM 应用

Playwright MCP 浏览器

⭐ 36k+ GitHub Stars

微软 Playwright 浏览器自动化 MCP 服务器

AgentGPT 浏览器 Agent

⭐ 36k+ GitHub Stars

浏览器内配置部署自主 AI 智能体

ChatDev 虚拟软件公司

⭐ 34k+ GitHub Stars

多智能体协作构建软件的虚拟公司

TaskMatrix 视觉智能体

⭐ 34k+ GitHub Stars

将 ChatGPT 与 AI 模型和 API 作为工具连接

GPT Pilot 应用生成

⭐ 34k+ GitHub Stars

从零构建完整应用的 AI 编程助手

STORM 维基文章生成

⭐ 31k+ GitHub Stars

斯坦福用 LLM 撰写维基百科式文章的系统

ScrapeGraphAI 网页爬取体

⭐ 30k+ GitHub Stars

基于 LLM 和图逻辑的智能网页爬取

FastGPT 知识库平台

⭐ 29k+ GitHub Stars

基于知识库构建 RAG 和 AI 工作流的平台

AgentScope 多智能体平台

⭐ 29k+ GitHub Stars

阿里巴巴的多智能体 LLM 应用平台

GPT Researcher 调研体

⭐ 29k+ GitHub Stars

自主在线调研报告生成智能体

SmolAgents 轻量智能体

⭐ 29k+ GitHub Stars

HuggingFace 轻量级 AI 智能体构建库

Vercel AI SDK

⭐ 26k+ GitHub Stars

构建 React/Next.js 对话式 AI 应用的 SDK

JARVIS HuggingGPT 任务规划

⭐ 25k+ GitHub Stars

将 LLM 与 HuggingFace 模型工具连接的系统

Letta 有状态智能体

⭐ 24k+ GitHub Stars

具有长期记忆的有状态 LLM 智能体(前 MemGPT)

Roo Code 增强编程体

⭐ 24k+ GitHub Stars

支持多模式的增强自主编程智能体

Stagehand 浏览器 AI

⭐ 24k+ GitHub Stars

自然语言驱动的 AI 浏览器自动化框架

Vanna SQL 智能体

⭐ 24k+ GitHub Stars

AI 驱动的 SQL 生成与数据库对话

Prefect 工作流编排

⭐ 24k+ GitHub Stars

面向数据和 AI 管线的现代工作流编排

BabyAGI 任务驱动体

⭐ 22k+ GitHub Stars

任务驱动的自主 AI 智能体

生成式智能体仿真

⭐ 22k+ GitHub Stars

斯坦福 AI 智能体模拟人类行为

OpenAI Swarm 实验框架

⭐ 22k+ GitHub Stars

OpenAI 实验性多智能体编排框架

Rasa 对话 AI 框架

⭐ 21k+ GitHub Stars

开源对话 AI 和聊天机器人框架

SWE-agent 软件工程体

⭐ 20k+ GitHub Stars

自主修复 GitHub Issue 的软件工程智能体

DB-GPT 数据库智能体

⭐ 20k+ GitHub Stars

基于私有 LLM 的数据库智能体和 RAG 框架

Pydantic AI 类型安全智能体

⭐ 19k+ GitHub Stars

Pydantic 出品的生产级类型安全智能体框架

SuperAGI 开源平台

⭐ 18k+ GitHub Stars

开源自主 AI 智能体基础设施

CAMEL 角色扮演框架

⭐ 18k+ GitHub Stars

AI 角色扮演通信智能体框架

Claude Computer Use 演示

⭐ 18k+ GitHub Stars

Claude 智能体参考实现,含电脑使用演示

Botpress 对话平台

⭐ 15k+ GitHub Stars

以开发者为先的对话式 AI 构建平台

QAnything 网易 RAG

⭐ 14k+ GitHub Stars

网易有道开源的本地知识库问答系统

LiveKit 实时语音体

⭐ 13k+ GitHub Stars

构建实时语音和视频 AI 智能体的框架

Gorilla API 调用 LLM

⭐ 13k+ GitHub Stars

连接海量 API 的精准函数调用 LLM

MaxKB 知识库问答

⭐ 12k+ GitHub Stars

开源 RAG 知识库问答系统,支持多智能体

Bisheng 企业 AI 平台

⭐ 12k+ GitHub Stars

面向企业的生成式 AI 智能工作流平台

AI Town 智能体小镇

⭐ 10k+ GitHub Stars

多智能体在虚拟小镇生活的 AI 模拟

UFO Windows 桌面体

⭐ 9.5k+ GitHub Stars

微软面向 Windows 桌面任务的 UI 智能体

Spring AI Java 框架

⭐ 9.3k+ GitHub Stars

用于 Java AI 应用和智能体的 Spring 框架

Mage AI 数据管线

⭐ 8.8k+ GitHub Stars

现代数据管线和机器学习编排工具

XAgent 自主任务执行

⭐ 8.5k+ GitHub Stars

自主解决复杂任务的 LLM 智能体

R2R RAG 生产框架

⭐ 8.0k+ GitHub Stars

支持知识图谱的生产就绪 RAG 框架

多智能体编排器

⭐ 7.7k+ GitHub Stars

AWS 多智能体编排框架

Sweep PR 自动生成

⭐ 7.7k+ GitHub Stars

将 Issue 自动转化为 PR 的 AI GitHub 助手

TinyTroupe 人物模拟

⭐ 7.6k+ GitHub Stars

微软 LLM 驱动的多智能体人物模拟

Voyager Minecraft 智能体

⭐ 7.2k+ GitHub Stars

Minecraft 中 LLM 驱动的终身学习智能体

AppAgent 手机操作体

⭐ 6.9k+ GitHub Stars

多模态智能体自主操作手机应用

Atomic Agents 原子智能体

⭐ 6.2k+ GitHub Stars

模块化可组合的 AI 智能体构建框架

TaskWeaver 代码智能体

⭐ 6.2k+ GitHub Stars

代码优先的数据分析智能体框架

AgentOps 智能体可观测

⭐ 5.8k+ GitHub Stars

AI 智能体可观测性和测试的 Python SDK

ToolBench 工具调用基准

⭐ 5.7k+ GitHub Stars

训练和评估 LLM 使用 16000+ API 工具的基准

Botasaurus 反检测爬虫体

⭐ 5.7k+ GitHub Stars

用于网络爬取智能体的反检测浏览器框架

AgentVerse 多智能体仿真

⭐ 5.1k+ GitHub Stars

多 LLM 智能体协作部署平台

Zep 智能体记忆存储

⭐ 4.9k+ GitHub Stars

AI 智能体和助手的快速可扩展记忆层

OpenAgents 开放智能体

⭐ 4.9k+ GitHub Stars

托管和使用语言智能体的开放平台

Rivet 可视化 AI IDE

⭐ 4.7k+ GitHub Stars

构建 LLM 管线的可视化 AI 编程环境

Agency Swarm 智能体群

⭐ 4.5k+ GitHub Stars

创建协作 AI 智能体群的框架

智能体服务工具包

⭐ 4.4k+ GitHub Stars

构建和部署 LangGraph 智能体的完整工具包

ModelScope 智能体

⭐ 4.4k+ GitHub Stars

阿里魔搭社区的工具调用智能体框架

Micro Agent 测试驱动体

⭐ 4.3k+ GitHub Stars

持续编写和修复代码直到测试通过的 AI 智能体

Langroid 多智能体框架

⭐ 4.1k+ GitHub Stars

Python 多智能体 LLM 编程框架

CodeInterpreter API

⭐ 3.8k+ GitHub Stars

ChatGPT 代码解释器的开源实现

AgentBench 智能体评测

⭐ 3.7k+ GitHub Stars

评估 LLM 作为自主智能体能力的基准

Devon 开源 Devin

⭐ 3.5k+ GitHub Stars

Devin AI 软件工程师的开源替代品

Bee 智能体框架

⭐ 3.4k+ GitHub Stars

IBM 开源的生产级 AI 智能体构建框架

OSWorld 操作系统基准

⭐ 3.1k+ GitHub Stars

评估 AI 智能体完成电脑任务的基准

ChainForge 提示词对比

⭐ 3.0k+ GitHub Stars

批量测试 LLM 提示词和链的可视化工具

Memary 智能体记忆

⭐ 2.6k+ GitHub Stars

自主 AI 智能体的开源记忆层

Griptape 企业 AI 管线

⭐ 2.6k+ GitHub Stars

Enterprise framework for AI pipelines and agents

Magentic 装饰器 LLM

⭐ 2.4k+ GitHub Stars

基于装饰器的无缝 LLM 集成接口

OpenAGI 任务求解框架

⭐ 2.3k+ GitHub Stars

用于任务求解的开源 AGI 研究平台

dstack AI 开发环境

⭐ 2.2k+ GitHub Stars

在任意云上运行 AI 工作负载的开源平台

Mentat 多文件代码体

⭐ 2k+ GitHub Stars

协调跨文件代码编辑的 AI 编程助手

AutoChain 轻量体框架

⭐ 1.9k+ GitHub Stars

轻量可扩展的对话式 AI 智能体框架

Rawdog 命令行代码体

⭐ 1.8k+ GitHub Stars

编写并执行 Python 代码回答问题的 CLI 智能体

OpenAdapt RPA 智能体

⭐ 1.7k+ GitHub Stars

AI 驱动的机器人流程自动化平台

WebArena 网页任务基准

⭐ 1.6k+ GitHub Stars

评估网页导航智能体的真实基准

AI Legion 多智能体

⭐ 1.4k+ GitHub Stars

多智能体协作完成任务的系统

RestGPT API 调用体

⭐ 1.4k+ GitHub Stars

将 LLM 连接到真实 RESTful API 的智能体

ControlFlow 任务智能体

⭐ 1.4k+ GitHub Stars

基于 Prefect 的任务中心 AI 智能体框架

IX 拖拽 Agent 平台

⭐ 1.0k+ GitHub Stars

拖拽构建和测试 AI 智能体的平台

AgentLite 轻量研究框架

⭐ 650 GitHub Stars

Salesforce 面向研究的轻量智能体库

TaskGen 任务生成框架

⭐ 462 GitHub Stars

基于 StrictJSON 的任务驱动智能体框架

Llama Agents 分布式体

⭐ 442 GitHub Stars

基于 LlamaIndex 构建的多智能体框架

NPI 工具调用协议

⭐ 229 GitHub Stars

LLM 工具使用和函数调用的开源平台

⚙️ AI 工具

Ollama 本地大模型

⭐ 179k+ GitHub Stars

本地运行大语言模型

SD Web 界面

⭐ 164k+ GitHub Stars

SD 图像生成 Web 界面

Open WebUI 本地界面

⭐ 149k+ GitHub Stars

适配 Ollama 的本地 LLM Web 界面

ComfyUI 节点工作流

⭐ 129k+ GitHub Stars

SD 节点式图像生成工作流

llama.cpp 本地推理

⭐ 125k+ GitHub Stars

C/C++ 实现的本地 LLM 高速推理

Whisper 语音识别

⭐ 107k+ GitHub Stars

OpenAI 开源语音识别模型

ChatGPT Next Web

⭐ 89k+ GitHub Stars

跨平台 ChatGPT 一键部署界面

LobeChat 聊天框架

⭐ 82k+ GitHub Stars

现代化开源 LLM 聊天界面框架

MinerU 文档解析

⭐ 78k+ GitHub Stars

高质量 PDF 转 Markdown 的文档解析工具

GPT4All 本地助手

⭐ 77k+ GitHub Stars

本地运行定制化大语言模型

截图转代码

⭐ 74k+ GitHub Stars

AI 将截图直接转换为 HTML/CSS/JS 代码

Stable Diffusion 官方

⭐ 73k+ GitHub Stars

潜在扩散模型原始实现,开创 AI 图像生成时代

开放解释器

⭐ 68k+ GitHub Stars

自然语言驱动本地代码执行

AnythingLLM 全能助手

⭐ 65k+ GitHub Stars

全能桌面与 Docker AI 应用

GPT-SoVITS 声音克隆

⭐ 61k+ GitHub Stars

强大的少样本声音克隆与 TTS 工具

PrivateGPT 私有问答

⭐ 57k+ GitHub Stars

完全私有的文档问答 AI

Whisper.cpp 高效识别

⭐ 53k+ GitHub Stars

OpenAI Whisper 的 C/C++ 高速本地推理实现

Fooocus 图像生成

⭐ 53k+ GitHub Stars

开源离线的 Midjourney 风格图像生成工具

LocalAI 本地 API

⭐ 49k+ GitHub Stars

本地运行的开源 OpenAI API 替代品

Aider AI 编程助手

⭐ 48k+ GitHub Stars

终端中的 AI 结对编程助手

文本生成 WebUI

⭐ 48k+ GitHub Stars

Gradio 驱动的本地 LLM Web 界面

Coqui 深度学习 TTS

⭐ 46k+ GitHub Stars

深度学习文本转语音工具集

Jan 本地 AI 助手

⭐ 44k+ GitHub Stars

开源离线运行的 ChatGPT 替代品

Fabric AI 增强框架

⭐ 44k+ GitHub Stars

通过 AI Pattern 增强人类能力的开源框架

LibreChat 多模型聊天

⭐ 42k+ GitHub Stars

支持多模型的增强 ChatGPT 克隆

ChatTTS 对话语音

⭐ 40k+ GitHub Stars

细粒度对话场景文本转语音模型

Quivr 第二大脑

⭐ 39k+ GitHub Stars

AI 驱动的个人知识第二大脑

Bark 语音生成

⭐ 39k+ GitHub Stars

支持情感和音乐的文本转语音生成模型

Marker 文档转换

⭐ 39k+ GitHub Stars

精确将 PDF/EPUB 转换为 Markdown

RVC 声线转换

⭐ 38k+ GitHub Stars

基于检索的实时声线转换 Web 界面

Open Assistant 开源助手

⭐ 37k+ GitHub Stars

LAION 开源的 ChatGPT 替代品

OpenVoice 声音克隆

⭐ 37k+ GitHub Stars

MyShell 出品的即时声音克隆工具

CopilotKit 应用副驾驶

⭐ 37k+ GitHub Stars

构建应用内 AI 副驾驶的 React 框架

Khoj 个人 AI 助手

⭐ 37k+ GitHub Stars

搜索你的笔记和文档的个人 AI 助手

Real-ESRGAN 图像超分

⭐ 37k+ GitHub Stars

实用的图像/视频 AI 超分辨率工具

Continue AI 编程扩展

⭐ 36k+ GitHub Stars

VS Code 和 JetBrains 的开源 AI 代码助手

Diffusers 扩散模型库

⭐ 34k+ GitHub Stars

HuggingFace 图像/音频/视频扩散模型库

Tabby 自托管编程助手

⭐ 34k+ GitHub Stars

自托管的开源 GitHub Copilot 替代品

Chatbot UI 多模型界面

⭐ 33k+ GitHub Stars

支持多 AI 服务商的开源聊天界面

SillyTavern 角色扮演

⭐ 33k+ GitHub Stars

AI 角色扮演和互动故事写作高级界面

Fish Speech TTS

⭐ 32k+ GitHub Stars

支持声音克隆的新一代 TTS 解决方案

Danswer 企业搜索

⭐ 32k+ GitHub Stars

连接企业所有数据的 AI 智能搜索

so-vits-svc 歌声转换

⭐ 28k+ GitHub Stars

基于 VITS 和 SoftVC 的歌声转换模型

MLX Apple 机器学习

⭐ 28k+ GitHub Stars

Apple 针对 Apple Silicon 优化的机器学习框架

InvokeAI 创意图像

⭐ 28k+ GitHub Stars

专业的 Stable Diffusion 创意图像生成引擎

FLUX 图像生成模型

⭐ 26k+ GitHub Stars

Black Forest Labs 发布的顶级开源图像模型

Llamafile 单文件 LLM

⭐ 26k+ GitHub Stars

将 LLM 打包为单一跨平台可执行文件

Faster Whisper 加速识别

⭐ 25k+ GitHub Stars

基于 CTranslate2 的 4 倍加速 Whisper 实现

OpenAI 翻译工具

⭐ 25k+ GitHub Stars

基于 AI 的浏览器插件与桌面翻译应用

rembg 背景移除

⭐ 24k+ GitHub Stars

AI 自动移除图像背景工具

MemGPT 虚拟内存 LLM

⭐ 24k+ GitHub Stars

具有虚拟内存和持久上下文管理的 LLM OS

WhisperX 带对齐识别

⭐ 24k+ GitHub Stars

带词级时间戳和说话人分离的 Whisper

AudioCraft 音频生成

⭐ 24k+ GitHub Stars

Meta 开源的音频与音乐生成库

OpenUI 界面生成

⭐ 23k+ GitHub Stars

AI 驱动的 UI 组件生成工具

Surya 文档 OCR

⭐ 21k+ GitHub Stars

精准的多语言文档 OCR 与行检测

FunASR 语音识别框架

⭐ 20k+ GitHub Stars

阿里端到端语音识别工具包

DocsGPT 文档问答

⭐ 18k+ GitHub Stars

基于 RAG 的 AI 文档问答机器人

CodeFormer 人脸修复

⭐ 18k+ GitHub Stars

基于 Transformer 的人脸修复和增强

ChatALL 多模型对话

⭐ 16k+ GitHub Stars

同时与多个 AI 对话对比最佳答案

AISuite 多模型统一接口

⭐ 16k+ GitHub Stars

吴恩达出品的多 AI 服务商统一接口

Plandex AI 终端编程

⭐ 16k+ GitHub Stars

终端中处理复杂多文件任务的 AI 编程引擎

F5-TTS 零样本语音

⭐ 15k+ GitHub Stars

零样本声音克隆文本转语音系统

RWKV 语言模型

⭐ 15k+ GitHub Stars

性能媲美 Transformer 的 RNN 语言模型

TensorRT-LLM 推理加速

⭐ 14k+ GitHub Stars

NVIDIA 大模型推理加速工具包

SadTalker 会说话的头像

⭐ 14k+ GitHub Stars

驱动人脸图像说话的动态肖像生成工具

Draw a UI 手绘转界面

⭐ 14k+ GitHub Stars

用 AI 将手绘草图生成 HTML 界面

SD WebUI Forge 加速版

⭐ 13k+ GitHub Stars

更快速低显存占用的 SD WebUI 优化版

CogVideo 视频生成

⭐ 13k+ GitHub Stars

清华 THUDM 开源视频生成模型

LLM 命令行工具

⭐ 12k+ GitHub Stars

交互 LLM 的命令行工具和 Python 库

ShellGPT 终端助手

⭐ 12k+ GitHub Stars

AI 驱动的命令行生产力工具

AnimateDiff 动画扩散

⭐ 12k+ GitHub Stars

让文生图模型动起来的动画扩散框架

InstantID 身份一致生成

⭐ 12k+ GitHub Stars

保持身份特征的个性化图像生成

h2oGPT 企业问答

⭐ 12k+ GitHub Stars

企业级本地文档私有问答系统

AI Toolkit LoRA 训练

⭐ 12k+ GitHub Stars

LoRA 和 Dreambooth 训练的 AI 脚本工具集

KoboldCpp 多合一运行

⭐ 12k+ GitHub Stars

一体化本地 LLM 推理运行工具

Piper 快速 TTS

⭐ 11k+ GitHub Stars

快速本地神经网络文本转语音系统

MagicAnimate 人体动画

⭐ 11k+ GitHub Stars

扩散模型驱动的时序一致人体动画生成

Dolly 开源指令模型

⭐ 11k+ GitHub Stars

Databricks 开源的指令跟随大语言模型

Demucs 音频分离

⭐ 10k+ GitHub Stars

分离人声/鼓/贝斯/吉他的音频源分离工具

PhotoMaker 人像定制

⭐ 10k+ GitHub Stars

通过身份嵌入定制逼真人像照片

Nougat 学术 OCR

⭐ 10k+ GitHub Stars

支持数学公式的学术 PDF 神经网络 OCR

PowerInfer 低资源推理

⭐ 9.7k+ GitHub Stars

面向消费级硬件的快速 LLM 推理引擎

CodeGeeX 智谱编程

⭐ 8.8k+ GitHub Stars

清华智谱多语言代码生成模型

VALL-E X 跨语言 TTS

⭐ 7.9k+ GitHub Stars

跨语言神经编解码语音生成模型

ShortGPT 短视频生成

⭐ 7.9k+ GitHub Stars

自动生成 YouTube Shorts/TikTok 短视频的 AI 框架

big-AGI AI 套件

⭐ 7.1k+ GitHub Stars

面向专业人士的生成式 AI 套件

DeepSpeed Chat 训练

⭐ 6.8k+ GitHub Stars

端到端 RLHF 聊天模型训练示例

IP-Adapter 图像提示

⭐ 6.7k+ GitHub Stars

Stable Diffusion 的图像提示词适配器

MuseTalk 实时唇形同步

⭐ 6.4k+ GitHub Stars

实时高质量虚拟人唇形同步

LLM 对比 Playground

⭐ 6.4k+ GitHub Stars

同时对比多个 LLM 输出的本地 Playground

Enchanted iOS LLM 应用

⭐ 6.0k+ GitHub Stars

使用本地 Ollama 模型的 iOS 私有 AI 聊天应用

LLM 可视化工具

⭐ 5.5k+ GitHub Stars

大语言模型内部结构 3D 可视化

Midjourney 代理

⭐ 5.3k+ GitHub Stars

Midjourney API 代理集成服务

LM Studio CLI

⭐ 5.2k+ GitHub Stars

LM Studio 本地大模型桌面应用 CLI 工具

ExLlamaV2 高效推理

⭐ 4.6k+ GitHub Stars

量化 LLM 的高效推理库

GPT 代码解释器界面

⭐ 3.5k+ GitHub Stars

ChatGPT 代码解释器功能的开源实现

GPTScript LLM 脚本

⭐ 3.3k+ GitHub Stars

像编程一样使用 LLM 的脚本语言

FreedomGPT 本地无审查

⭐ 2.7k+ GitHub Stars

本地运行无审查 LLM 的桌面应用

Whisper Web 界面

⭐ 2k+ GitHub Stars

基于 Gradio 的 Whisper 语音转写 Web 界面

InstructLab 模型微调

⭐ 1.4k+ GitHub Stars

Red Hat 社区驱动的 LLM 对齐与微调工具

📚 技能与框架

MarkItDown 文档转换

⭐ 175k+ GitHub Stars

微软出品的文件转 Markdown 工具

Transformers 模型库

⭐ 164k+ GitHub Stars

NLP/视觉/音频领域最先进的机器学习模型库

LangChain 链式框架

⭐ 144k+ GitHub Stars

构建 LLM 应用的链式框架

vLLM 高吞吐推理

⭐ 90k+ GitHub Stars

基于 PagedAttention 的高吞吐 LLM 推理服务

Unsloth 极速微调

⭐ 75k+ GitHub Stars

速度提升 2-5 倍、显存减少 70% 的 LLM 微调工具

LLaMA-Factory 微调框架

⭐ 74k+ GitHub Stars

支持 100+ LLM 的统一微调框架,含 Web 界面

Docling 文档理解

⭐ 65k+ GitHub Stars

IBM 开源的文档解析与理解库

Mem0 AI 记忆层

⭐ 64k+ GitHub Stars

AI 智能体记忆管理框架

LiteLLM 统一调用库

⭐ 57k+ GitHub Stars

统一调用 100+ 大模型的轻量库

Segment Anything 分割模型

⭐ 55k+ GitHub Stars

Meta 可提示的图像分割基础模型

LlamaIndex 数据框架

⭐ 52k+ GitHub Stars

LLM 应用的数据索引框架

Milvus 向量数据库

⭐ 46k+ GitHub Stars

面向亿级向量的开源向量数据库

Ray 分布式 AI

⭐ 44k+ GitHub Stars

扩展 AI 和 Python 应用的统一分布式框架

Gradio AI 界面框架

⭐ 43k+ GitHub Stars

用 Python 快速构建机器学习模型 Web 演示

DeepSpeed 分布式训练

⭐ 43k+ GitHub Stars

微软深度学习大规模训练优化库

Faiss 向量相似搜索

⭐ 41k+ GitHub Stars

Meta 高效相似度搜索和向量聚类库

LightRAG 轻量图 RAG

⭐ 39k+ GitHub Stars

支持知识图谱的简单快速 RAG 系统

DSPy 提示优化框架

⭐ 38k+ GitHub Stars

编程式 LLM 提示优化框架

GraphRAG 知识图谱 RAG

⭐ 36k+ GitHub Stars

微软基于知识图谱的复杂文本推理 RAG 框架

Diffusers 扩散模型 SDK

⭐ 34k+ GitHub Stars

HuggingFace 扩散模型开发库

CLIP 图文嵌入模型

⭐ 34k+ GitHub Stars

OpenAI 对比学习图文预训练模型

Qdrant 向量搜索引擎

⭐ 34k+ GitHub Stars

高性能向量相似度搜索引擎

spaCy 工业级 NLP

⭐ 34k+ GitHub Stars

工业级自然语言处理 Python 库

LangFuse LLM 可观测

⭐ 34k+ GitHub Stars

开源 LLM 工程可观测性平台

SGLang 结构化生成

⭐ 32k+ GitHub Stars

大语言和视觉模型的高速推理服务框架

OpenAI Python SDK

⭐ 31k+ GitHub Stars

OpenAI 官方 Python 客户端库

PyTorch Lightning 训练框架

⭐ 31k+ GitHub Stars

快速训练、部署和发布 AI 产品的深度学习框架

Composio 工具集成

⭐ 30k+ GitHub Stars

为 AI 智能体提供 250+ 工具集成的平台

Composio 工具调用 SDK

⭐ 30k+ GitHub Stars

为 AI 智能体集成 250+ 工具的 SDK

Chroma 向量数据库

⭐ 29k+ GitHub Stars

AI 原生开源向量数据库

Semantic Kernel 微软框架

⭐ 28k+ GitHub Stars

微软 LLM 应用集成 SDK

MLX 机器学习框架

⭐ 28k+ GitHub Stars

Apple 专为 Apple Silicon 打造的机器学习数组框架

Label Studio 数据标注

⭐ 28k+ GitHub Stars

支持多类型数据的机器学习训练数据标注工具

MLflow 机器学习生命周期

⭐ 28k+ GitHub Stars

机器学习全生命周期管理平台

Haystack NLP 框架

⭐ 26k+ GitHub Stars

端到端 NLP 搜索与问答框架

Promptfoo 提示词测试

⭐ 25k+ GitHub Stars

测试和评估 LLM 输出及提示词质量

PandasAI 对话数据分析

⭐ 24k+ GitHub Stars

用自然语言与数据对话的 AI 数据分析库

pgvector PostgreSQL 向量

⭐ 23k+ GitHub Stars

PostgreSQL 开源向量相似度搜索扩展

HuggingFace Datasets

⭐ 22k+ GitHub Stars

轻松加载和共享机器学习数据集的库

Guidance 提示控制框架

⭐ 22k+ GitHub Stars

语言模型高效提示控制框架

ONNX Runtime 推理引擎

⭐ 22k+ GitHub Stars

微软跨平台机器学习推理加速器

PEFT 参数高效微调

⭐ 22k+ GitHub Stars

含 LoRA 的参数高效微调方法库

Pydantic AI 类型安全框架

⭐ 19k+ GitHub Stars

基于 Pydantic 构建的类型安全 AI 智能体框架

TRL 强化学习微调

⭐ 19k+ GitHub Stars

RLHF/PPO/DPO 训练大语言模型的库

tiktoken 高速分词

⭐ 19k+ GitHub Stars

OpenAI 模型使用的高速 BPE 分词器

Sentence Transformers 句子嵌入

⭐ 19k+ GitHub Stars

多语言句子和段落嵌入向量框架

DeepEval LLM 单元测试

⭐ 18k+ GitHub Stars

LLM 输出和 RAG 管线的单元测试框架

Weaviate 向量数据库

⭐ 17k+ GitHub Stars

支持混合语义搜索的开源向量数据库

Gensim 主题建模

⭐ 16k+ GitHub Stars

主题建模和文档相似度计算库

DVC 数据版本控制

⭐ 16k+ GitHub Stars

机器学习实验和数据版本控制系统

Outlines 约束生成框架

⭐ 16k+ GitHub Stars

约束 LLM 结构化文本生成框架

Ragas RAG 评估

⭐ 15k+ GitHub Stars

RAG 管线的评估框架

Unstructured 非结构化解析

⭐ 15k+ GitHub Stars

PDF/Office 等非结构化文档的预处理库

GGML 机器学习张量库

⭐ 15k+ GitHub Stars

面向边缘设备的机器学习张量库

LLMWare 企业 RAG

⭐ 15k+ GitHub Stars

面向企业 LLM 应用的结构化 RAG 框架

NLTK 自然语言工具包

⭐ 15k+ GitHub Stars

经典 Python 自然语言处理工具包

Annoy 近似最近邻

⭐ 14k+ GitHub Stars

Spotify 开源的近似最近邻搜索库

OpenCLIP 开源图文模型

⭐ 14k+ GitHub Stars

CLIP 图文模型的开源实现

Instructor 结构化输出

⭐ 14k+ GitHub Stars

基于 Pydantic 的 LLM 结构化输出

LM 评估框架

⭐ 14k+ GitHub Stars

NLP 任务上评估语言模型的标准框架

LitGPT LLM 训练库

⭐ 14k+ GitHub Stars

在自有硬件上预训练/微调/部署 20+ LLM

E2B 代码执行沙盒

⭐ 14k+ GitHub Stars

AI 代码执行的安全沙盒环境

txtai AI 搜索平台

⭐ 13k+ GitHub Stars

开源一体化向量嵌入数据库

OpenLLM 模型服务

⭐ 13k+ GitHub Stars

用 BentoML 在生产环境运行 LLM

Chainlit 对话界面

⭐ 12k+ GitHub Stars

快速构建生产就绪的对话式 AI 应用

Axolotl 微调工具

⭐ 12k+ GitHub Stars

简化 AI 模型微调流程的工具

FlagEmbedding 向量嵌入

⭐ 12k+ GitHub Stars

包含 BGE 系列的检索与嵌入模型

Cleanlab 数据质量

⭐ 12k+ GitHub Stars

发现和修复数据集问题的以数据为中心的 AI 库

LanceDB 嵌入向量 DB

⭐ 11k+ GitHub Stars

面向 AI 应用的无服务器向量数据库

Prompt Flow 工作流

⭐ 11k+ GitHub Stars

构建和评估 LLM 工作流的工具

Phoenix AI 可观测

⭐ 11k+ GitHub Stars

LLM 追踪与评估的 AI 可观测平台

Tokenizers 分词器

⭐ 11k+ GitHub Stars

极速现代 NLP 分词器

TGI 文本生成推理

⭐ 11k+ GitHub Stars

HuggingFace 生产级 LLM 推理服务工具

llama-cpp-python 绑定

⭐ 11k+ GitHub Stars

llama.cpp 的 Python 绑定,支持 OpenAI 兼容 API

Grounding DINO 开放集检测

⭐ 11k+ GitHub Stars

基于语言描述的开放集目标检测模型

Accelerate 分布式训练

⭐ 9.8k+ GitHub Stars

仅需少量代码变更即可进行大规模 PyTorch 训练

BentoML 模型服务

⭐ 8.8k+ GitHub Stars

构建、打包和运行 AI 应用的框架

BitsAndBytes 量化库

⭐ 8.4k+ GitHub Stars

降低 LLM 显存占用的 8/4 位量化库

LMDeploy 模型部署

⭐ 8.0k+ GitHub Stars

高效的 LLM 压缩、部署与服务工具包

Deep Lake 向量数据湖

⭐ 8k+ GitHub Stars

支持多模态向量存储的 AI 数据数据库

Evidently 模型监控

⭐ 7.8k+ GitHub Stars

机器学习与 LLM 监控和评估平台

Guardrails AI 输出验证

⭐ 7.3k+ GitHub Stars

为 LLM 输出添加验证和纠正护栏

Vespa 大数据服务引擎

⭐ 7.1k+ GitHub Stars

Yahoo 开源的 AI 搜索与推荐引擎

NeMo Guardrails NVIDIA 护栏

⭐ 7.0k+ GitHub Stars

NVIDIA 为 LLM 添加可编程护栏的工具包

Marvin AI 函数库

⭐ 6.2k+ GitHub Stars

构建自然语言接口的 AI 工具库

TorchTune PyTorch 微调

⭐ 5.8k+ GitHub Stars

PyTorch 原生 LLM 微调库

AutoGPTQ 模型量化

⭐ 5.1k+ GitHub Stars

简便的 GPTQ 模型量化部署工具

文本嵌入推理服务

⭐ 5.0k+ GitHub Stars

极速文本嵌入向量推理服务

Marqo 张量搜索

⭐ 5.0k+ GitHub Stars

理解文本和图像的张量搜索引擎

LMQL LLM 查询语言

⭐ 4.2k+ GitHub Stars

面向大语言模型的查询语言和运行时

RAGatouille ColBERT 检索

⭐ 4.0k+ GitHub Stars

在 RAG 管线中使用 ColBERT 精排模型

Anthropic Python SDK

⭐ 3.8k+ GitHub Stars

Anthropic Claude API 官方 Python 客户端

Semantic Router 语义路由

⭐ 3.8k+ GitHub Stars

LLM 超快速 AI 决策与语义路由层

TruLens LLM 追踪评估

⭐ 3.5k+ GitHub Stars

LLM 应用的评估和追踪框架

Optimum 推理优化

⭐ 3.5k+ GitHub Stars

HuggingFace 推理加速与优化工具

LLM Guard 安全防护

⭐ 3.2k+ GitHub Stars

检测提示注入和 PII 的 LLM 安全工具包

DocArray 多模态数据

⭐ 3.1k+ GitHub Stars

机器学习多模态数据表示的数据类库

PromptTools 提示词测试

⭐ 3.0k+ GitHub Stars

提示词测试和实验的开源工具集

Nitro 嵌入式推理

⭐ 2.8k+ GitHub Stars

面向桌面和边缘设备的嵌入式 AI 推理库

CTransformers Python 绑定

⭐ 1.9k+ GitHub Stars

GGML/GGUF 量化模型的 Python 绑定

AI工具集:300 + 开源 AI 工具按场景分类合集:常见问题

AI工具集是什么?

AI工具集:300 + 开源 AI 工具按场景分类合集。本站的 AI工具集 收录全部为 GitHub 开源项目,代码可见、免费使用,多数支持自行部署。

AI工具集真的免费吗?

是。本页所有工具均为开源项目,使用不收取费用。部分工具提供云托管收费服务,但本地自部署完全免费。

怎么用AI工具集?

直接点击工具卡片进入详情页查看安装教程(Getting Started)。大多提供 Docker 部署,几分钟即可跑起来。

浏览全部 300+ 开源 AI 工具