
DataStax 出品的一站式 RAG 应用——上传文档就能跟它聊天,基于 Langflow + Docling + OpenSearch 三件套,预包装、SDK 全、3 步开跑。
写在前面
你搭 RAG:要选 LLM、选 embedding、选向量库、写 LangChain 代码、调 retriever、接前端 Chat UI、改 reranker。每个环节都得自己拼。
OpenRAG 的解法:直接给你一个完整跑通的 RAG 应用——上传文档 → 自动解析 → 自动索引 → 立即开聊。4.3K 颗 GitHub 星、Apache-2.0 协议、v0.5.1 已迭代 5 个 minor 版本,原生 MCP server 给 Claude Code / Cursor 接入。LangFlow 是工具链(让你搭 flow),OpenRAG 是成品应用(直接用)。
截至 2026 年 7 月,最新 commit 1 天前、release v0.5.1 是 11 天前、创建于 2025-07-11(恰好一周年)。
一、它解决什么问题
| 维度 | 信息 |
|---|---|
| 项目 | OpenRAG |
| 母公司 | DataStax(LangFlow 同母公司) |
| 仓库 | github.com/langflow-ai/openrag |
| 协议 | Apache-2.0(商用免费) |
| Stars | 4,295 / 443 forks / 25 watchers |
| 语言 | Python(FastAPI 后端)+ Next.js 前端 |
| 最新版 | v0.5.1(2026-06-30 release) |
| 仓库大小 | 95.86 MB |
| 创建 | 2025-07-11(恰好 1 周年) |
| 状态 | 极活跃(1 天前 commit) |
核心问题:RAG 是个 ” 全链路活 ”——文档解析 + 分块 + embedding + 索引 + retriever + reranker + LLM + 前端 UI。LangFlow 是中间层让你搭,但搭完还要自己写前端、写 API、部署。OpenRAG 直接是成品——装完就有完整 Web 应用。
二、七大核心能力
| # | 能力 | 说明 |
|---|---|---|
| 1 | Pre-packaged & ready to run | 一键安装开箱即用,所有组件已 hook 好 |
| 2 | Agentic RAG workflows | 高级编排 + re-ranking + 多 Agent 协作 |
| 3 | Document ingestion | Docling 智能解析,处理现实世界复杂文档 |
| 4 | Drag-and-drop workflow builder | LangFlow 拖拽式后端 workflow,可视化迭代 |
| 5 | Modular enterprise add-ons | 模块化扩展企业功能 |
| 6 | Enterprise search at any scale | OpenSearch 后端,生产级性能 |
| 7 | Official SDKs + MCP server | Python + TypeScript 双 SDK + 内置 MCP |
关键差异 :相比 LangFlow(工具链),OpenRAG 是 完成的应用。相比 Anything-LLM / RAGFlow(同样定位成品),OpenRAG 把 LangFlow 的可视化编排集成进了产品内部——既能开箱即用,又能下钻改流程。
三、五大差异化能力
1. Docling 智能文档解析
README 明确写:”Document ingestion – Handles messy, real-world data with intelligent parsing”。
Docling 是 IBM 出品的开源文档解析库,支持:
| 类型 | 解析能力 |
|---|---|
| 保留表格、公式、图片位置、阅读顺序 | |
| Office | Word / PowerPoint / Excel 完整解析 |
| HTML | 清理标签、保留语义结构 |
| 图片 | OCR + 图文关联 |
| Markdown | 完美保留 |
对比 Anything-LLM(基础文本提取)/ RAGFlow(自研深度文档解析):OpenRAG 用 Docling = 站在 IBM 巨人肩膀上,解析质量比 Anything-LLM 好很多,但比 RAGFlow 略弱(RAGFlow 的 OCR + 表格识别是自研的,有针对中文场景优化)。
2. OpenSearch 后端(生产级检索)
README:”Enterprise search at any scale – Powered by OpenSearch for production-grade performance”。
OpenSearch 是 Elasticsearch 的开源分叉(AWS 主导),生产级特性:
- 全文 + 向量混合检索(BM25 + kNN)
- 分布式架构(横向扩展到 PB 级)
- Aggregations(聚合分析)
- Security(RBAC + 审计 + 加密)
对比 Chroma / FAISS(小规模)/ Pinecone / Weaviate(向量为主):OpenRAG 用 OpenSearch = 既能全文又能向量,规模化能力是开源方案天花板。
3. Agentic RAG + Re-ranking
不是简单 ” 找 top-k → 喂 LLM”,而是 多 Agent 协作 + 二次重排:
[User Query]
↓
[Query Analyzer Agent] ← 分析意图、改写 query
↓
[Retriever Agent] ← OpenSearch 向量 + 全文混合检索
↓
[Reranker Agent] ← 重排序,剔除低相关 chunk
↓
[Synthesis Agent] ← 多 chunk 融合 + prompt 工程
↓
[Answer] ← 带引用来源
这个 pipeline 是 LangFlow 编排出来的,可以在 web UI 里可视化调试。
4. 双 SDK + MCP Server(2026 年杀手锏)
OpenRAG 提供了 完整的开发者接入层:
# Python SDK
from openrag_sdk import OpenRAGClient
async with OpenRAGClient() as client:
response = await client.chat.create(message="What is RAG?")
print(response.response)
// TypeScript SDK
import {OpenRAGClient} from "openrag-sdk";
const client = new OpenRAGClient();
const response = await client.chat.create({message: "What is RAG?"});
console.log(response.response);
MCP Server 配置(Claude Desktop / Cursor):
{
"mcpServers": {
"openrag": {
"url": "http://localhost:3000/mcp",
"headers": {"X-API-Key": "orag_your_api_key_here"}
}
}
}
Claude Code / Cursor 接进去后,整个 OpenRAG 知识库变成 Agent 可调用的工具。这是 2026 年 AI 工具链的核心模式——不只是 ” 产品能用 ”,而是 ” 产品能成为 Agent 的一部分 ”。
5. Langflow 集成(可视化 + 定制双驱动)
OpenRAG 的 workflow 是用 LangFlow 编排的,意味着:
- 不懂代码 也能在 web UI 里拖拽改 RAG 流程
- 懂代码 能下钻 LangFlow 节点改 Python 自定义组件
- 改完 立即生效(不用重启整个应用)
这是 OpenRAG 跟 Anything-LLM / RAGFlow 的关键差异——后两者的工作流是写死的,改不了。
四、对比 RAG 五件套
| 维度 | OpenRAG | RAGFlow | Anything-LLM | MaxKB | FastGPT |
|---|---|---|---|---|---|
| Stars | 4.3K | 65K+ | 30K+ | 16K+ | 25K+ |
| 协议 | Apache-2.0 | Apache-2.0 | MIT | GPL-3.0 | GPL-3.0 |
| 核心定位 | 一站式成品 + 可定制 | 深度文档解析 | 极简桌面 + Docker | 企业级智能体 | 知识库自动化 |
| 文档解析 | ⭐⭐⭐⭐ Docling | ⭐⭐⭐⭐⭐ 自研(OCR + 中文强) | ⭐⭐⭐ 基础 | ⭐⭐⭐⭐ | ⭐⭐⭐ |
| 向量后端 | OpenSearch | Infinity | 多选 | PGVector | PGVector |
| 工作流可改 | ✅ LangFlow 拖拽 | ❌ 自研 pipeline | ❌ 配置项 | ⚠️ 部分 | ✅ Flow 编排 |
| SDK | ✅ Py + TS 双 SDK | ⚠️ Python 为主 | ⚠️ REST only | ⚠️ Python | ⚠️ Python |
| MCP Server | ✅ 一等公民 | ⚠️ 自配 | ❌ 无 | ❌ 无 | ❌ 无 |
| 母公司 | DataStax | infiniflow(国内) | Mintplex | 1Panel(国内) | Labring(国内) |
结论:
- 选 OpenRAG:你既要 开箱即用 ,又要 可定制(LangFlow 拖拽改流程),要给 Claude Code / Cursor 接入(MCP 原生)
- 选 RAGFlow:你处理 大量复杂中文文档(发票、合同、扫描件),要 OCR + 深度文档解析
- 选 Anything-LLM:你只要 最快速度跑通一个 RAG,不关心定制
- 选 MaxKB:你做 企业内知识库 + 智能问答 集成到飞书 / 钉钉 / 企微
- 选 FastGPT:你做 知识库自动化 + Workflow编排(不太需要 Agent)
五、实战:3 步跑通
1. 安装 + 启动
# 方式 1:uv(推荐)uv run openrag
# 方式 2:pip
pip install openrag
openrag
服务启动后默认监听 http://localhost:3000。
2. 添加知识
打开浏览器 → 进入 Knowledge 页面 → 拖入文件或文件夹:
– 支持 PDF / Word / Excel / PPT / Markdown / HTML / 图片
– 自动 Docling 解析 → chunk → embedding → OpenSearch 索引
3. 开聊
回到 Chat 页面 → 输入问题 → 看到带引用来源的答案。
进阶:接 MCP 客户端
{
"mcpServers": {
"openrag": {
"url": "http://localhost:3000/mcp",
"headers": {"X-API-Key": "orag_xxx"}
}
}
}
Claude Code 启动后,你的 OpenRAG 知识库就变成 Agent 可调用的工具。
六、风险与坑
1. 项目才 1 年(2025-07 创建)
虽然母公司 DataStax 是大厂,LangFlow 团队背书,但 OpenRAG 本体才 1 年,还在 v0.x(v0.5.1)。生产部署要警惕:
– API 可能在 v1.0 前有 breaking change
– 部分企业功能(审计 / RBAC)还不完善
– 文档相对 LangFlow 偏薄
建议:先 PoC 验证 → 1-2 个月稳定性观察 → 再上生产。
2. OpenSearch 资源占用不小
OpenSearch 是 Java 写的,单实例默认 1-2GB 内存。OpenRAG 自带 OpenSearch 容器,但 部署到小机器上要调 JVM 参数:
# docker-compose 调小内存
OPENSEARCH_JAVA_OPTS=-Xms512m -Xmx512m
小机器(Raspberry Pi 4 / 4GB 内存)跑 OpenRAG 会吃力。生产建议至少 8GB 内存起步。
3. Docling 解析慢
Docling 是 IBM 出品,质量好但 速度不是最快的。1000 页 PDF 解析可能要 5-10 分钟(取决于机器性能)。如果是批量化文档处理,要考虑:
– 异步任务队列
– 进度可视化(OpenRAG 已经做了,但 UI 体验可以更好)
– 文档数量上万的话建议先做采样验证
4. SDK 还偏薄
PyPI 的 openrag-sdk 跟 npm 的 openrag-sdk 都在 0.x 版本,覆盖 API 不全(chat 是 OK 的,但 management API 还在补)。如果要做复杂集成,得自己看 OpenRAG REST API 文档。
5. 跟 LangFlow 的角色边界模糊
OpenRAG = LangFlow + Docling + OpenSearch + Next.js 打包。如果你要深度定制,反而 直接用 LangFlow 更灵活(不带 UI 框架约束)。OpenRAG 的定位是 ” 成品应用 ”,不是 ” 开发框架 ”。
七、总结
3 个最值得用的理由:
- 开箱即用 + 可定制双驱动 —— 不像 Anything-LLM 是黑盒,不像 RAGFlow 工作流写死,OpenRAG 用 LangFlow 编排流程 = 既能 web UI 拖拽改,又能下钻改 Python
- MCP Server + 双 SDK —— 2026 年 AI 工具链标配,OpenRAG 是当前少数 完整支持 的开源 RAG 平台
- DataStax + Docling + OpenSearch —— 三个企业级组件(DataStax 维护 / IBM 出品 / AWS 主导)打底,生产级稳定性保障
一句话建议 :如果你要快速给团队搭一个 企业内部知识库 + 智能问答 + Claude Code 接入,OpenRAG 是当下最优解——比 RAGFlow 灵活,比 Anything-LLM 能定制,比 MaxKB 更现代,比 FastGPT 更原生支持 MCP。