P0 门面文章 · 帮你从 OpenMetadata / DataHub / Apache Atlas / OpenLineage / Great Expectations / Soda Core 里做技术选型 · 数据更新于 2026-09-21
1. 为什么 2026 年数据治理换了锚点
过去十年数据治理三大痛点:
- 元数据碎片化 — 100 个数据源 = 100 种元数据存储
- 血缘是奢侈品 — 90% 的 ETL 工具没有真实血缘
- 质量靠人喊 — 没有客观、可验证的数据契约
2026 年新锚点:AI Agent 上下文。每个 AI Agent 决策前都要追问:
- 这个数据集是啥?谁能用?新鲜吗?可信吗?
- 谁拥有?谁能改?改了影响谁?
- 历史上发生过什么事故?团队记住了什么经验?
数据治理从 ” 管数据 ” 升级为 管 AI 决策的上下文。这就是为什么 DataHub 把自己从 “Metadata Platform” 改名 “Context Platform for your Data and AI Stack”,OpenMetadata 把自己定位为 “Open Context Layer for Data and AI” —— 两家头部 2026 年同步转向 AI Context Layer。
2. 6 大项目 30 秒定位
| # | 项目 | 1 句话定位 | Stars | Forks | License | 最近 commit |
|---|---|---|---|---|---|---|
| 1 | OpenMetadata | LF · Open Context Layer 龙头 | 15,273 | 2,391 | Apache-2.0 ✅ | 2026-09-21 |
| 2 | DataHub | LinkedIn 出身 · 实时元数据流 | 12,740 | 3,695 | Apache-2.0 ✅ | 2026-09-20 |
| 3 | Great Expectations | 数据质量事实标准(GX Core) | 11,819 | 1,851 | Apache-2.0 ✅ | 2026-09-18 |
| 4 | OpenLineage | LF AI 毕业 · 跨工具血缘标准 | 2,662 | 532 | Apache-2.0 ✅ | 2026-09-20 |
| 5 | Soda Core | 数据契约 YAML 引擎 | 2,427 | 286 | NOASSERTION ⚠️ | 2026-09-20 |
| 6 | Apache Atlas | Hadoop 生态元数据老炮 | 2,141 | 905 | Apache-2.0 ✅ | 2026-09-20 |
总 Stars:47,062 · License 友好度:5/6 Apache-2.0 ✅ · 6 个项目 2026-09 全部活跃
数据校正 :Great Expectations 早期估值仅 6K stars,GitHub API 实测 11,819 ⭐(被 Fivetran 收购后大涨)。OpenMetadata 从 14K 爬至 15,273 ⭐, 稳居池子第一。
3. 12 维度对比矩阵
| 维度 | OpenMetadata | DataHub | Great Expectations | OpenLineage | Soda Core | Apache Atlas |
|---|---|---|---|---|---|---|
| 核心定位 | Context Layer | Context Platform | Quality Framework | Lineage 标准 | Contract 引擎 | Hadoop 元数据 |
| 架构 | 集中元数据图 | 实时流式图(Kafka) | Python 库 | 事件标准 + Marquez | CLI + Python | HBase + Solr |
| 元数据 | ✅ 表格 + 列 + 业务 | ✅ 表格 + 列 + 业务 | ❌ | ❌ | ❌ | ✅ 表格 + 列 |
| 血缘 | ✅ 表 + 列级 + OpenLineage | ✅ 表 + 列级 | ❌ | ✅ 表 + 列级 | ❌ | ✅ 表级 |
| 数据质量 | ✅ Test Suite | ✅ Assertions | ✅ Expectations | ❌ | ✅ Checks | ⚠️ 弱 |
| 数据契约 | ✅ ODCS 兼容 | ⚠️ 弱 | ❌ | ❌ | ✅ YAML 专门 | ❌ |
| 连接器数 | 130+ | 80+ | 30+ SQL | N/A(标准) | 10+ | 10+ Hadoop |
| 部署方式 | Docker Compose | Docker Compose | pip / uv | 库 + Marquez | pip / uv | Maven 重 |
| AI 集成 | ✅ MCP Server | ✅ MCP + Agent | ⚠️ 弱 | ⚠️ 弱 | ⚠️ 弱 | ❌ |
| 治理工作流 | ✅ 审批 + 认证 | ✅ | ❌ | ❌ | ⚠️ 弱 | ⚠️ 弱 |
| 年龄 | 5 年(2021) | 11 年(2015) | 9 年(2017) | 6 年(2020) | 6 年(2020) | 9 年(2017) |
| 社区治理 | LF 候选 | 独立 + LinkedIn | Superconductive / Fivetran | LF AI 毕业 | Soda 公司 | Apache 顶级 |
4. 4 大决策矩阵
矩阵 1:按 ” 想要的能力 ” 选
| 痛点 | 首选 | 备选 |
|---|---|---|
| 元数据 + 血缘 + 质量一并来 | OpenMetadata | DataHub |
| 只想做数据质量 | Great Expectations | Soda Core |
| 跨工具统一血缘 | OpenLineage(标准) | Marquez |
| Hadoop 生态旧仓库 | Apache Atlas | DataHub |
| 数据契约先行 | Soda Core | OpenMetadata |
| AI Agent 上下文 | OpenMetadata | DataHub |
矩阵 2:按 ” 团队规模 ” 选
| 团队 | 推荐 |
|---|---|
| 1-3 人 | Great Expectations(pip 即可) |
| 3-10 人 | OpenMetadata |
| 10+ 人 + Hadoop | Apache Atlas |
| 跨团队需统一血缘 | OpenLineage + Marquez |
矩阵 3:按 ”License 风险 ” 选
| 风险偏好 | 推荐 |
|---|---|
| 零风险 | 5/6 全部 Apache-2.0 ✅ — OpenMetadata / DataHub / GE / OpenLineage / Atlas |
| 可接受 NOASSERTION | Soda Core ⚠️(商用前查 README) |
矩阵 4:按 ”AI 时代投资 ” 选
| 投资方向 | 推荐 |
|---|---|
| AI Agent 上下文平台 | OpenMetadata 15.3K ⭐ 抢跑 |
| 老牌稳定 + 重新定位 | DataHub 12.7K ⭐ 转型成功 |
| 数据质量领域 | Great Expectations 11.8K ⭐ |
| 跨工具血缘标准 | OpenLineage 2.6K(事实标准) |
| 数据契约细分 | Soda Core 2.4K |
5. 关键趋势判断
趋势 1:Context Layer 是新锚点
2026 年最大变化:DataHub 改名 “Context Platform for your Data and AI Stack”,OpenMetadata 改名 “Open Context Layer for Data and AI”。两者都把 AI Agent 上下文作为核心定位。数据治理下半场是 AI-Native 的。
趋势 2:Great Expectations 被 Fivetran 收购
2024 年 Great Expectations 被 Fivetran 收购,仓库已迁移到 fivetran/great_expectations。商业化压力上升,但 Apache-2.0 协议不变。Python 3.10-3.13 已成数据中心,开源版本号即将来到 1.0。
趋势 3:OpenLineage 是事实标准
OpenLineage 不是工具,是 跨工具血缘标准。Marquez 是参考实现。Spark / Airflow / dbt / Flink 全部原生集成。任何数据治理平台都要支持 OpenLineage 事件 —— 这是入场券,不是差异点。
趋势 4:数据契约(Data Contracts)成新热点
Soda Core v4(2026-06 发布)100% 重写为 YAML 契约引擎。OpenMetadata 通过 ODCS 集成。Soda 是这个细分赛道唯一专注的,但 License 不友好(NOASSERTION)。
趋势 5:Apache Atlas 老化
Apache Atlas 2,141 ⭐ · 905 forks · 9 年历史 · 2026-09-20 最新 commit。仍然可用但增长缓慢。新项目优先考虑 OpenMetadata / DataHub。
6. 推荐组合
入门组合(1-3 人 / 0 元):
–
Great Expectations 跑数据质量
–
OpenLineage + Marquez 跑血缘
– 全部 Apache-2.0 ✅
中型团队(3-10 人):
–
OpenMetadata 一站式(catalog + 血缘 + 质量 + 契约 + MCP)
– DataHub 备选
– 内部集成 OpenLineage 事件
大型 Hadoop 团队(10+ 人):
–
Apache Atlas 处理 Hadoop 生态
–
OpenMetadata 或 DataHub 处理云端
– 双平台通过 OpenLineage 联通
AI Agent 一线(重点投入方向):
–
OpenMetadata 主 + DataHub 备
– 两个都支持 MCP Server,可以直接喂 AI Agent
7. License 风险清单
| 项目 | License | 商用风险 | 备注 |
|---|---|---|---|
| OpenMetadata | Apache-2.0 | ✅ 无风险 | LF 治理 |
| DataHub | Apache-2.0 | ✅ 无风险 | LinkedIn 出身 |
| Great Expectations | Apache-2.0 | ✅ 无风险 | Fivetran 收购但协议不变 |
| OpenLineage | Apache-2.0 | ✅ 无风险 | LF AI 毕业 |
| Apache Atlas | Apache-2.0 | ✅ 无风险 | Apache 顶级 |
| Soda Core | NOASSERTION | ⚠️ 商用前必查 | 多个包部分可能 ELv2 |
选型观察 :6 个项目里 5 个 Apache-2.0, 是商单交付 / 技术咨询最友好的开源治理赛道之一。只有 Soda Core 需要额外查证。
8. 实战 3 步上手
Step 1: 选型决策
- 小团队 → Great Expectations
- 中型 → OpenMetadata
- 大型 Hadoop → Apache Atlas
- AI Agent 上下文 → OpenMetadata
Step 2: 部署
# Great Expectations
pip install great_expectations
# OpenMetadata
docker compose up -d
# Apache Atlas
helm install atlas apache-atlas/apache-atlas
Step 3: 接 OpenLineage
- 任何选型都 + OpenLineage 事件
- 血缘就有了 ” 跨工具通用语言 ”
9. 总结
2026 年数据治理横评 6 大结论:
- OpenMetadata 15,273 ⭐ 是池子最高,DataHub 12,740 ⭐ 紧随其后,两者都在做 AI Context Layer 转型
- Great Expectations 11,819 ⭐ 数据质量事实标准,被 Fivetran 收购但 Apache-2.0 不变
- OpenLineage 是跨工具血缘标准,任何平台都要接 Spark / Airflow / dbt / Flink 全部原生集成
- Soda Core 2,427 ⭐ 数据契约细分赛道,NOASSERTION ⚠️ 商用前查
- Apache Atlas 2,141 ⭐ Hadoop 生态老炮,新项目优先考虑替代
- 总 Stars 47,062 · License 5/6 Apache-2.0 · 商用友好
下一步建议:如果你正在做 AI 时代的 BI/ 数据平台,OpenMetadata + OpenLineage 是当下最稳的组合。OpenMetadata 15.3K ⭐ 抢跑 + OpenLineage 是事实标准 = 长期投资价值最高。
📎 参考
- GitHub: datahub-project/datahub · open-metadata/OpenMetadata · great-expectations/great_expectations · OpenLineage/OpenLineage · sodadata/soda-core · apache/atlas
- 官网: datahub.com · open-metadata.org · greatexpectations.io · openlineage.io · soda.io · atlas.apache.org
- 本系列:《2026 数据治理横评》(门面) → 《OpenMetadata 实战》 → 《OpenLineage 调研》 → 《Marquez 调研》 → 《OpenLineage + Marquez 实战》 → 《Apache Atlas 调研》
- 已发布相关: 《DataHub 调研》 · 《Great Expectations 调研》 · 《Soda Core 调研》
本文数据基准 2026-09-21(GitHub API 实时抓取)· 作者:yunying(增长运营官)