参考数据与主数据项目手册
1. 业务驱动与目标
参考数据与主数据管理应:
- 为客户、产品、供应商、位置、员工、账户等共享实体建立稳定身份和可解释的最佳当前表示;
- 为国家、状态、单位、分类、层级等共享代码建立受控语义、版本和生效期;
- 让业务流程与分析消费者知道使用哪个标识、属性、代码或层级,以及来源和限制;
- 降低重复实体、冲突值、无效代码、人工对账、错误交易和监管/客户风险;
- 在来源变化、合并、拆分、代码更新和消费者发布中保留审计、回滚与责任。
先写清业务结果,再选择平台。项目目标至少包含:业务域、实体/数据集、法人/地域、用途、消费者、影响流程、基线、目标、期限、风险容忍度与明确不纳入范围。不要用“建立唯一真相”替代可验收结果。
成功标准示例:已确认重复率下降、误合并率低于阈值、共享代码合规率、管家队列 SLA、发布/消费对账通过率、源系统采用率、关键属性冲突率、拆分恢复时间。每个指标明确对象、分母、窗口、来源、owner、目标和升级条件。
2. 原则与关键概念
- 企业资产、业务问责: 主数据和参考数据归组织治理,不归某个应用或实施供应商。业务 owner 批准定义、权威、规则和风险。
- 最佳当前表示: 黄金记录反映现有证据与获批规则;保存所有贡献源值、时间、规则版本和裁决,不抹去不确定性。
- 身份与属性分离: “是否同一实体”和“哪个属性值胜出”是两个决定;匹配成功不自动证明每个属性可信。
- 谨慎且可逆: 误合并通常比漏合并伤害更大。自动阈值须经测试;合并保留源 ID、边、前像、批准和拆分路径。
- 权威具有上下文: system of record 保存正式事实,system of entry 接收变更,system of reference 提供共享视图;可按属性、时点、法人和用途不同。
- 语义先于技术: 实体边界、键、层级、代码含义、有效期和替换关系先经业务裁决,再配置工具。
- 参考数据不是静态附件: 每个数据集都有 owner、来源、版本、生效/失效、映射、变更和消费者;外部标准也需本地采用决策。
- 仅从获批权威发布: 复制和共享必须来自已声明的权威来源或参考视图,消费者不得把本地修改静默回流为企业事实。
关键对象:
| 对象 | 最小治理内容 |
|---|---|
| 主实体 | 业务定义、范围、全局 ID、源 ID、属性、关系、层级、状态、有效期、来源与敏感级别 |
| 参考数据集 | 稳定代码、名称/描述、语言、定义、层级、owner、版本、生效/失效、替换、来源和映射 |
| 交叉引用 | 全局 ID ↔︎ 源系统/源 ID、关系状态、置信度、首次/最近确认、规则/裁决版本 |
| 匹配案件 | 候选、特征、正/负证据、分数、阈值区、决定、审核人、时间、理由和后续动作 |
| 合并谱系 | 父/子 ID、前后值、来源、获胜规则、批准、消费者影响、撤销/拆分状态 |
3. Plan / Control / Develop / Operate
Plan
- 建立域章程:业务价值、对象、范围、消费者、质量与风险目标、赞助人、owner、管家和阶段门。
- 盘点源与消费者:源 ID/键、写入者、字段语义、代码/层级、规模/变更率、接口、质量、下游依赖和法定限制。
- 剖析真实数据:唯一性、完整性、格式、分布、重复候选、冲突、孤儿关系、代码使用、时间覆盖和历史可追溯性。
- 定义目标能力与路线:先选择高价值实体/属性/消费者薄切片,再决定 registry、consolidation、coexistence 或 transaction hub。
Control
- 批准实体/参考模型、全局 ID、权威矩阵、匹配/生存规则、层级、代码和发布契约。
- 对规则、阈值、模型、参考版本、层级和权威变化执行影响分析、职责分离、版本与审计。
- 运行管家队列和争议升级;工具只能建议,业务 owner 对高影响身份和语义争议作最终裁决。
- 在阶段门验证隐私、安全、质量、误合并风险、回滚、消费者兼容和运行接管。
Develop
- 建立规范化、候选生成、匹配评分、裁决区、交叉引用、黄金记录、合并/拆分和完整谱系。
- 为每个关键属性定义生存规则:权威源、条件、时效、有效性、空值、人工覆盖、冲突和回退,不用一个全局源优先级覆盖所有属性。
- 使用已标注数据集测试确定匹配、非匹配、边界、家庭/集团/别名、标识复用、历史变化和负证据;按群体/来源切片评估。
- 构建参考数据提议、批准、生效、发布、映射、弃用和紧急变更;历史交易引用的旧代码保持可解释。
- 配置版本化发布、消费者登记、回执、拒绝/隔离、重送和业务对账;不得直接把未决候选发布成权威事实。
Operate
- 监控新增/变更、重复候选、误合并/拆分、冲突、代码违规、队列年龄、发布差异、消费者版本和源采用。
- 管家按 SLA 处理常规案件;高价值/高风险/跨域争议、阈值例外和批量动作升级给 owner。
- 定期回测匹配精确率/召回率与分群差异;数据或业务漂移触发阈值复审,而非自动放宽。
- 向来源反馈根因并启用源头校验;向消费者通知更正、拆分、代码替换、版本和重算影响。
- 演练错误批量合并回滚、单实体拆分、参考版本回退、发布中断恢复和消费者重新对账。
4. 上下文与角色
| 角色 | 责任与决策权 |
|---|---|
| 业务赞助人 | 批准业务案例、资金、跨部门范围、阶段门与重大残余风险 |
| 数据域 owner | 批准实体边界、权威、黄金/生存、自动化阈值、层级、例外和最终争议 |
| 参考数据 owner | 批准代码含义、版本、生效/失效、替换、外部标准采用和紧急变更 |
| 数据管家 | 调查候选与冲突、收集证据、执行获授权裁决、维护队列和质量反馈 |
| 源系统 owner | 说明源语义/控制、实施源头修复、提供变更和确认写回/回滚 |
| 消费者 owner | 登记用途/版本、验证发布和更正、处理本地映射并确认对账 |
| 数据架构/建模 | 审查实体、键、关系、层级、系统责任和企业复用 |
| MDM/RDM 工程与运行 | 实现规则、谱系、工作流、发布、监控、恢复;不得自行裁决业务身份 |
| 质量、元数据、集成团队 | 分别提供规则/根因、目录/血缘、分发/重放等协同能力 |
| 安全/隐私/法务/合规 | 按职责批准用途、访问、敏感属性、留存、跨境、解释与证据要求 |
职责分离:提出批量合并或代码变更的人不能独自批准并生产执行;高风险动作至少有业务批准和技术执行复核。平台管理员不能因技术可行性取得业务裁决权。
5. 交付物与验收证据
域章程与来源—消费者—权威矩阵
| 实体/属性/代码 | 业务定义/粒度 | 来源/入口 | 当前权威 | 目标 SoR/SoRef | 消费者/用途 | 更新时限 | 限制/Owner |
|---|
权威不是只写系统名。对每个关键属性说明适用法人/地域/时间、判定条件、有效性检查、冲突处理、人工覆盖和回退。
黄金记录与生存规则
- 实体/业务边界/全局 ID 规则:
- 源 ID 与交叉引用状态:
- 身份判定所需正证据、负证据、禁止自动合并条件:
- 每个关键属性:权威源、优先条件、时效、有效性、空值、冲突和回退:
- 人工覆盖:授权人、理由、证据、有效期、复审:
- 来源值/时间/规则版本/置信度保留:
- 下游展示、通知、更正和历史解释:匹配、合并与拆分测试
| 用例 | A/B 记录及来源 | 预期 | 正证据 | 负证据/禁止项 | 规则/阈值区 | 实际 | 复核/缺陷 |
|---|---|---|---|---|---|---|---|
| 明确同一实体 | 稳定标识一致、名称/地址轻微变化 | 匹配 | |||||
| 同名不同实体 | 名称相同、税号/生日/地址冲突 | 不匹配 | |||||
| 家庭/集团关系 | 共享地址或电话但业务实体不同 | 关系而非合并 | |||||
| 标识复用/错误 | 源标识被重复或重新分配 | 隔离调查 | |||||
| 历史名称/地址 | 时间变化且证据连续 | 匹配并保留历史 | |||||
| 边界置信度 | 证据不足或冲突 | 人工裁决 | |||||
| 合并后发现错误 | 已发布且有下游使用 | 拆分、通知、重对账 |
测试集保存标注人、依据、时间和抽样方法。分别报告自动匹配精确率、召回率、误合并率、漏合并率和人工区比例;按来源、地区、语言、实体类型等切片,防止总体平均掩盖偏差。未经 owner 批准,不因追求召回率而突破误合并上限。
合并执行单至少包含:案件 ID、源与目标全局/本地 ID、前像、匹配特征、规则版本、决定/批准、属性生存结果、关系/交易处理、消费者清单、发布批次、对账、撤销令牌和保留期限。拆分须重建身份、属性、关系和交叉引用,通知消费者并确认其修正。
数据管家工作流
检测/提议 → 候选与证据 → 自动/人工分区 → 调查 → 决定 → 双重批准(适用时) → 执行 → 发布/通知 → 对账 → 关闭/抽检
队列字段:域/实体、风险/金额/消费者影响、来源、冲突类型、证据、规则版本、建议、SLA、管家、决定、批准人、执行批次、回滚状态、关闭证据。超龄、高影响、重复争议、隐私/安全或政策例外按预定路径升级。
参考数据变更控制
| 字段 | 要求 |
|---|---|
| 数据集/代码/稳定 ID | 代码不得因显示名称改变而重用;稳定 ID 全生命周期唯一 |
| 定义/描述/语言 | 受控定义、同义词和翻译;区分标签变化与语义变化 |
| 层级/关系 | 父子、类型、排序、有效期和闭环/孤儿校验 |
| 来源/依据/Owner | 外部标准版本或内部政策、提议人、批准人 |
| 版本/生效/失效 | 支持未来生效、历史解释、并行迁移和时区 |
| 替换/映射 | 一对一、一对多、多对一、无替代;含转换/人工规则 |
| 影响/消费者 | 交易、接口、报表、规则、模型和历史数据影响 |
| 发布/弃用/回退 | 通知期、兼容窗口、回执、回退版本和紧急路径 |
变更流程:登记提议 → 查重/语义审查 → 影响分析 → owner 批准 → 分配版本/生效期 → 沙箱与消费者测试 → 发布/回执 → 对账 → 关闭。紧急变更可缩短时限,但不得取消授权、审计、后补影响分析和消费者通知。
分发、回执与业务对账
发布契约写明:数据集/实体版本、增量/全量语义、键、操作(新增/更正/合并/拆分/失效)、有效期、顺序、质量状态、schema、访问、SLA、重送、弃用和联系人。
| 对账层 | 检查 | 阻断/容差 | 差异 Owner | 证据 |
|---|---|---|---|---|
| 发布清单 | 批次、版本、水位、对象数、哈希、成功/拒绝 | |||
| 身份 | 全局 ID、源 ID、交叉引用、合并/拆分边 | |||
| 内容 | 关键属性、生存来源、代码/层级版本、有效期 | |||
| 消费 | 接收版本、导入数、拒绝/隔离、本地映射、查询抽样 | |||
| 业务 | 代表实体/交易/报表可正确解析且无悬挂引用 |
关键身份或代码版本未批准、已标注测试超出误合并上限、无拆分/回滚、发布无法区分合并与删除、历史代码不可解释、消费者关键对账不通过或无人承接管家队列时 No-Go。
6. 工具与技术
- 数据剖析、标准化、解析、候选生成、概率/确定性匹配和图关系工具;
- MDM registry、consolidation、coexistence 或 transaction hub;RDM/词表/层级管理;
- 工作流、案件管理、规则版本、审计和职责分离;
- API、事件、CDC、批文件和数据产品分发,以及 manifest、回执和重放;
- 元数据目录、业务词汇表、血缘、质量监控、模型与特征评估。
工具选型比较域/实体数量、写入权威、延迟、交互模式、层级、匹配复杂度、工作流、审计、历史、集成、扩展、运行技能与总成本。供应商宣称的“单一真相”不替代业务 owner、规则证据和可逆性。
架构模式:
| 模式 | 典型写入/用途 | 主要权衡 |
|---|---|---|
| Registry | 源继续维护,中心保存索引/交叉引用 | 快速发现,属性一致性和源可用性依赖较高 |
| Consolidation | 源汇聚到中心参考视图,通常不直接回写 | 适合分析/共享,源端仍可能继续分歧 |
| Coexistence | 中心与源协同维护并同步 | 渐进治理,冲突、延迟和回写复杂 |
| Transaction hub | 中心成为创建/维护权威入口 | 控制最强,流程改造、可用性和迁移风险最高 |
7. 指标、风险与实施
指标分组:
- 质量与置信: 已确认重复、误合并、漏合并、拆分、关键属性冲突、完整性、有效性、参考代码违规;
- 规则与漂移: 各阈值区数量、匹配精确率/召回率、分群差异、规则/模型版本、漂移和人工覆盖;
- 管家运营: 新增/积压/超龄案件、SLA、一次解决、升级、每管家负载和返工;
- 发布与采用: 源参与率、消费者/版本、发布成功、拒绝、对账、同步延迟、本地未授权代码;
- 价值与成本: 重复录入/对账工时、错误交易、退信/退货、客户体验、接入周期、TCO 和共享复用。
主要风险:错误合并导致账户/账单/权利串联;算法对姓名、语言、地区或弱标识群体表现不均;源 ID 复用;全局 ID 泄露;本地覆盖静默回流;参考代码被重用或历史失义;层级变化破坏汇总;消费者停留旧版本;双向同步回路;管家队列无人处理;平台先行但业务不采用。
控制:保守自动阈值、负证据/禁止项、分群测试、最小权限/用途限制、职责分离、全谱系和前像、可逆合并、版本/有效期、稳定代码、消费者登记/回执、三方对账、源头质量反馈和运行容量计划。
推荐增量实施:
- 用一个高价值域、有限属性和 1–2 个消费者建立基线与裁决机制;
- 影子生成候选/黄金视图,不写回,完成标注测试和管家演练;
- 先发布只读参考视图,再灰度低风险回写/自动动作;
- 扩展来源、属性、消费者和自动化,每一步保留回滚和对账;
- 交接持续管家、平台运行、指标评审、规则复测和消费者支持。
8. 依赖与协同
establishing-data-governance:授予域 owner、管家、决策权、政策、理事会和争议升级。modeling-data:定义实体、键、属性、关系和层级;本技能将其转为身份与权威运营。improving-data-quality:定义跨域质量规则、根因和整改;本技能处理共享实体/代码的裁决和发布。integrating-data:实现来源接入、批流/API、编排、重送和技术对账;本技能批准内容/版本/身份语义。managing-metadata:登记定义、owner、schema、规则、血缘、版本和消费者影响。securing-data:控制敏感实体、链接攻击、访问、共享、审计、跨境和事故响应。designing-data-architecture:决定系统责任、SoR/SoRef、hub 模式、过渡状态和能力路线。delivering-data-warehousing-and-bi:消费一致维度、层级和参考代码;更正、拆分或代码变化须评估历史重算。
明确协作边界:MDM/RDM 不替代源业务流程、质量治理、集成编排或元数据平台;它提供可授权、可追溯、可逆且可分发的共享身份和代码决策。