数仓模型命名规范

男娘i 2023-10-04 17:17 12阅读 0赞

#### **1. 词根设计规范** ####

词根属于数仓建设中的规范，属于元数据管理的范畴，现在把这个划到数据治理的一部分。完整的数仓建设是包含数据治理的，只是现在谈到数仓偏向于数据建模， 而谈到数据治理，更多的是关于数据规范、数据管理。

表命名，其实在很大程度上是对元数据描述的一种体现，表命名规范越完善，我们能从表名获取到的信息就越多。比如：一部分业务是关于货架的，英文名是：rack， rack 就是一个词根，那我们就在所有的表、字段等用到的地方都叫 rack，不要叫成 别的什么。这就是词根的作用，用来统一命名，表达同一个含义。

指标体系中有很多“率”的指标，都可以拆解成 XXX+率，率可以叫 rate，那我 们所有的指标都叫做 XXX+rate。

**词根：可以用来统一表名、字段名、主题域名等等**。

举例： 以流程图的方式来展示，更加直观和易懂，本图侧重 dwm 层表的命名 规范，其余命名是类似的道理：

![img][]

第一个判断条件是该表的用途，是中间表、原始日志还是业务展示用的表 如果该表被判断为中间表，就会走入下一个判断条件：表是否有 group 操作 通过是否有 group 操作来判断该表该划分在 dwd 层还是 dwm 和 dws 层 如果不是 dwd 层，则需要判断该表是否是多个行为的汇总表（即宽表） 最后再分别填上事业群、部门、业务线、自定义名称和更新频率等信息即可。

**分层**：表的使用范围

**事业群和部门**：生产该表或者该数据的团队

**业务线**：表明该数据是哪个产品或者业务线相关

**主题域**：分析问题的角度，对象实体

**自定义**：一般会尽可能多描述该表的信息，比如活跃表、留存表等

**更新周期**：比如说天级还是月级更新

**数仓表的命名规范如下**：

**1. 数仓层次:**

各层次之间的关系:

![4910eee7c4a644eb85074141842fa872.png][]

公用维度：dim

DM层：dm

ODS层：ods

DWD层：dwd

DWS层：dws

APP层：app

**2. 周期/数据范围：**

日快照：d

增量：i

全量：f

周：w

拉链表：l

非分区全量表：a

**1) 常规表**

常规表是我们需要固化的表，是正式使用的表，是目前一段时间内需要去维护去 完善的表。

**`规范：分层前缀[ods|dw|app]_业务线_主题域_更新周期_数据范围`**

业务域、主题域我们都可以用词根的方式枚举清楚，不断完善。

更新周期主要的是时间粒度：yy|mm|dd|ww|hh|mi|ss（年｜月｜日｜周｜时｜分｜秒）

例如：

中文：数据源层-上海商办楼宇-月更新-增量

英文：ods\_sh\_building\_mm\_i

**2) 中间表**

中间表一般出现在 Job 中，是 Job 中临时存储的中间数据的表，中间表的作 用域只限于当前 Job 执行过程中，Job 一旦执行完成，该中间表的使命就完 成了，是可以删除的（按照自己公司的场景自由选择，以前公司会保留几天 的中间表数据，用来排查问题）。

**`规范：mid_table_name_[0~9|dim]`**

table\_name 是我们任务中目标表的名字，通常来说一个任务只有一个目标表。 这里加上表名，是为了防止自由发挥的时候表名冲突，而末尾大家可以选择自由发挥，起一些有意义的名字，或者简单粗暴，使用数字代替，各有优劣吧，谨慎选择。

通常会遇到需要补全维度的表，这里使用 dim 结尾。

如果要保留历史的中间表，可以加上日期或者时间戳。

例如：

中文：中间表-雅居乐-土地信息-日期

英文：mid\_yajule\_land\_20211201

**3) 临时表**

临时表是临时测试的表，是临时使用一次的表，就是暂时保存下数据看看，后续一般不再使用的表，是可以随时删除的表。

**`规范：tmp_xxx`**

只要加上 tmp 开头即可，其他名字随意，注意 tmp 开头的表不要用来实际使用，只是测试验证而已。

例如：

中文：临时表-雅居乐土地信息

英文：tmp\_yajule\_land

**4) 维度表**

维度表是基于底层数据，抽象出来的描述类的表。维度表可以自动从底层表抽象出来，也可以手工来维护。

**`规范：dim_xxx`**\_页面位置

维度表，统一以dim开头，后面加上，对该指标的描述。

例如：

中文：上海市商办楼宇-检测平台-首页

英文：dim\_sh\_building\_platform\_index

**5) 手工表**

手工表是手工维护的表，手工初始化一次之后，一般不会自动改变，后面变更，也是手工来维护。

一般来说，手工的数据粒度是偏细的，所以暂时统一放在 dwd 层，后面如果有目标值或者其他类型手工数据，再根据实际情况分层。

**`规范：dwd_业务域_manual_xxx`**

手工表，增加特殊的主题域，manual，表示手工维护表。

例如：

中文：手工表-花木设施-教育设施

英文：dwd\_huamu\_edu\_facilities

#### **3. 指标命名规范** ####

**1) 公共规则**

*  所有单词小写
 *  单词之间下划线分割（反例：appName 或 AppName）
 *  可读性优于长度 (词根，避免出现同一个指标，命名一致性)
 *  禁止使用 sql 关键字，如字段名与关键字冲突时 +col
 *  数量字段后缀 \_cnt 等标识...
 *  金额字段后缀 \_price 标识
 *  天分区使用字段 dt，格式统一（yyyymmdd 或 yyyy-mm-dd）
 *  小时分区使用字段 hh，范围（00-23）
 *  分钟分区使用字段 mi，范围（00-59）
 *  布尔类型标识：is\_\{业务\}，不允许出现空值

#### **2) 指标命名规范** ####

结合指标的特性以及词根管理规范，将指标进行结构化处理。

1.  基础指标词根，即所有指标必须包含以下基础词根：

![img][img 1]

1.  业务修饰词，用于描述业务场景的词汇，例如trade-交易。

3.日期修饰词，用于修饰业务发生的时间区间。

![img][img 2]

4.聚合修饰词，对结果进行聚集操作。

![img][img 3]

5.基础指标，单一的业务修饰词+基础指标词根构建基础指标 ，例如：交易金额-trade\_amt。

6.派生指标，多修饰词+基础指标词根构建派生指标。派生指标继承基础指标的特性，例如：安装门店数量-install\_poi\_cnt。

7.普通指标命名规范，与字段命名规范一致，由词汇转换即可以。

![img][img 4]

[img]: https://img-blog.csdnimg.cn/img_convert/6d662c42298ba183ec9cdee859ff3994.png
[4910eee7c4a644eb85074141842fa872.png]: https://img-blog.csdnimg.cn/4910eee7c4a644eb85074141842fa872.png
[img 1]: https://img-blog.csdnimg.cn/img_convert/1154e26208d109b474ce5e58f3f5be82.png
[img 2]: https://img-blog.csdnimg.cn/img_convert/62a6d02b22019b5ff12fcf604443b7f5.png
[img 3]: https://img-blog.csdnimg.cn/img_convert/2917f6045f678e4475009e4d27611276.png
[img 4]: https://img-blog.csdnimg.cn/img_convert/75ec6f8abf5166e68d863d6201a92e63.png