前言
大家好，我是DJ丶小哪吒，我又来跟你们分享知识了。对软件开发有着浓厚的兴趣。喜欢与人分享知识。做博客的目的就是为了能与 他 人知识共享。由于水平有限。博客中难免会有一些错误。如有 纰 漏之处，欢迎大家在留言区指正。小编也会及时改正。
今天小编要和大家浅谈一下在做项目过程中。我们经常会遇到的缓慢变化维的维问题。
码字不易，先赞再看，养成习惯~~~
1.1、什么是缓慢变化维（SCD)
1.1.1、缓慢变化维简介
- 缓慢变化维，简称SCD（Slowly Changing Dimensions）
- 一些维度表的数据不是静态的，而是会随着时间而缓慢地变化（这里的缓慢是相对事实表而言，事实表数据变化的速度比维度表快）
- 这种随着时间发生变化的维度称之为缓慢变化维
- 把处理维度表数据历史变化的问题，称为缓慢变化维问题，简称SCD问题
1.1.2、举例说明
例如：用根据用户维度，统计不同出生年份的消费金额占比。（80后、90后、00后）。
而期间，用户可能去修改用户数据，例如：将出生日期改成了 1992年。此时，用户维度表就发生了变化。当然这个变化相对事实表的变换要慢。但这个用户维度表的变化，就是缓慢变化维。
1.2、 SCD问题的几种解决方案
以下为解决缓慢变化维问题的几种办法：
- 保留原始值
- 改写属性值
- 增加维度新行
- 增加维度新列
- 添加历史表
SCD解决方案 - 保留原始值
某一个属性值绝不会变化。事实表始终按照该原始值进行分组。例如：
出生日期的数据，始终按照用户第一次填写的数据为准
SCD解决方案 - 改写属性值
- 对其相应需要重写维度行中的旧值，以当前值替换。因此其始终反映最近的情况
- 当一个维度值的数据源发生变化，并且不需要在维度表中保留变化历史时，通常用新数据来覆盖旧数据。这样的处理使属性所反映的中是最新的赋值。
- 这种方法有个前提，用户不关心这个数据的变化
- 这样处理，易于实现，但是没有保留历史数据，无法分析历史变化信息
SCD解决方案 - 增加维度新行
数据仓库系统的目标之一是正确地表示历史。典型代表就是拉链表。
保留历史的数据，并插入新的数据。
SCD解决方案 - 增加维度新列
用不同的字段来保存不同的值，就是在表中增加一个字段，这个字段用来保存变化后的当前值，而原来的值则被称为变化前的值。总的来说，这种方法通过添加字段来保存变化后的痕迹。
SCD解决方案 - 使用历史表
另外建一个表来保存历史记录，这种方式就是将历史数据与当前数据完全分开来，在维度中只保存当前最新的数据。
是不是感觉到这里就结束了了呢，那么理论方面我们已经介绍完了。是不是总感觉少了点什么。
对了，就是实操，实践是验证真理的唯一标准。
那么接下来,实操来了
企业中常见的解决缓慢变化维的方法。
数据仓库的数据模型设计过程中，经常会遇到这样的需求：
1.表中的部分字段会被update，例如：
用户的地址，产品的描述信息，品牌信息等等;
2.需要查看某一个时间点或者时间段的历史快照信息，例如：
查看某一个产品在历史某一时间点的状态
查看某一个用户在过去某一段时间内，更新过几次等等
3.变化的比例和频率不是很大，例如：
总共有1000万的会员，每天新增和发生变化的有10万左右
2.1、商品历史快照案例
2.1.1、方案一：快照每一天的数据到数仓
以上便于各位理解，所以小编用这种方式给各位举例。接下来小编开始实现了。
2.1.1、方案一：MySQL到Hive数仓代码实现
MySQL&Hive初始化
1、在MySQL demo库中 创建表
2、在Hive中 demo库创建表
增量导入12月20日数据
1、MySQL数据库导入12月20日数据（4条数据）
3、Hive中查询数据
4、数据导入维度表
增量导入12月21日数据
1、MySQL数据库导入12月21日数据（6条数据）
4、数据导入dw层表
增量导入12月22日数据
1、MySQL数据库导入12月22日数据（6条数据）
4、数据导入dw层表
从上述案例，可以看到：
表每天保留一份全量，每次全量中会保存很多不变的信息，如果数据量很大的话，对存储是极大的浪费
可以将表设计为拉链表，既能满足反应数据的历史状态，又可以最大限度地节省存储空间
2.1.2、方案二：使用拉链表保存历史快照
- 生效日期（dw_start_date）
- 失效日期（dw_end_date）
2.只同步当天修改的数据到ods层
3.拉链表算法实现
- 编写SQL处理当天最新的数据
- 编写SQL处理dw层历史数据，重新计算之前的dw_end_date
- 拉链表的数据为：当天最新的数据 UNION ALL 历史数据
4.拉链表的数据为：当天最新的数据 UNION ALL 历史数据
代码实现：
1、MySQL&Hive表初始化
MySQL创建商品表2
2.Hive ODS层建表
3.Hive dw层创建拉链表
全量导入2019年12月20日数据
1、MySQL数据库导入12月20日数据（4条数据）
创建Hive分区
表输入的sql语句
3、编写SQL从ods导入dw当天最新的数据
增量导入2019年12月21日数据
1、MySQL数据库导入12月21日数据（6条数据）
2、使用Kettle开发增量同步MySQL数据到Hive ods层表
hive创建分区
表输入读取MySQL数据
3、编写SQL处理dw层历史数据，重新计算之前的dw_end_date
4、合并当天最新的数据和历史数据到
2.1.3、查询拉链表
1、获取2019-12-20日的历史快照数据
2、获取最新的商品快照数据
好了，以上内容就到这里了。你学会了吗。 欢迎路过的朋友关注小编哦。各位朋友关注点赞是小编坚持下去的动力。小编会继续为大家分享更多的知识哦~~~。