如何更好利用大数据的优势?

环球青藤 2020/11/04 07:31

1、统一数据库层

我们通过各种方式采集到的丰富数据,在清洗、结构化后进入统一的ODS数据基础层。

其主要功能包括:

-Sync:将结构化数据增量或完全同步到数据中心。

-结构化:数据中心中的非结构化(日志)结构化处理和存储。

累积历史记录和清除:根据数据业务要求以及审核和审计要求保存历史数据和数据清除 < 在权利和责任方面,所有数据应在源头统一,所有数据库层应统一,一个团队应负责和 控制,其他团队无权在数据库层中复制数据。

2、数据中间层

我们进行数据建模研究和开发,并处理由于业务变化(尤其是组织结构)而难以轻易转移的数据中间层。 包括DWD详细数据中间层和DWS摘要数据中间层。

其主要功能包括:

-合并和相似的数据:使用详细而宽的表,重用相关的计算,并减少数据扫描。

-对公共指标进行统一处理:基于OneData系统构建具有命名约定,一致口径和统一算法的统计指标 ,它是一种高级数据产品-为产品,应用程序和服务提供公共指标; 建立逻辑汇总表。

-建立一致的维度:建立一致的数据分析维度表,以减少数据计算口径和算法不一致的风险。

3、数据应用程序层

在为应用程序提供服务时,业务团队或业务线中的数据团队拥有极大的自由度。 只要他们依靠数据公共层,就可以自由地构建ADS数据应用程序层。

其主要功能包括:

-个性化索引处理:不公开; 复杂度(指数,比率,排名指数)。

-基于应用程序的数据组装:大型和大型表市场,水平表到垂直表,趋势指标字符串。

关于大数据技术包含哪些结构层次,青藤小编就和您分享到这里了。如果您对大数据工程有浓厚的兴趣,希望这篇文章可以为您提供帮助。如果您还想了解更多关于数据分析师、大数据工程师的技巧及素材等内容,可以点击本站的其他文章进行学习。

免费直播

    精选课程 更多

    注册电脑版

    版权所有 2003-2020 广州环球青藤科技发展有限公司