问答详情

大数据技术的发展方向有哪些?

2016次观看
标签: 大数据技术 大数据技术发展方向
老师回答

1、在大数据采集与预处理方向

这方向最常见的问题是数据的多源和多样性,导致数据的质量存在差异,严重影响到数据的可用性。针对这些问题,目前很多公司已经推出了多种数据清洗和质量控制工具(如IBM的Data Stage)。

2、在大数据存储与管理方向

这方向最常见的挑战是存储规模大,存储管理复杂,需要兼顾结构化、非结构化和半结构化的数据。分布式文件系统和分布式数据库相关技术的发展正在有效的解决这些方面的问题。在大数据存储和管理方向,尤其值得我们关注的是大数据索引和查询技术、实时及流式大数据存储与处理的发展。

3、大数据计算模式方向

由于大数据处理多样性的需求,目前出现了多种典型的计算模式,包括大数据查询分析计算(如Hive)、批处理计算(如Hadoop MapReduce)、流式计算(如Storm)、迭代计算(如HaLoop)、图计算(如Pregel)和内存计算(如Hana),而这些计算模式的混合计算模式将成为满足多样性大数据处理和应用需求的有效手段。

4、大数据分析与挖掘方向

在数据量迅速膨胀的同时,还要进行深度的数据深度分析和挖掘,并且对自动化分析要求越来越高,越来越多的大数据数据分析工具和产品应运而生,如用于大数据挖掘的R Hadoop版、基于MapReduce开发的数据挖掘算法等。

免费直播

    精选课程
    相关推荐
    大数据未来的发展前景怎样?
    张老师 大数据工程师

    大数据产业是以数据采集、交易、存储、加工、分析、服务为主的各类经济活动,包括数据资源建设、大数据软硬件产品的开发、销售和租赁活动,以及相关信息技术服务。数据服务、基础设施和融合应用相互交融,协力构建了完整的大数据产业链。

    从大数据产业链上下游来看,大数据行业上游是基础支撑层,主要包括网络设备、计算机设备、存储设备等硬件供应,此外,相关云计算资源管理平台、大数据平台建设也属于产业链上游;

    大数据行业中游立足海量数据资源,围绕各类应用和市场需求,提供辅助性的服务,包括数据交易、数据资产管理、数据采集、数据加工分析、数据安全,以及基于数据的IT运维等;

    大数据行业下游则是大数据应用市场,随着我国大数据研究技术水平的不断提升,目前,我国大数据已广泛应用于政务、工业、金融、交通、电信和空间地理等行业。

    在上游领域,基础设施层是整个大数据产业的引擎和基础,它涵盖了网络、存储和计算等硬件基础设施,资源管理平台以及各类与数据采集、预处理、分析和展示相关的方法和工具。相关代表企业有紫光集团、联想、中兴通讯、阿里云、腾讯云、华为、中科曙光等。

    在中游大数据服务领域,数据服务层是大数据市场的未来增长点之一, 随着5G商用的全面推广,数据采集和预处理需求将快速上升;此外,随着数字技术日益复杂,提供第三方数据分析、可视化和安全服务的市场也将持续壮大,相关代表企业有久其软件、拓尔思、太极股份、荣联科技等。

    注册电脑版

    版权所有 2003-2020 广州环球青藤科技发展有限公司