问答详情

大数据处理框架有哪些?

1541次观看
标签: 大数据 大数据处理框架
老师回答

1、批处理

批处理是大数据处理傍边的遍及需求,批处理主要操作大容量静态数据集,并在核算进程完成后返回成果。鉴于这样的处理模式,批处理有个明显的缺点,便是面对大规模的数据,在核算处理的功率上,不尽如人意。

现在来说,批处理在应对很多持久数据方面的体现极为出色,因而经常被用于对历史数据进行剖析。

2、流处理

批处理之后呈现的另一种遍及需求,便是流处理,针对实时进入体系的数据进行核算操作,处理成果马上可用,并会跟着新数据的抵达继续更新。

在实时性上,流处理体现优异,但是流处理同一时间只能处理一条(真正的流处理)或很少数(微批处理,Micro-batch Processing)数据,不同记录间只维持最少数的状况,对硬件的要求也要更高。

3、批处理+流处理

在实践的使用傍边,批处理和流处理一起存在的场景也很多,混合处理框架就旨在处理这类问题。供给一种数据处理的通用处理方案,不仅可以供给处理数据所需的办法,一起供给自己的集成项、库、东西,可满足图形剖析、机器学习、交互式查询等多种场景。

免费直播

    精选课程
    相关推荐
    大数据开发具体要怎样学习?
    梦老师 大数据工程师

    1、编程语言的学习

    对于零基础的同学,一开始入门可能不会太简单。因为需要掌握一门计算机的编程语言,大家都知道计算机编程语言有很多,比如:R,C++,JAVA等等。建议从Java入手,容易学而且很好用,Java只需理解一些基本的概念,就可以用它编写出适合于各种情况的应用程序。现在一般也都是从JAVA开始学起,这相当于也是一个基础。

    2、大数据相关技术的学习

    学完了编程语言之后,一般就可以进行大数据部分的学习了。一般来说,学习大数据部分的时间比学习Java的时间要更长,JAVA算作学习大数据要学习的一部分,除此之外学习大数据还需要学习其他相关类型的数据知识。大数据部分,包括Hadoop 、Spark、Storm开发、Hive 数据库、Linux 操作系统等知识,还要熟悉大数据处理和分析技术。如果要完整的学习大数据的话,这些都是必不可少的。

    3、项目实战阶段

    学习任何一门技术,除了理论知识,项目的实战训练也是非常重要的,进行一些实际项目的操作练手,可以帮助我们更好的理解所学的内容,同时对于相关知识也能加强记忆,在今后的运用中,也可以更快的上手,对于相关知识该怎么用也有了经验。在项目实战中,遇到问题最好积极动手记录下来,这样才能更好的去解决你遇到的问题。

    注册电脑版

    版权所有 2003-2020 广州环球青藤科技发展有限公司