问答详情

大数据目前有什么问题?

881次观看
标签: 大数据 大数据问题
老师回答

数据存储问题:随着技术不断发展,数据量从TB上升至PB,EB量级,如果还用传统的数据存储方式,必将给大数据分析造成诸多不便,这就需要借助数据的动态处理技术,即随着数据的规律性变更和显示需求,对数据进行非定期的处理。同时,数量极大的数据不能直接使用传统的结构化数据库进行存储,人们需要探索一种适合大数据的数据储存模式,也是当下应该着力解决的一大难题。

分析资源调度问题:大数据产生的时间点,数据量都是很难计算的,这就是大数据的一大特点,不确定性。所以我们需要确立一种动态响应机制,对有限的计算、存储资源进行合理的配置及调度。另外,如何以最小的成本获得最理想的分析结果也是一个需要考虑的问题。

专业的分析工具:在发展数据分析技术的同时,传统的软件工具不再适用。目前人类科技尚不成熟,距离开发出能够满足大数据分析需求的通用软件还有一定距离。如若不能对这些问题做出处理,在不久的将来大数据的发展就会进入瓶颈,甚至有可能出现一段时间的滞留期,难以持续起到促进经济发展的作用。

免费直播

    精选课程
    相关推荐
    数据科学与大数据技术是什么专业?
    张老师 大数据工程师

    “数据科学与大数据技术”专业是近两年才设立的新专业。“数据科学与大数据技术”专业有着很好的就业前景并且就业的宽度广,就业薪资待遇水平高,缺点可能在于专业设立较新,教学课程设置上可能无法跟上大数据人才培养的技能需求。

    “数据科学与大数据技术”专业的人才培养方向:

    分析类岗位

    分析类工程师。使用统计模型、数据挖掘、机器学习及其他方法,进行数据清洗、数据分析、构建行业数据分析模型,为客户提供有价值的信息,满足客户需求。

    算法工程师。大数据方向,和专业工程师一起从系统应用的角度,利用数据挖掘/统计学习的理论和方法解决实际问题;人工智能方向,根据人工智能产品需求完成技术方案设计及算法设计和核心模块开发,组织解决项目开发过程中的重大技术问题。

    研发类岗位

    架构工程师。负责Hadoop集群架构设计开发、搭建、管理、运维、调优,从数据采集到数据加工,从数据清洗到数据抽取,从数据统计到数据分析,实现大数据全产业线上的应用分析设计。

    开发工程师。基于hadoop、spark等构建数据分析平台,进行设计、开发分布式计算业务,负责机器学习、深度学习领域的开发工作。

    运维工程师。负责大数据基础平台的运维,保障平台的稳定可用,参与设计大数据自动化运维、监控、故障处理工具。

    注册电脑版

    版权所有 2003-2020 广州环球青藤科技发展有限公司