问答详情

大数据存在哪些问题?

2512次观看
标签: 大数据问题 大数据
老师回答

数据存储问题:随着技术不断发展,数据量从TB上升至PB,EB量级,如果还用传统的数据存储方式,必将给大数据分析造成诸多不便,这就需要借助数据的动态处理技术,即随着数据的规律性变更和显示需求,对数据进行非定期的处理。同时,数量极大的数据不能直接使用传统的结构化数据库进行存储,人们需要探索一种适合大数据的数据储存模式,也是当下应该着力解决的一大难题。

分析资源调度问题:大数据产生的时间点,数据量都是很难计算的,这就是大数据的一大特点,不确定性。所以我们需要确立一种动态响应机制,对有限的计算、存储资源进行合理的配置及调度。另外,如何以最小的成本获得最理想的分析结果也是一个需要考虑的问题。

专业的分析工具:在发展数据分析技术的同时,传统的软件工具不再适用。目前人类科技尚不成熟,距离开发出能够满足大数据分析需求的通用软件还有一定距离。如若不能对这些问题做出处理,在不久的将来大数据的发展就会进入瓶颈,甚至有可能出现一段时间的滞留期,难以持续起到促进经济发展的作用。

免费直播

    精选课程
    相关推荐
    大数据未来的发展前景怎样?
    张老师 大数据工程师

    大数据产业是以数据采集、交易、存储、加工、分析、服务为主的各类经济活动,包括数据资源建设、大数据软硬件产品的开发、销售和租赁活动,以及相关信息技术服务。数据服务、基础设施和融合应用相互交融,协力构建了完整的大数据产业链。

    从大数据产业链上下游来看,大数据行业上游是基础支撑层,主要包括网络设备、计算机设备、存储设备等硬件供应,此外,相关云计算资源管理平台、大数据平台建设也属于产业链上游;

    大数据行业中游立足海量数据资源,围绕各类应用和市场需求,提供辅助性的服务,包括数据交易、数据资产管理、数据采集、数据加工分析、数据安全,以及基于数据的IT运维等;

    大数据行业下游则是大数据应用市场,随着我国大数据研究技术水平的不断提升,目前,我国大数据已广泛应用于政务、工业、金融、交通、电信和空间地理等行业。

    在上游领域,基础设施层是整个大数据产业的引擎和基础,它涵盖了网络、存储和计算等硬件基础设施,资源管理平台以及各类与数据采集、预处理、分析和展示相关的方法和工具。相关代表企业有紫光集团、联想、中兴通讯、阿里云、腾讯云、华为、中科曙光等。

    在中游大数据服务领域,数据服务层是大数据市场的未来增长点之一, 随着5G商用的全面推广,数据采集和预处理需求将快速上升;此外,随着数字技术日益复杂,提供第三方数据分析、可视化和安全服务的市场也将持续壮大,相关代表企业有久其软件、拓尔思、太极股份、荣联科技等。

    数据科学与大数据技术是什么专业?
    张老师 大数据工程师

    “数据科学与大数据技术”专业是近两年才设立的新专业。“数据科学与大数据技术”专业有着很好的就业前景并且就业的宽度广,就业薪资待遇水平高,缺点可能在于专业设立较新,教学课程设置上可能无法跟上大数据人才培养的技能需求。

    “数据科学与大数据技术”专业的人才培养方向:

    分析类岗位

    分析类工程师。使用统计模型、数据挖掘、机器学习及其他方法,进行数据清洗、数据分析、构建行业数据分析模型,为客户提供有价值的信息,满足客户需求。

    算法工程师。大数据方向,和专业工程师一起从系统应用的角度,利用数据挖掘/统计学习的理论和方法解决实际问题;人工智能方向,根据人工智能产品需求完成技术方案设计及算法设计和核心模块开发,组织解决项目开发过程中的重大技术问题。

    研发类岗位

    架构工程师。负责Hadoop集群架构设计开发、搭建、管理、运维、调优,从数据采集到数据加工,从数据清洗到数据抽取,从数据统计到数据分析,实现大数据全产业线上的应用分析设计。

    开发工程师。基于hadoop、spark等构建数据分析平台,进行设计、开发分布式计算业务,负责机器学习、深度学习领域的开发工作。

    运维工程师。负责大数据基础平台的运维,保障平台的稳定可用,参与设计大数据自动化运维、监控、故障处理工具。

    注册电脑版

    版权所有 2003-2020 广州环球青藤科技发展有限公司