大数据到底应该如何学？大数据生态圈技术组件解析

除了分析公司自身业务数据以外，同样可以打造一款通用的大数据产品，大家可以参考我的另一篇文章：如何用开源组件“攒”出一个大数据建模平台。所以大数据的岗位虽然不像普通的开发工程师那么多，但是需求依然存在。

如果是分析公司自身的业务数据，一般会更偏重于使用大数据组件和算法库，构建出一个可行的数据分析方案。大家可以看出，现在完全不涉及算法的大数据岗位已经比较少了。这里的算法指的并不是数据结构，而是指机器学习库，与数据挖掘相关的算法，至少要知道如何控制算法的输入与输出，算法能够解决的问题，可能不会涉及到亲自建模，在大数据分析的小节中会详细介绍。

如果是开发一个大数据产品，比如建模平台，或者是致力于解决数据采集、数据可视化的解决方案。那么这比较适合从开发工程师转行大数据开发工程师的小伙伴，相当于在开发一个应用的基础上又增加了底层的大数据组件。这就要求我们既需要懂得原始的服务端框架的那一套，又能够驾驭大数据开发API。

(5) 掌握技能

从事大数据开发需要掌握的技能可以概括为以下几个方面：

操作系统：Linux(基本操作、软件维护、权限管理、定时任务、简单Shell等) 编程语言：Java(主要)、Scala、Python等 数据采集组件及中间件：Flume、Sqoop、Kafka、Logstash、Splunk等 大数据集群核心组件：Hadoop、Hive、Impala、HBase、Spark(Core、SQL、Streaming、MLlib)、Flink、Zookeeper等 素养要求：计算机或大数据相关专业

三、什么是大数据分析

说到数据分析师，这不是本文的重点，因为门槛相对较高，另一方面更偏数学、统计学方向，更多的是与数据、算法打交道，编程的产物通常不是应用，而是一个算法模型。我们还是先来看一看相关的JD：

小红书数据分析师JD

(2) 京东数据分析师JD

(3) 新浪微博数据分析师

(4) 主要工作

如果说大数据开发的岗位需求是一条一条的话。。。那么数据分析师的岗位需求大概率是一篇一篇的。。。

从上面的要求的中可以看到，每一个岗位都讲业务场景介绍的很详细，毕竟，数据分析师的主要工作之一是建立算法模型，这是垂直领域的深耕。通常我们无法直接使用那些已经存在的算法，必须要进行评估、优化、或是组合使用。除此之外，你还必须拥有这一领域的业务经验，才能够很好的胜任。

(5) 掌握技能

算法工程师需要掌握的技能可以概括为以下几个方面：

编程语言：Python、R、SQL等 建模工具：MATLAB、Mathematica等 熟悉机器学习库及数据挖掘经典算法 数学、统计学、计算机相关专业，对数据敏感

四、应如何学习大数据

（编辑：西安站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!