从事大数据开发需要具备哪些技能?

bdqnwqk1年前基础10

大数据开发一般要具备编程能力,就我从业3年多经验来看,有编程能力会获得更好的发展。
大数据开发一般有数仓开发、数据分析、数据开发三大类,每类要求的技能是不一样的。但是都有很多共通的技能。
通用的技能:除了具备基础的Sql能力以外,包括会用传统的Mysql、Oracle这种传统数据库,而且要会用Hive、Hbase这些基于分布式的数据库;当然Java编程能力是不可少的,其他方面的诸如Mapreduce和Spark也会就更好了。会用集群,集群除了问题有一定解决集群问题的能力。
数仓开发:要会数仓建模,维表、事实表、主题表、星型模型、雪花模型等等,要对业务非常熟悉,有全局观,才能建好数据仓库。
数据开发:数据开发有离线开发和实时开发,这种更偏向后端开发,类似java有需求就开发,加上平时对程序维护。
数据分析:这个要求sql功底强,如果能用python对数据分析那会更好了。要会用sqoop和kettle等这些常用的ETL工具,会用报表系统。
当然,如果你想学习,可以深入学习更多的东西。毕竟在平时开发的过程中,尤其是小公司分工不明确的情况下,这些技能或多或少都需要我们掌握的。就是一个人可以当几个人用,类似全栈工程师。