大数据开发工程师负责该领域所属模块的代码开发、调试与维护工作,并进行技术沉淀和文档输出。生态圈系统上的hive、hbase、sqoop、spark、spark-streaming等技术,懂hadoop源码者优先;6、熟悉Kylin有OLAP平台设计和开发经验优先;7、具有应用大数据技术处理TB级以上数据的项目开发经验者优先;8、有较清晰的代码编写规范,逻辑性强,工作态度认真,良好沟通能力和团队合作精神。
职责:
1、负责公司项目应用监测数据,分析软件大数据平台的代码开发;
2、负责大数据体系架构设计和应用产品的研究;
3、负责大数据平台及应用场景的构建、部署、测试;
、编写软件研发相关技术文档;
5、编写产品研发相关任务单计划,阶段性代码、技术方案和软件产品及时提交至配置管理理库;
6、Spark程序的研发,sqoop脚本开发和商家用户行为等离线分析数据;
7、kudu,kylin等技术调研,编写软件研发相关技术文档;
8、SUNMI数仓设计架构以及ETL流程开发;
9、建立多维度,多体系的用户标签体系以及用户行为数据库。
岗位要求:
1、本科以上学历,4年以上?工作经验,2年以上Hadoop平台的相关研发经验,具有良好的需求分析,方案设计,架构设计,程序编写、测试能力;
2、熟悉J2EE或Python平台开发,有良好的Java或Python语言功底;
3、了解Linux/Unix操作系统,了解脚本编程(Shell/Python其中一种);
、具备数据中心资源管理(YARN)、监控(ClouderaManage)、调度(Azkaban)等系统研发经验者优先,具备分布式系统研发经验者优先;
5、熟悉hadoop以及其?生态圈系统上的hive、hbase、sqoop、spark、spark-streaming等技
术,懂hadoop源码者优先;
6、熟悉Kylin有OLAP平台设计和开发经验优先;
7、具有应用大数据技术处理TB级以上数据的项目开发经验者优先;
8、有较清晰的代码编写规范,逻辑性强,工作态度认真,良好沟通能力和团队合作精神。