大数据开发工程师的主要职责精选.docx
《大数据开发工程师的主要职责精选.docx》由会员分享,可在线阅读,更多相关《大数据开发工程师的主要职责精选.docx(5页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、本文格式为Word版,下载可任意编辑大数据开发工程师的主要职责精选 大数据开发工程师负责该领域所属模块的代码开发、调试与维护工作,并进行技术沉淀和文档输出。下面是第一我整理的大数据开发工程师的主要职责精选。 大数据开发工程师的主要职责精选1 职责: 1、负责公司项目应用监测数据,分析软件大数据平台的代码开发; 2、负责大数据体系架构设计和应用产品的讨论; 3、负责大数据平台及应用场景的构建、部署、测试; 4、编写软件研发相关技术文档; 5、编写产品研发相关任务单方案,阶段性代码、技术方案和软件产品准时提交至配置管理理库; 6、Spark程序的研发,sqoop脚本开发和商家用户行为等离线分析数据
2、; 7、kudu,kylin等技术调研,编写软件研发相关技术文档; 8、SUNMI数仓设计架构以及ETL流程开发; 9、建立多维度,多体系的用户标签体系以及用户行为数据库。 岗位要求 : 1、本科以上学历,4年以上?工作阅历,2年以上Hadoop平台的相关研发阅历,具有良好的需求分析,方案设计,架构设计,程序编写、测试力量; 2、熟识J2EE或Python平台开发,有良好的Java或Python语言功底; 3、了解Linux/Unix操作系统,了解脚本编程(Shell/Python其中一种); 4、具备数据中心资源管理(YARN)、监控(ClouderaManage)、调度(Azkaban)等
3、系统研发阅历者优先,具备分布式系统研发阅历者优先; 5、熟识hadoop以及其?生态圈系统上的hive、hbase、sqoop、spark、spark-streaming等技 术,懂hadoop源码者优先; 6、熟识Kylin有OLAP平台设计和开发阅历优先; 7、具有应用大数据技术处理TB级以上数据的项目开发阅历者优先; 8、有较清楚的代码编写规范,规律性强,工作态度仔细,良好沟通力量和团队合作精神。 大数据开发工程师的主要职责精选2 职责: 1、 负责基于Hadoop/Spark平台架构的开发、设计和布局 ; 2、 完成系统框架的设计和核心代码的编写; 3、 针对海量的用户行为数据进行统计
4、、分析与挖掘,不断提高系统运行效率; 4、 负责对数据进行分析,为项目组供应大数据技术指导及分析手段支撑; 5、 负责大数据平台的性能监控和持续优化;针对需求供应大数据分析技术解决方案 ; 6、 大数据平台的运维工作,持续完善大数据平台,保证稳定性、平安性; 7、 娴熟使用大数据ETL数据抽取工具; 8、领导支配的其他工作。 任职资格: 1、 3年互联网行业开发阅历,计算机或相关专业本科以上学历; 2、 精通Hadoop大数据平台架构,具有扎实的Java/Python等开发语言;并可以开发高效牢靠的代码; 3、 具有较强的数据分析、数据挖掘的力量; 4、 熟识spark、Hive、storm等
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 数据 开发 工程师 主要职责 精选
限制150内