研发大数据工程师具体做什么

4、 一种需要编写Spark、Hadoop的应用程序，另一种需要开发大数据处理系统本身。 大数据开发工程师的职责是负责公司大数据平台的开发和维护、网络日志大数据分析、实时计算和流式计算等技术的研发和网络安全业务主题建模等工作。 以上就是为大家介绍了大数据开发工程师，如果要从事大数据开发工程师可以参考一下。

3、 1、数据采集：业务系统的埋点代码时刻会产生一些分散的原始日志，可以用Flume监控接收这些分散的日志，实现分散日志的聚合，即采集。 2、数据清洗：一些字段可能会有异常取值，即脏数据。 为了保证数据下游的"数据分析统计"能拿到比较高质量的数据，需要对这些记录进行过滤或者字段数据回填。

1、 1、大数据工程师可以做大数据开发工作，开发，建设，测试和维护架构，负责公司大数据平台的开发和维护，负责大数据平台持续集成相关工具平台的架构设计与产品开发等。