在大数据行业工作两年是怎样一种体验

写在前面

今年广州的初夏在经历了大雨的洗礼之后，一切都变得更加明朗起来，新的工作，新的人和事。懒惰让我变得更焦虑，焦虑促使我进步，程序员的焦虑大家应该都有共同的感觉，时代的步伐太快了，在这个环境下的软件开发一定会淘汰掉那些不懂得学习、懒惰的人。希望跟大家共勉。

大数据开发

大数据开发，有几个阶段：

1. 数据采集 （原始数据)
2. 数据汇聚 （经过清洗合并的可用数据)
3. 数据转换和映射 （经过分类、提取的专项主题数据)
4. 数据应用 （提供api 智能系统 、应用系统等)

· 数据血缘

· 数据质量审查

· 全平台监控

数据血缘

从数据血缘说起，数据血缘应该是大数据治理的入口，通过一张表，能够清晰看见它的来龙去脉，字段的拆分，清洗过程，表的流转，数据的量的变化，都应该从数据血缘出发，我个人认为，大数据治理整个的目标就是这个数据血缘，从数据血缘能够有监控全局的能力。

数据血缘是依托于大数据开发过程的，它包围着整个大数据开发过程，每一步开发的历史，数据导入的历史，都应该有相应的记录，数据血缘在数据资产有一定规模时，基本必不可少。

数据质量审查

数据开发中，每一个模型(表)创建的结束，都应该有一个数据质量审查的过程，在体系大的环境中，还应该在关键步骤添加审批。例如在数据转换和映射这一步，涉及到客户的数据提供，应该建立一个完善的数据质量审查制度，帮助企业第一时间发现数据存在的问题，在数据发生问题时也能第一时间看到问题的所在，并从根源解决问题，而不是盲目的通过连接数据库一遍一遍的查询SQL。

全平台监控

监控其实包含了很多的点，例如应用监控，数据监控，预警系统，工单系统等，对我们接管的每个数据源、数据表都需要做到实时监控，一旦发生殆机，或者发生停电，能够第一时间电话或者短信通知到具体负责人，这里可以借鉴一些自动化运维平台的经验的，监控约等于运维，好的监控提供的数据资产的保护也是很重要的。

大数据可视化

大数据可视化不仅仅是图表的展现，大数据可视化不仅仅是图表的展现，大数据可视化不仅仅是图表的展现。

重要的事说三遍，大数据可视化归类的数据开发中，有一部分属于应用类，有一部分属于开发类。

在开发中，大数据可视化扮演的是可视化操作的角色， 如何通过可视化的模式建立模型如何通过拖拉拽，或者立体操作来实现数据质量的可操作性画两个表格加几个按钮实现复杂的操作流程是不现实的。

在可视化应用中，更多的也有如何转换数据，如何展示数据，图表是其中的一部分，平时更多的工作还是对数据的分析，怎么样更直观的表达数据需要对数据有深刻的理解，对业务有深刻的理解，才能做出合适的可视化应用。

智能的可视化平台

可视化是可以被再可视化的，例如superset，通过操作SQL实现图表，有一些产品甚至能做到根据数据的内容智能分类，推荐图表类型，实时的进行可视化开发，这样的功能才是可视化现有的发展方向，我们需要大量的可视化内容来对公司发生产出，例如服装行业，销售部门：进货出货，颜色搭配对用户的影响，季节对选择的影响 生产部门：布料价格走势产能和效率的数据统计等等，每一个部门都可以有一个数据大屏，可以通过平台任意规划自己的大屏，所有人每天能够关注到自己的领域动向，这才是大数据可视化应用的具体意义。

结语

洋洋洒洒写了很多，对我近两年的所见所闻所学所想进行了一些总结。

有些童鞋会问，不是技术么什么没有代码要说，代码是要学的，要写的，但是与工作无关，代码是我个人的技能，个人傍身，实现个人想法的重要技能。 但是代码与业务的关系不大，在工作中，懂业务的人代码写的更好，因为他知道公司想要什么。 如果你业务很差，那也没关系，你代码好就行了呀，根据别人的交代干活，也是很不错的。技术和业务是相辅相成的，稍后博主总结代码的精进。

写完了，我的焦虑一丝未少，我的代码规范性不够，目前技术栈JS、Java、Node.js、Python 。

主业JS熟练度80%，正在研究阮一峰的es6（看的差不多）和vuejs的源码（有点搁浅），vuejs算是中等，css和布局方面可以说还可以，另外d3.js，go.js都是处于会用，能干活。 Node.js呢，express和koa无问题，看过一些express的源代码，还写过两个中间件。

Java、Python都处于能做项目的程度，目前也不想抽很多精力去深入它们，就想要保持在想用能用的地步。

未来的几年，我打算多学学人工智能、大数据开发的知识，未来这块应该还有一些热度的。

最后和大家共勉，三人行，必有我师焉。

相关资源：Umi-OCR 批量图片转文字工具离线批量文字识别(图片转文字)软件.rar