对于大数据而言,2016年是具有里程碑意义的一年,更多企业和机构在该年度存储和处理各种形态和规模的数据,并从中提取有价值的信息。站在辞旧迎新的2017年伊始,Tableau预测随着数据管控和保护系统以及大数据分析系统的日趋成熟,人们将要迎来自助式大数据分析时代。
1. Hadoop的发展为自助式分析奠定技术基础:速度更快、门槛更低,安全标准更高
作为一款大数据开发和运行处理的软件平台,Hadoop最初来源于谷歌的MapReduce编程模型包。该模型包可以把一个应用程序分解为许多并行计算指令,并实现跨计算节点运行海量数据集。得益于Hadoop可靠、高效、可伸缩的数据处理方式,目前其已经成为大数据处理的主流软件。而且,随着大数据处理的进一步发展,Hadoop甚至可以为用户提供速度更快、可重复性更高、更安全的数据探索分析,为自助式大数据分析时代的来临奠定了技术基础。比如,在使用SQL-on-Hadoop 引擎与 OLAP-on-Hadoop 技术时,用户已经很难对传统数据仓库和大数据世界进行区分。
此外,Apache Sentry系统的出现则为数据安全性提供了更多保障。该系统可对存储在Hadoop群集上的数据和元数据实施细化、基于角色的授权。Apache Atlas是数据治理计划的一部分,它让组织可以在整个数据生态系统中应用一致的数据分类方法。而Apache Ranger则为 Hadoop提供了集中式安全管理。
2. 得益于嵌入式商业智能,分析已经无处不在
在过去的几年间,企业已经越来越多地将数据分析融入日常工作流程,且常常将其嵌入其他应用程序(例如 Salesforce)。在规模庞大的中国航空旅游业,有成千上万的商业航空公司、机场运营商、旅行社以及民航机构依赖中国航信,以便获取业内商务情报和市场信息。而中国航信每年都对航空市场的活动进行密切监测和分析。其监测范围从航空乘客流量到旅游网络平台,几乎无所不包。为此,中国航信的分析师密切关注着中国航空旅游业的一举一动,定期从将近10TB的数据中筛选资料,确认关键业绩指标,并预测行业发展趋势。而通过应用商业智能软件,中国航信的总体工作效率提高了90%,使得其能以更快的速度对数据进行分析,为客户及行业提供更及时的行业洞见。
2017年,分析将进一步得到普及,就像使用预测性分析在豆瓣FM上推荐音乐,或在京东上推荐商品一样,之前不曾关注过大数据分析的人员,比如驾驶员、店员等,也可以享受到数据分析给工作带来的便利。
3. 自助分析扩展至数据准备阶段
虽然自助式数据发现已经成为标准,但数据准备依然没有走出IT和数据专家群体。不过,这一情况将在2017年有所改变。高德纳认为“已经颠覆商业智能和分析市场的易用性和敏捷性趋势同样会在数据集成领域呈现”。数据解析、JSON和HTML导入以及数据整理之类的普通任务无需再分配给专家完成。不久之后,每个人都将能够在自己的分析流程中处理此类任务。
4. 人们开始以更加自然的方式处理数据
数据查看方式已经取得了长足的进步。我们已经有了用直观的拖放界面来取代脚本和数据透视表的技术,这些自然语言界面则成为了商业智能工具箱中的一款利器。作为中国骨干航空运输公司之一,中国东方航空公司目前在载客量方面已成为中国第二大航空运输公司,而在市场价值方面则位居世界第三。为了进一步加强市场调研、优化直飞航线并增加营收,中国东方航空公司利用Tableau对多种数据进行分析,并在六个月内开发了九个控制面板,高效快捷地对营销、各路航线营收等不同领域产生的数据进行分析。在2017,得益于自然语言处理和生成等方面的进步,数据界面将开始变得更加自然,从而让人们可以使用自然文字和语言与数据交互,让数据、图表和仪表板更加易于操作。
5. 物联网、云和大数据的汇合为自助式分析创造新的机会
物联网、云和大数据的发展将产生大量结构化与非结构化的数据,并被越来越多地部署到云服务中。仅就中国互联网BAT三巨头中的腾讯一家来看,其数据中心的数据存量截止至2016年6月已经超过1000PB,并以每天500TB的速度飞速上升。当然,由于这些数据常常分散在如Hadoop、NoSQL等不同系统,从而给数据访问与处理带来不便。而可以无缝连接和合并多种云端托管数据源的分析工具,则能够让终端用户得以轻松对任何地点、任何类型的数据进行探索和可视化,从而帮助其发现物联网中隐藏的机会。
上海贝尔股份有限公司是全方面电信解决方案的提供商。为了维护网络安全和稳定,准确迅速地发现和解决潜在问题,上海贝尔股份有限公司专业服务创新总监柳卿博士及其团队利用Tableau及其它数据处理工具对众多来源的数据进行分析。受业务性质影响,柳博士的团队常常要同时处理结构化和非结构化形式的数据。这些数据属于不同网络应用,并有6种以上不同的来源。为此,团队先通过Splunk清理数据,之后导入Tableau进行分析,实现对整个网络的多角度审视,从而更轻松地对网络全局进行控制和管理。
6. 数据素养成为未来的一项基础技能
2016年,领英将商业智能列为有利于求职的最热门技能之一。而在其于同年发布的基于中国互联网行业人才大数据分析得出的报告则显示,数据分析是目前最为稀缺的人才。2017年,随着大数据自助式分析时代的来临,数据分析将同Microsoft Word、Excel 和PowerPoint一样,成为各行业工作人员职业发展过程中的一项重要技能。面对这一发展趋势,包括清华大学、复旦大学、上海交通大学等知名学府在内的众多高校相继成立了个大数据研究学院,积极开展大数据分析领域的科学研究和人才培育。