十大最热门的大数据技术（2）

流式分析：目前流式计算是业界研究的一个热点，最近Twitter、LinkedIn等公司相继开源了流式计算系统Storm、Kafka等，加上Yahoo!之前开源的S4，流式计算研究在互联网领域持续升温，流式分析可以对多个高吞吐量的数据源进行实时的清洗、聚合和分析;对存在于社交网站、博客、电子邮件、视频、新闻、电话记录、传输数据、电子感应器之中的数字格式的信息流进行快速处理并反馈的需求。目前大数据流分析平台有很多、如开源的spark，以及ibm的 streams ;感兴趣的可以了解详情;地址： http://bigdata.evget.com/product/201.html

内存数据结构：通过动态随机内存访问(DRAM)、Flash和SSD等分布式存储系统提供海量数据的低延时访问和处理;

分布式存储系统：分布式存储是指存储节点大于一个、数据保存多副本以及高性能的计算网络;利用多台存储服务器分担存储负荷，利用位置服务器定位存储信息，它不但提高了系统的可靠性、可用性和存取效率，还易于扩展。当前开源的HDFS还是非常不错，有需要的朋友可以深入了解一下。

数据可视化：数据可视化技术是指对各类型数据源(包括Hadoop上的海量数据以及实时和接近实时的分布式数据)进行显示;当前国内外数据分析展示的产品很多，如果是企业单位以及政府单位建议使用 cognos ，安全、稳定、功能强大、支持大数据、非常不错的选择。这里还有试用版提供给大家： http://bigdata.evget.com/product/200.html

数据整合：通过亚马逊弹性MR(EMR)、Hive、Pig、Spark、MapReduce、Couchbase、Hadoop和MongoDB等软件进行业务数据整合;

数据预处理：数据整合是指对数据源进行清洗、裁剪，并共享多样化数据来加快数据分析;

数据校验：对分布式存储系统和数据库上的海量、高频率数据集进行数据校验，去除非法数据，补全缺失。

数据整合、处理、校验在目前已经统称为 ETL ，ETL过程可以把结构化数据以及非结构化数据进行清洗、抽取、转换成你需要的数据、同时还可以保障数据的安全性以及完整性、关于ETL的产品推荐使用 datastage 就行、对于任何数据源都可以完美处理。

（续完）

（摘编自 微信公众号 芝诺数据分析）