许多分布式计算系统都可以实时或接近实时地处理大数据流。本文将对三种Apache框架分别进行简单介绍，然后尝试快速、高度概述其异同。 Apache Storm 在Storm中，先要设计一个用于实时计算的图状结构，我们称之为拓扑（topology）。这个拓扑将会被提交给集群，由集群中的主控节点（master node）分发代码，将任务分配给工作……

HDFS+MapReduce+Hive十分钟快速入门 1.     前言 本文的目的是让一个从未接触Hadoop的人，在很短的时间内快速上手，掌握编译、安装和简单的使用。 2.     Hadoop家族 截止2009-8-19日，整个Hadoop家族由以下几个子项目组成： 成员名 用途 备注 Hadoop Common Hadoop体系最底层的一个模块，为Hadoop各子项目提供各种……

问题导读 1.flume在框架中的作用是什么？ 2.Kafka是消息中间件，它有什么特点？ 3.kafka和storm如何整合？ 4.flume和kafka如何整合？ 序言 前段时间学习了storm，最近刚开blog，就把这些资料放上来供大家参考。这个框架用的组件基本都是最新稳定版本，flume-ng1.4+kafka0.8+storm0.9+mysql如果有需要测试项目代码的朋友，……

Flume-ng Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。   Flume的文档可以看http://flume.apache.org/FlumeUserGuide.html 官方的英文文档 介绍的比较全面。 不过这里写写自己的见解 这个是flume的架构图 从上图可以看到几个名词： Agent: 一个Agent包含Source、Channel、Sink和其他的组……

Storm源码浅析之topology的提交 http://www.blogjava.net/killme2008/archive/2011/11/17/364112.html 基于storm的实时GPS数据客流特征分析系统 http://blog.sina.com.cn/s/blog_5ca749810101ceqz.html Storm实现实时feed信息处理 http://macrochen.iteye.com/blog/1389305 http://www.datasalt.com/2012/01/real-time-fe……