分类目录:分布式

以下是分类 分布式 下的所有文章

centos7.5 安装rabbitmq 3.8.2 和 rabbitmq_delayed_message_exchange

前置条件 由于rabbitmq需要erlang环境,在安装前,先要安装好erlang,才能安装rabbitmq,然后下载插件,最后enable插件。 1、安装erlang 1.1 、安装erlang的依赖 yum -y install make gcc gcc-c++ kernel-devel m4 ncurses-devel openssl-devel 1.2、下载erlang rpm包 wget https://packages.erlang-solutions.com/erlang……

nacos与apollo

目前正在做技术的调研与选型,使用springcloud的架构,在使用配置管理和注册中心上,比较了nacos和apollo。 首先研究的是apollo,这个是携程出品的,功能很强大,由portal、admin、config(带meta-server、eureka)。 如果要使用自己的注册中心,需要在启动的start.sh 里添加 export JAVA_OPTS=”$JAVA_OPTS -Dapoll……

大数据架构:flume-ng+Kafka+Storm+HDFS 实时系统组合

个人观点:大数据我们都知道hadoop,但并不都是hadoop.我们该如何构建大数据库项目。对于离线处理,hadoop还是比较适合的,但是对于实时性比较强的,数据量比较大的,我们可以采用Storm,那么Storm和什么技术搭配,才能够做一个适合自己的项目。下面给大家可以参考。 可以带着下面问题来阅读本文章: 1.一个好的项目架构……

实时计算,流数据处理系统简介与简单分析

一. 实时计算的概念 实时计算一般都是针对海量数据进行的,一般要求为秒级。实时计算主要分为两块:数据的实时入库、数据的实时计算。 主要应用的场景: 1) 数据源是实时的不间断的,要求用户的响应时间也是实时的(比如对于大型网站的流式数据:网站的访问PV/UV、用户访问了什么内容、搜索了什么内容等,实时的数据计算……

流式大数据处理的三种框架:Storm,Spark和Samza

许多分布式计算系统都可以实时或接近实时地处理大数据流。本文将对三种Apache框架分别进行简单介绍,然后尝试快速、高度概述其异同。 Apache Storm 在Storm中,先要设计一个用于实时计算的图状结构,我们称之为拓扑(topology)。这个拓扑将会被提交给集群,由集群中的主控节点(master node)分发代码,将任务分配给工作……

HDFS+MapReduce+Hive快速入门

HDFS+MapReduce+Hive十分钟快速入门 1.     前言 本文的目的是让一个从未接触Hadoop的人,在很短的时间内快速上手,掌握编译、安装和简单的使用。 2.     Hadoop家族 截止2009-8-19日,整个Hadoop家族由以下几个子项目组成: 成员名 用途 备注 Hadoop Common Hadoop体系最底层的一个模块,为Hadoop各子项目提供各种……

flume+storm+kafka+mysql架构设计整合及介绍

问题导读 1.flume在框架中的作用是什么? 2.Kafka是消息中间件,它有什么特点? 3.kafka和storm如何整合? 4.flume和kafka如何整合? 序言 前段时间学习了storm,最近刚开blog,就把这些资料放上来供大家参考。这个框架用的组件基本都是最新稳定版本,flume-ng1.4+kafka0.8+storm0.9+mysql如果有需要测试项目代码的朋友,……

Flume-ng+Kafka+storm的学习笔记

Flume-ng Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。   Flume的文档可以看http://flume.apache.org/FlumeUserGuide.html 官方的英文文档 介绍的比较全面。 不过这里写写自己的见解 这个是flume的架构图 从上图可以看到几个名词: Agent: 一个Agent包含Source、Channel、Sink和其他的组……

storm 例子 记录

Storm源码浅析之topology的提交 http://www.blogjava.net/killme2008/archive/2011/11/17/364112.html 基于storm的实时GPS数据客流特征分析系统 http://blog.sina.com.cn/s/blog_5ca749810101ceqz.html Storm实现实时feed信息处理 http://macrochen.iteye.com/blog/1389305 http://www.datasalt.com/2012/01/real-time-fe……