Kafka+Storm+Elasticsearch整合实时数据的示例分析

本篇文章给大家分享的是有关Kafka+Storm+Elasticsearch整合实时数据的示例分析，小编觉得挺实用的，因此分享给大家学习，希望大家阅读完这篇文章后可以有所收获，话不多说，跟着小编一起来看看吧。

创新互联建站公司2013年成立，先为察哈尔右翼中旗等服务建站，察哈尔右翼中旗等地企业，进行企业商务咨询服务。为察哈尔右翼中旗企业网站制作PC+手机+微官网三网同步一站式服务解决您的所有建站问题。

由于最近一个报文调阅系统的需求，在需求重，可能会涉及到报文数据的清洗落地，数据来源由网络爬虫实现（初步采用python scrapy实现），通过python-kafka发送MQ消息至本系统kafka服务，接收到消息后基于storm的KafkaSpout实现对数据的处理后统一落地至ES，详细流程如下图：

环境准备

由于环境有限，测试环境只提供了一个本地环境，即所有基于集群部署的服务均以LOCAL模式测试，具体集群部署，可参考其它资料，我这里只做代码开发，最终应用不影响。

服务器：ubuntu server 17.10
JVM环境：jdk_1.8.0_91_64bit
服务治理：zookeeper-3.4.9
实时计算：apache-storm-1.2.2
消息队列：kafka_2.11-2.0.0
索引存储：elasticsearch-5.6.10
--------------------- 
版权声明：本文为CSDN博主「tanwei_」的原创文章，遵循CC 4.0 by-sa版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/u012935820/article/details/82378609

应用开发

1、项目基于maven构建，依赖整个方便，项目架构如图：

2、项目POM

    4.0.0

    com.sdnware.news
    news-kafka-storm
    1.0

    
        UTF-8
        UTF-8
        1.8
        4.12
        2.0.0
        1.2.2
        1.2.2
        1.2.2
        1.18.2
        2.8.5
    

    
        
            junit
            junit
            ${junit.version}
            test
        
        
            org.apache.kafka
            kafka_2.12
            ${kafka.version}
            
                
                    org.apache.zookeeper
                    zookeeper
                
                
                    org.slf4j
                    slf4j-api
                
                
                    log4j
                    log4j
                
            
        
        
            org.apache.storm
            storm-core
            ${storm.version}
            
            
        
        
            org.projectlombok
            lombok
            ${lombok.version}
            provided
        
        
            com.google.code.gson
            gson
            ${gson.version}
        
        
            org.apache.storm
            storm-kafka-client
            ${storm-kafka.version}
            compile
        
        
            org.apache.storm
            storm-elasticsearch
            ${storm-elasticsearch.version}
        
    

    
        
            
                maven-assembly-plugin
                
                    
                        
                            com.sdnware.news.topo.KafkaTopology
                        
                    
                    
                        jar-with-dependencies
                    
                
                
                    
                        make-assembly
                        package
                        
                            assembly
                        
                    
                
            
            
                maven-compiler-plugin
                
                    1.8
                    1.8
                    UTF-8
                
            
        
    

3、基于storm-kafka的开发

注：在storm1.x以前，官方提供了storm-kafka的maven插件开发，在1.x以后虽然可用，但已经过期了，官方推荐storm-kafka-client来做开发，也是非常方便。

在开发storm实现，我们基本是针对一个topology来开发业务，本例中直接编写KafkaTopology：

package com.sdnware.news.topo;

import com.google.gson.Gson;
import com.sdnware.news.pojo.UserInfo;
import org.apache.storm.Config;
import org.apache.storm.LocalCluster;
import org.apache.storm.StormSubmitter;
import org.apache.storm.elasticsearch.bolt.EsIndexBolt;
import org.apache.storm.elasticsearch.common.DefaultEsTupleMapper;
import org.apache.storm.elasticsearch.common.EsConfig;
import org.apache.storm.elasticsearch.common.EsTupleMapper;
import org.apache.storm.kafka.spout.KafkaSpout;
import org.apache.storm.kafka.spout.KafkaSpoutConfig;
import org.apache.storm.topology.BasicOutputCollector;
import org.apache.storm.topology.OutputFieldsDeclarer;
import org.apache.storm.topology.TopologyBuilder;
import org.apache.storm.topology.base.BaseBasicBolt;
import org.apache.storm.tuple.Fields;
import org.apache.storm.tuple.Tuple;
import org.apache.storm.tuple.Values;

import java.util.Properties;
import java.util.UUID;


/**
 * Created by sdnware on 18-8-31.
 */
public class KafkaTopology {

    public static void main(String[] args) throws Exception{

        /** 这里只是基于storm-kafka编写的一段伪代码：
        BrokerHosts zkHosts = new ZkHosts(ZK_HOSTS);
        SpoutConfig config = new SpoutConfig(zkHosts, KAFKA_TOPIC, ZK_ROOT + KAFKA_TOPIC,
                UUID.randomUUID().toString());
        config.scheme = new SchemeAsMultiScheme(new StringScheme());
        config.zkServers = Arrays.asList(ZK_SERVERS.split(","));
        config.zkPort = ZK_PORT;
        config.socketTimeoutMs = socketTimeoutMs; **/

        TopologyBuilder topologyBuilder = new TopologyBuilder(); // 定义topo构造器
        Properties properties = new Properties();
        properties.setProperty("group.id", "test-news-topic"); // kafka server的基本配置
        // 定义一个KafkaSpoutConfig
        KafkaSpoutConfig kafkaSpoutConfig = KafkaSpoutConfig.builder("192.168.100.39:9092",
                "news-topic")
                .setFirstPollOffsetStrategy(KafkaSpoutConfig.FirstPollOffsetStrategy.UNCOMMITTED_EARLIEST)
                .setProp(properties).build();
        KafkaSpout kafkaSpout = new KafkaSpout<>(kafkaSpoutConfig); // KafkaSpout实现
        topologyBuilder.setSpout("kafka-spout", kafkaSpout, 1); // 注入Spout
        topologyBuilder.setBolt("kafka-bolt", new NewsBlot(), 1).shuffleGrouping("kafka-spout"); // 通过storm获取kafka-spout数据

        EsConfig esConfig = new EsConfig(new String[]{"http://192.168.100.39:9200"}); // 定义一个ES的配置信息
        EsTupleMapper esTupleMapper = new DefaultEsTupleMapper(); // 定义ES的默认映射
        EsIndexBolt indexBolt = new EsIndexBolt(esConfig, esTupleMapper); //定义一个索引Bolt
        topologyBuilder.setBolt("es-bolt", indexBolt, 1).shuffleGrouping("kafka-bolt"); // 向topology注入indexBolt以处理kafka-bolt的数据

	// 提交到storm集群
        Config config = new Config();
        config.setMessageTimeoutSecs(90);
        if (args.length > 0) { // 集群模式
            config.setDebug(false);
            StormSubmitter.submitTopology(args[0],
                    config, topologyBuilder.createTopology());
        } else { // 本地测试模式，一般测试使用这个
//            config.setDebug(true);
            config.setNumWorkers(2);
            LocalCluster cluster = new LocalCluster();
            cluster.submitTopology("local-kafka-storm-topology",
                    config, topologyBuilder.createTopology());
        }
    }

    // 自定义处理一个kafka的消息映射Bolt
    static class NewsBlot extends BaseBasicBolt {
        
        // 当有消息时执行，封装消息发送，格式与定义输出字段一一对应declarer.declare（xxx）
        public void execute(Tuple input, BasicOutputCollector collector) {
            // System.err.println(input.getValues());
            String id = UUID.randomUUID().toString();
            UserInfo userInfo = new UserInfo();
            userInfo.setId(id);
            userInfo.setUsername("tanwei");
            userInfo.setPassword("sdnware");
            Gson gson = new Gson();
            String source = gson.toJson(userInfo);
            collector.emit(new Values(source, "idx_sys", "tb_user", id));
        }

        // 定义消息发送的字段映射，这里是EsTupleMapper所需要的字段映射逻辑，可跟踪源代码理解
        public void declareOutputFields(OutputFieldsDeclarer declarer) {
            declarer.declare(new Fields("source", "index", "type", "id"));
        }
    }
}

在上面代码中，有些人可能会很疑惑，为什么没有看到storm的配置？代码运行就能找到storm吗，这个我第一次开发时也很疑惑，后面跟踪源码，发现所有storm配置都是基于storm-core这个包中的defaults.yaml来运行的，具体修改参照官方说明，我这里是本地测试，所以不影响测试。
在NewsBlot这个类中execute方法，由于是接受到kafka的消息，默认Tuple是一个List，包含了kafka的topic、group、offset、message信息，正式环境我们需要按业务需求封装message为一个我们所要存储到ES中的数据格式，这里测试我简单模拟了一个NewsInfo对象信息存储，一般ES的source是一个json格式，key表示ES中的字段，value即为对应值。

后记

由于只是简单写了一个demo，大概介绍了其基本实现，在整个报文系统中，需要考虑到数据的定向分组消费等问题，总之，万变不离其宗，多看源码，豁然开朗。

以上就是Kafka+Storm+Elasticsearch整合实时数据的示例分析，小编相信有部分知识点可能是我们日常工作会见到或用到的。希望你能通过这篇文章学到更多知识。更多详情敬请关注创新互联行业资讯频道。

本文名称：Kafka+Storm+Elasticsearch整合实时数据的示例分析
文章出自：http://cdiso.cn/article/ijodih.html