先来一段到处都有的原理(出处到处都有,就不注明了)
Streaming和Kafka整合有两种方式--Receiver和Direct,简单理解为:Receiver方式是通过zookeeper来连接kafka队列,Direct方式是直接连接到kafka的节点上获取数据
Receiver: 1、Kafka中topic的partition与Spark中RDD的partition是没有关系的,因此,在KafkaUtils.createStream()中,提高partition的数量,只会增加Receiver的数量,也就是读取Kafka中topic partition的线程数量,不会增加Spark处理数据的并行度。 2、可以创建多个Kafka输入DStream,使用不同的consumer group和topic,来通过多个receiver并行接收数据。 3、如果基于容错的文件系统,比如HDFS,启用了预写日志机制,接收到的数据都会被复制一份到预写日志中。因此,在KafkaUtils.createStream()中,设置的持久化级别是StorageLevel.MEMORY_AND_DISK_SER。 Direct: 1、简化并行读取:如果要读取多个partition,不需要创建多个输入DStream,然后对它们进行union操作。Spark会创建跟Kafka partition一样多的RDD partition,并且会并行从Kafka中读取数据。所以在Kafka partition和RDD partition之间,有一个一对一的映射关系。 2、高性能:如果要保证零数据丢失,在基于receiver的方式中,需要开启WAL机制。这种方式其实效率低下,因为数据实际上被复制了两份,Kafka自己本身就有高可靠的机制会对数据复制一份,而这里又会复制一份到WAL中。而基于direct的方式,不依赖Receiver,不需要开启WAL机制,只要Kafka中作了数据的复制,那么就可以通过Kafka的副本进行恢复。 3、一次且仅一次的事务机制:基于receiver的方式,是使用Kafka的高阶API来在ZooKeeper中保存消费过的offset的。这是消费Kafka数据的传统方式。这种方式配合着WAL机制可以保证数据零丢失的高可靠性,但是却无法保证数据被处理一次且仅一次,可能会处理两次。因为Spark和ZooKeeper之间可能是不同步的。基于direct的方式,使用kafka的简单api,Spark Streaming自己就负责追踪消费的offset,并保存在checkpoint中。Spark自己一定是同步的,因此可以保证数据是消费一次且仅消费一次。由于数据消费偏移量是保存在checkpoint中,因此,如果后续想使用kafka高级API消费数据,需要手动的更新zookeeper中的偏移量 本来说网上搜一搜就解决了代码问题,但是大部分都是Spark1.X 的,对应的Kafka的createDirectStream 的传参方式不一样(也可能是我学的太浅),所以仿照spark1.X的写了个。 接下来直接上代码
package com.kafkaimport scala.collection.JavaConversions._import org.apache.curator.framework.CuratorFrameworkFactoryimport org.apache.curator.retry.ExponentialBackoffRetryimport org.apache.kafka.clients.consumer.ConsumerRecordimport org.mon.serialization.StringDeserializerimport org.mon.TopicPartitionimport org.apache.spark.SparkConfimport org.apache.spark.streaming.dstream.InputDStreamimport org.apache.spark.streaming.kafka010._import org.apache.spark.streaming.{Seconds, StreamingContext}import scala.collection.mutableobject KafkaZookeeperCheckPoint {// ZK clientval client = {val client = CuratorFrameworkFactory.builder.connectString("bigdata:2181,bigdata:2182,bigdata:2183").retryPolicy(new ExponentialBackoffRetry(1000, 3)).namespace("mykafka").build()client.start()client}// offset 路径起始位置val Globe_kafkaOffsetPath = "/kafka/offsets"// 路径确认函数 确认ZK中路径存在,不存在则创建该路径def ensureZKPathExists(path: String)={if (client.checkExists().forPath(path) == null) {client.create().creatingParentsIfNeeded().forPath(path)}}// 保存 新的 offsetdef storeOffsets(offsetRange: Array[OffsetRange], groupName:String) = {for (o <- offsetRange){val zkPath = s"${Globe_kafkaOffsetPath}/${groupName}/${o.topic}/${o.partition}"// 向对应分区第一次写入或者更新Offset 信息println("---Offset写入ZK------\nTopic:" + o.topic +", Partition:" + o.partition + ", Offset:" + o.untilOffset)client.setData().forPath(zkPath, o.untilOffset.toString.getBytes())}}def getFromOffset(topic: Array[String], groupName:String):(Map[TopicPartition, Long], Int) = {// Kafka 0.8和0.10的版本差别,0.10 为 TopicPartition 0.8 TopicAndPartitionvar fromOffset: Map[TopicPartition, Long] = Map()val topic1 = topic(0).toString// 读取ZK中保存的Offset,作为Dstrem的起始位置。如果没有则创建该路径,并从 0 开始Dstreamval zkTopicPath = s"${Globe_kafkaOffsetPath}/${groupName}/${topic1}"// 检查路径是否存在ensureZKPathExists(zkTopicPath)// 获取topic的子节点,即 分区val childrens = client.getChildren().forPath(zkTopicPath)// 遍历分区val offSets: mutable.Buffer[(TopicPartition, Long)] = for {p <- childrens}yield {// 遍历读取子节点中的数据:即 offsetval offsetData = client.getData().forPath(s"$zkTopicPath/$p")// 将offset转为Longval offSet = java.lang.Long.valueOf(new String(offsetData)).toLong// 返回 (TopicPartition, Long)(new TopicPartition(topic1, Integer.parseInt(p)), offSet)}println(offSets.toMap)if(offSets.isEmpty){(offSets.toMap, 0)} else {(offSets.toMap, 1)}}// if (client.checkExists().forPath(zkTopicPath) == null){////(null, 0)// }// else {//val data = client.getData.forPath(zkTopicPath)//println("----------offset info")//println(data)//println(data(0))//println(data(1))//val offSets = Map(new TopicPartition(topic1, 0) -> 7332.toLong)//println(offSets)//(offSets, 1)// }//// }def createMyZookeeperDirectKafkaStream(ssc:StreamingContext, kafkaParams:Map[String, Object], topic:Array[String],groupName:String ):InputDStream[ConsumerRecord[String, String]] = {// get offset flag = 1 表示基于已有的offset计算 flag = 表示从头开始(最早或者最新,根据Kafka配置)val (fromOffsets, flag) = getFromOffset(topic, groupName)var kafkaStream:InputDStream[ConsumerRecord[String, String]] = nullif (flag == 1){// 加上消息头//val messageHandler = (mmd:MessageAndMetadata[String, String]) => (mmd.topic, mmd.message())println(fromOffsets)kafkaStream = KafkaUtils.createDirectStream(ssc, LocationStrategies.PreferConsistent,ConsumerStrategies.Subscribe(topic, kafkaParams, fromOffsets))println(fromOffsets)println("中断后 Streaming 成功!")} else {kafkaStream = KafkaUtils.createDirectStream(ssc, LocationStrategies.PreferConsistent,ConsumerStrategies.Subscribe(topic, kafkaParams))println("首次 Streaming 成功!")}kafkaStream}def main(args: Array[String]): Unit = {val processInterval = 5val brokers = "bigdata:9092,bigdata:9093,bigdata:9094"val topics = Array("zkKafka")val conf = new SparkConf().setMaster("local[2]").setAppName("kafka checkpoint zookeeper")// kafka paramsval kafkaParams = Map[String, Object]("bootstrap.servers" -> brokers,"key.deserializer" -> classOf[StringDeserializer],"value.deserializer" -> classOf[StringDeserializer],"group.id" -> "zk_group","auto.offset.reset" -> "latest","mit" -> (false: java.lang.Boolean))val ssc = new StreamingContext(conf, Seconds(processInterval))val messages = createMyZookeeperDirectKafkaStream(ssc, kafkaParams, topics, "zk_group")messages.foreachRDD((rdd) => {if (!rdd.isEmpty()){println("###################:"+rdd.count())}// 存储新的offsetstoreOffsets(rdd.asInstanceOf[HasOffsetRanges].offsetRanges, "zk_group")})ssc.start()ssc.awaitTermination()}}
遇到的几个坑:
一、怎么传入 Offset,这个纠结了好久。后面是看createDirectStream的源代码看到 consumerStrategy.Subscribe 这个方法还有第三个参数,就是Offset
二、无法遍历topic的子节点(分区)
解决方案:
import scala.collection.JavaConversions._
这个是因为个人水平问题,不多说
三、TopicPartition和TopicAndPartition
spark2.X貌似只有TopicPartition了,这个方法也是看源码找到的,搜一下就有,就不截图了。
然后,实例化的时候,因为我的Topic是Array,在实例化TopicPartition的时候,需要先toString。不能TopicPartition(topic.toString, .... ,在里面toString会造成,实例化后的topic显示为乱码(这块不熟,谅解)。
如有问题,欢迎指正~
下次将Offset写入到Hbase的代码和遇到的坑写出来
最后,源码真的是个好东西~