先来一段到处都有的原理（出处到处都有，就不注明了）
Streaming和Kafka整合有两种方式--Receiver和Direct，简单理解为：Receiver方式是通过zookeeper来连接kafka队列，Direct方式是直接连接到kafka的节点上获取数据
Receiver: 1、Kafka中topic的partition与Spark中RDD的partition是没有关系的，因此，在KafkaUtils.createStream()中，提高partition的数量，只会增加Receiver的数量，也就是读取Kafka中topic partition的线程数量，不会增加Spark处理数据的并行度。 2、可以创建多个Kafka输入DStream，使用不同的consumer group和topic，来通过多个receiver并行接收数据。 3、如果基于容错的文件系统，比如HDFS，启用了预写日志机制，接收到的数据都会被复制一份到预写日志中。因此，在KafkaUtils.createStream()中，设置的持久化级别是StorageLevel.MEMORY_AND_DISK_SER。 Direct： 1、简化并行读取：如果要读取多个partition，不需要创建多个输入DStream，然后对它们进行union操作。Spark会创建跟Kafka partition一样多的RDD partition，并且会并行从Kafka中读取数据。所以在Kafka partition和RDD partition之间，有一个一对一的映射关系。 2、高性能：如果要保证零数据丢失，在基于receiver的方式中，需要开启WAL机制。这种方式其实效率低下，因为数据实际上被复制了两份，Kafka自己本身就有高可靠的机制会对数据复制一份，而这里又会复制一份到WAL中。而基于direct的方式，不依赖Receiver，不需要开启WAL机制，只要Kafka中作了数据的复制，那么就可以通过Kafka的副本进行恢复。 3、一次且仅一次的事务机制：基于receiver的方式，是使用Kafka的高阶API来在ZooKeeper中保存消费过的offset的。这是消费Kafka数据的传统方式。这种方式配合着WAL机制可以保证数据零丢失的高可靠性，但是却无法保证数据被处理一次且仅一次，可能会处理两次。因为Spark和ZooKeeper之间可能是不同步的。基于direct的方式，使用kafka的简单api，Spark Streaming自己就负责追踪消费的offset，并保存在checkpoint中。Spark自己一定是同步的，因此可以保证数据是消费一次且仅消费一次。由于数据消费偏移量是保存在checkpoint中，因此，如果后续想使用kafka高级API消费数据，需要手动的更新zookeeper中的偏移量 本来说网上搜一搜就解决了代码问题，但是大部分都是Spark1.X 的，对应的Kafka的createDirectStream 的传参方式不一样（也可能是我学的太浅），所以仿照spark1.X的写了个。 接下来直接上代码
package com.kafkaimport scala.collection.JavaConversions._import org.apache.curator.framework.CuratorFrameworkFactoryimport org.apache.curator.retry.ExponentialBackoffRetryimport org.apache.kafka.clients.consumer.ConsumerRecordimport org.mon.serialization.StringDeserializerimport org.mon.TopicPartitionimport org.apache.spark.SparkConfimport org.apache.spark.streaming.dstream.InputDStreamimport org.apache.spark.streaming.kafka010._import org.apache.spark.streaming.{Seconds, StreamingContext}import scala.collection.mutableobject KafkaZookeeperCheckPoint {// ZK clientval client = {val client = CuratorFrameworkFactory.builder.connectString("bigdata:2181,bigdata:2182,bigdata:2183").retryPolicy(new ExponentialBackoffRetry(1000, 3)).namespace("mykafka").build()client.start()client}// offset 路径起始位置val Globe_kafkaOffsetPath = "/kafka/offsets"// 路径确认函数 确认ZK中路径存在，不存在则创建该路径def ensureZKPathExists(path: String)={if (client.checkExists().forPath(path) == null) {client.create().creatingParentsIfNeeded().forPath(path)}}// 保存 新的 offsetdef storeOffsets(offsetRange: Array[OffsetRange], groupName:String) = {for (o <- offsetRange){val zkPath = s"${Globe_kafkaOffsetPath}/${groupName}/${o.topic}/${o.partition}"// 向对应分区第一次写入或者更新Offset 信息println("---Offset写入ZK------\nTopic：" + o.topic +", Partition:" + o.partition + ", Offset:" + o.untilOffset)client.setData().forPath(zkPath, o.untilOffset.toString.getBytes())}}def getFromOffset(topic: Array[String], groupName:String):(Map[TopicPartition, Long], Int) = {// Kafka 0.8和0.10的版本差别，0.10 为 TopicPartition 0.8 TopicAndPartitionvar fromOffset: Map[TopicPartition, Long] = Map()val topic1 = topic(0).toString// 读取ZK中保存的Offset，作为Dstrem的起始位置。如果没有则创建该路径，并从 0 开始Dstreamval zkTopicPath = s"${Globe_kafkaOffsetPath}/${groupName}/${topic1}"// 检查路径是否存在ensureZKPathExists(zkTopicPath)// 获取topic的子节点，即 分区val childrens = client.getChildren().forPath(zkTopicPath)// 遍历分区val offSets: mutable.Buffer[(TopicPartition, Long)] = for {p <- childrens}yield {// 遍历读取子节点中的数据：即 offsetval offsetData = client.getData().forPath(s"$zkTopicPath/$p")// 将offset转为Longval offSet = java.lang.Long.valueOf(new String(offsetData)).toLong// 返回 (TopicPartition, Long)(new TopicPartition(topic1, Integer.parseInt(p)), offSet)}println(offSets.toMap)if(offSets.isEmpty){(offSets.toMap, 0)} else {(offSets.toMap, 1)}}// if (client.checkExists().forPath(zkTopicPath) == null){////(null, 0)// }// else {//val data = client.getData.forPath(zkTopicPath)//println("----------offset info")//println(data)//println(data(0))//println(data(1))//val offSets = Map(new TopicPartition(topic1, 0) -> 7332.toLong)//println(offSets)//(offSets, 1)// }//// }def createMyZookeeperDirectKafkaStream(ssc:StreamingContext, kafkaParams:Map[String, Object], topic:Array[String],groupName:String ):InputDStream[ConsumerRecord[String, String]] = {// get offset flag = 1 表示基于已有的offset计算 flag = 表示从头开始(最早或者最新，根据Kafka配置)val (fromOffsets, flag) = getFromOffset(topic, groupName)var kafkaStream:InputDStream[ConsumerRecord[String, String]] = nullif (flag == 1){// 加上消息头//val messageHandler = (mmd:MessageAndMetadata[String, String]) => (mmd.topic, mmd.message())println(fromOffsets)kafkaStream = KafkaUtils.createDirectStream(ssc, LocationStrategies.PreferConsistent,ConsumerStrategies.Subscribe(topic, kafkaParams, fromOffsets))println(fromOffsets)println("中断后 Streaming 成功！")} else {kafkaStream = KafkaUtils.createDirectStream(ssc, LocationStrategies.PreferConsistent,ConsumerStrategies.Subscribe(topic, kafkaParams))println("首次 Streaming 成功！")}kafkaStream}def main(args: Array[String]): Unit = {val processInterval = 5val brokers = "bigdata:9092,bigdata:9093,bigdata:9094"val topics = Array("zkKafka")val conf = new SparkConf().setMaster("local[2]").setAppName("kafka checkpoint zookeeper")// kafka paramsval kafkaParams = Map[String, Object]("bootstrap.servers" -> brokers,"key.deserializer" -> classOf[StringDeserializer],"value.deserializer" -> classOf[StringDeserializer],"group.id" -> "zk_group","auto.offset.reset" -> "latest","mit" -> (false: java.lang.Boolean))val ssc = new StreamingContext(conf, Seconds(processInterval))val messages = createMyZookeeperDirectKafkaStream(ssc, kafkaParams, topics, "zk_group")messages.foreachRDD((rdd) => {if (!rdd.isEmpty()){println("###################:"+rdd.count())}// 存储新的offsetstoreOffsets(rdd.asInstanceOf[HasOffsetRanges].offsetRanges, "zk_group")})ssc.start()ssc.awaitTermination()}}
遇到的几个坑：
一、怎么传入 Offset，这个纠结了好久。后面是看createDirectStream的源代码看到 consumerStrategy.Subscribe 这个方法还有第三个参数，就是Offset
二、无法遍历topic的子节点（分区）
解决方案：
import scala.collection.JavaConversions._
这个是因为个人水平问题，不多说
三、TopicPartition和TopicAndPartition
spark2.X貌似只有TopicPartition了，这个方法也是看源码找到的，搜一下就有，就不截图了。
然后，实例化的时候，因为我的Topic是Array，在实例化TopicPartition的时候，需要先toString。不能TopicPartition(topic.toString, .... ，在里面toString会造成，实例化后的topic显示为乱码（这块不熟，谅解）。
如有问题，欢迎指正～
下次将Offset写入到Hbase的代码和遇到的坑写出来
最后，源码真的是个好东西～
