【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data;此外,通过Maxcompute及其配套产品,低廉的大数据分析仅需几步,详情访问https://www.aliyun.com/product/odps


本讲义出自Ewen Cheslack Postava在Spark Summit East 2017上的演讲,主要介绍了面对使用Spark Streaming构建大规模实时数据管道的挑战,Kafka项目最近推出了新的工具—— Kafka Connect,该工具将帮助简化从Kafka导入和导出数据,Ewen Cheslack Postava分享了如何使用Kafka Connect和Spark Streaming构建实时数据管道。


【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道



【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道

【Spark Summit East 2017】 使用Kafka Connect和Spark Streaming构建实时数据管道