windos下安装运行kafka(详细,图文并茂)

 

安装kafka之前先安装JDK.....

一:安装Zookeeper 

Kafka的运行依赖于Zookeeper,所以在运行Kafka之前我们需要安装并运行Zookeeper 

1:下载安装文件:https://download.csdn.net/download/weixin_33446857/10624824

2:解压文件(本文解压到 H:\JAVA\yingyong\kafka) 

3:打开H:\JAVA\yingyong\kafka\zookeeper-3.4.6\conf,把zoo_sample.cfg重命名成zoo.cfg

更改前:

windos下安装运行kafka(详细,图文并茂)

更改后:

windos下安装运行kafka(详细,图文并茂)

4: 在任意文本编辑器(如notepad)中打开zoo.cfg,修改dataDir保存路径

如:dataDir=H:/JAVA/yingyong/kafka/zookeeper-3.4.6/logs

或者 dataDir=H:\\JAVA\\yingyong\\kafka\\zookeeper-3.4.6\\logs

(路径根据自己实际需要设置)

注意:路径要么是"/"分割,要么是转义字符"\\",这样会生成正确的路径(层级,子目录)。

 

默认端口是2181,如果需要更改也可以在zoo.cfg里面修改  (本文未做修改)

clientPort=2181

更改前:

windos下安装运行kafka(详细,图文并茂)

更改后:

windos下安装运行kafka(详细,图文并茂)

5: 添加系统变量:ZOOKEEPER_HOME= H:\JAVA\yingyong\kafka\zookeeper-3.4.6

(路径根据自己实际更改)

编辑path系统变量,添加路径:%ZOOKEEPER_HOME%\bin

windos下安装运行kafka(详细,图文并茂)

windos下安装运行kafka(详细,图文并茂)

6:打开cmd,输入zkServer,运行Zookeeper。

7:命令行提示如下:说明本地Zookeeper启动成功

windos下安装运行kafka(详细,图文并茂)

恭喜,Zookeeper已经安装完成,已在2181端口运行。

注意:不要关了这个(cmd)窗口

二:安装并运行Kafka 

1:下载地址:https://download.csdn.net/download/weixin_33446857/10624845

2:解压文件(本文解压到 H:\JAVA\yingyong\kafka)

3:进入kafka配置文件所在目录,H:\JAVA\yingyong\kafka\kafka_2.11-0.10.0.1\config,使用任意文本编辑器(如notepad)中打开

server.properties文件,

将log.dirs=/tmp/kafka-logs更改为:

log.dirs=H:/JAVA/yingyong/kafka/kafka_2.11-0.10.0.1/kafka-logs

或者

log.dirs=H:\\JAVA\\yingyong\\kafka\\kafka_2.11-0.10.0.1\\kafka-logs

同样注意:路径要么是"/"分割,要么是转义字符"\\",这样会生成正确的路径(层级,子目录)。

windos下安装运行kafka(详细,图文并茂)

4:在server.properties文件中,zookeeper.connect=localhost:2181代表kafka所连接的zookeeper所在的服务器IP以及端口,可根据需要更改。本文在同一台机器上使用,故不用修改。

5:kafka会按照默认配置,在9092端口上运行,并连接zookeeper的默认端口2181。

三:运行kafka

提示:请确保启动kafka服务器前,Zookeeper实例已经在运行,因为kafka的运行是需要zookeeper这种分布式应用程序协调服务。

1:打开cmd,进入kafka安装目录,H:\JAVA\yingyong\kafka\kafka_2.11-0.10.0.1

windos下安装运行kafka(详细,图文并茂)

2:在命令行中输入:.\bin\windows\kafka-server-start.bat .\config\server.properties   回车。

如果出现:

windos下安装运行kafka(详细,图文并茂)

解决:在kafka安装目录中找到bin\windows目录中的kafka-run-class.bat中,加" "号,如下

修改前: 
set COMMAND=%JAVA% %KAFKA_HEAP_OPTS% %KAFKA_JVM_PERFORMANCE_OPTS% %KAFKA_JMX_OPTS% %KAFKA_LOG4J_OPTS% -cp %CLASSPATH% %KAFKA_OPTS% %* 

windos下安装运行kafka(详细,图文并茂)

 

修改后: 

set COMMAND=%JAVA% %KAFKA_HEAP_OPTS% %KAFKA_JVM_PERFORMANCE_OPTS% %KAFKA_JMX_OPTS% %KAFKA_LOG4J_OPTS% -cp "%CLASSPATH%" %KAFKA_OPTS% %*

windos下安装运行kafka(详细,图文并茂)

保存完成后,再次执行  .\bin\windows\kafka-server-start.bat .\config\server.properties

正常情况 如下图:

windos下安装运行kafka(详细,图文并茂)

到目前为止,zookeeper以及kafka都已正确运行。保持运行状态,不要关闭。

 

重要(操作日志的处理):

kafka启动后,在kafka安装目录下有个logs目录,里面默认生成一堆操作日志,而且会不断生成不同时间戳的操作日志。(这样看起来真心很乱):

windos下安装运行kafka(详细,图文并茂)

 

这是因为,启动的时候是会默认使用到config目录下log4j.properties文件中的配置

找到config下的log4j.properties

windos下安装运行kafka(详细,图文并茂)

 

编辑log4j.properties,将路径更改下即可,这样就可以归档在一个文件夹下边了,路径根据自己喜好定义:

windos下安装运行kafka(详细,图文并茂)

当以后再启动kafka时,会在kafka安装目录下创建start-logs目录,里面存放日志。

另外如何消除不断生成日志的问题,就是同一天的不同时间会不停生成。

修改这里,还是在log4j.properties中:

windos下安装运行kafka(详细,图文并茂)

本身都为trace,字面理解为会生成一堆跟踪日志,将其改为INFO即可。