您的位置: 首页  >  文章  >  Kafka在window上安装部署

Kafka在window上安装部署

分类: 文章 • 2023-12-18 10:13:16

1.准备工作  

①jdk

  •  具体自行百度安装jdk,配置好 JAVA_HOME和path,
  • 下载地址:   http://www.oracle.com/technetwork/java/javase/downloads/index.html,
  •  注意,  选择1.8的版本,然后环境变量JAVA_HOME,不要选择默认的"C:\Program Files\Java\jdk1.8.0_151" , 因为文件夹路径不能有空格,后面可能启动kafka服务出错.

②zookeeper

  • 下载安装包：http://zookeeper.apache.org/releases.html#download
  • 解压目录: D:\Tool,

    1.进入Zookeeper设置目录，D:\Tool\zookeeper-3.4.13\conf
    2. 将“zoo_sample.cfg”重命名为“zoo.cfg”
    3. 在文本编辑器（如notepad）中打开zoo.cfg
    4. 找到并编辑dataDir=D:/Tool/zookeeper-3.4.13/tmp (可以自定义文件夹)
    5. 与Java中的做法类似，我们在系统环境变量中添加：
    　　a. 在系统变量中添加ZOOKEEPER_HOME =D:\Tool\zookeeper-3.4.13
    　　b. 编辑path系统变量，添加为路径 %ZOOKEEPER_HOME%\bin;
    6. 在zoo.cfg文件中修改默认的Zookeeper端口（默认端口2181,可以不用修改）

  • 测试 : 打开新的cmd，输入zkServer，运行Zookeeper,成功如下所示,

Kafka在window上安装部署

 

③kafka

  • 下载 http://kafka.apache.org/downloads.html,注意要下载二进制版本的,

              Kafka在window上安装部署

解压到目录 D:\Tool\kafka_2.11-2.1.1

1. 编辑文件Kafka配置文件， D:\Tool\kafka_2.11-2.1.1\config\server.properties
2. 找到并编辑log.dirs=D:\Tool\kafka_2.11-2.1.1\kafka-log, (自定义文件夹)
3. 找到并编辑zookeeper.connect=localhost:2181。表示本地运行(默认的可以不改)
4. Kafka会按照默认，在9092端口上运行，并连接zookeeper的默认端口：2181。

 

运行kafka

提示：请确保启动kafka服务器前，Zookeeper实例已经在运行，因为kafka的运行是需要zookeeper这种分布式应用程序协调服务。

①进入kafka安装目录D:\bigdata\kafka_2.11-0.9.0.1

②按下shift+鼠标右键，选择"在此处打开命令窗口"，打开命令行。

③在命令行中输入：.\bin\windows\kafka-server-start.bat .\config\server.properties   回车。

④正确运行的情况为：

Kafka在window上安装部署

到目前为止，zookeeper以及kafka都已正确运行。保持运行状态，不要关闭。

 


重要（操作日志的处理）：

 

kafka启动后，如果你去查看kafka所在的根目录，或者是kafka本身的目录，会发现已经默认生成一堆操作日志(这样看起来真心很乱)：

Kafka在window上安装部署

而且会不断生成不同时间戳的操作日志。刚开始不知所措，一番研究后，看了启动的脚本内容，发现启动的时候是会默认使用到这个log4j.properties文件中的配置，而在zoo.cfg是不会看到本身的启动会调用到这个，还以为只有那一个日志路径：

Kafka在window上安装部署

在这里配置一下就可以了，找到config下的log4j.properties：

Kafka在window上安装部署

将路径更改下即可，这样就可以归档在一个文件夹下边了，路径根据自己喜好定义：

Kafka在window上安装部署

另外如何消除不断生成日志的问题，就是同一天的不同时间会不停生成。

修改这里，还是在log4j.properties中：

Kafka在window上安装部署

本身都为trace，字面理解为会生成一堆跟踪日志，将其改为INFO即可。

 

2.5 创建主题

①创建主题，命名为"test0811"，replicationfactor=1(因为只有一个kafka服务器在运行)。可根据集群中kafka服务器个数来修改replicationfactor的数量，以便提高系统容错性等。

②在D:\bigdata\kafka_2.11-0.9.0.1\bin\windows目录下打开新的命令行

③输入命令：

kafka-topics.bat --create --zookeeper localhost:2181 --replication-factor 1 --partitions 1 --topic test0811

回车。 

Kafka在window上安装部署

该窗口可以关闭。

 

2.6 创建生产者(producer)和消费者(consumer)

①在D:\bigdata\kafka_2.11-0.9.0.1\bin\windows目录下打开新的命令行。

②输入命令，启动producer：

kafka-console-producer.bat --broker-list localhost:9092 --topic test0811 

该窗口不要关闭。

③同样在该目录下打开新的命令行。

④输入命令，启动consumer：

kafka-console-consumer.bat --zookeeper localhost:2181 --topic test0811

Kafka在window上安装部署

现在生产者、消费者均已创建完成。

⑤在producer命令行窗口中任意输入内容，回车  在consumer命令行窗口中即可看到相应的内容。

Kafka在window上安装部署

至此，已完成kafka在windows下的安装和基本的使用。

相关推荐