Kafka详解(二)

news/2024/7/5 3:05:32

Kafka命令行操作

在这里插入图片描述

[aa@hadoop102 ~]$ cd /opt/module/kafka/bin/
[aa@hadoop102 bin]$ ll 
可以看到自带了zookeeper

在这里插入图片描述

主题命令行操作

  1. 查看操作主题命令需要的参数
[aa@hadoop102 kafka]$ bin/kafka-topics.sh
  1. 重要的参数如下
  2. 在这里插入图片描述
  3. 查看当前服务器中的所有topic
[aa@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --list
  1. 创建一个主题名为first的topic
[aa@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --create --replication-factor 3 --partitions 1 --topic first
  1. 查看Topic的详情
[aa@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic first
Topic: first    TopicId: EVV4qHcSR_q0O8YyD32gFg PartitionCount: 1       ReplicationFactor: 3    Configs: segment.bytes=1073741824
        Topic: first    Partition: 0    Leader: 102     Replicas: 102,103,104   Isr: 102,103,104
  1. 修改分区数(注意:分区数只能增加,不能减少)
    [aa@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --alter --topic first --partitions 3
  2. 再次查看Topic的详情
[aa@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --describe --topic first
Topic: first    TopicId: EVV4qHcSR_q0O8YyD32gFg PartitionCount: 3       ReplicationFactor: 3    Configs: segment.bytes=1073741824
        Topic: first    Partition: 0    Leader: 102     Replicas: 102,103,104   Isr: 102,103,104
        Topic: first    Partition: 1    Leader: 103     Replicas: 103,104,102   Isr: 103,104,102
        Topic: first    Partition: 2    Leader: 104     Replicas: 104,102,103   Isr: 104,102,103
  1. 删除topic
[aa@hadoop102 kafka]$ bin/kafka-topics.sh --bootstrap-server hadoop102:9092 --delete --topic first

生产者命令行操作

  1. 查看命令行生产者的参数
[aa@hadoop102 kafka]$ bin/kafka-console-producer.sh 
  1. 重要的参数如下:
参数	描述
--bootstrap-server 	连接kafka Broker主机名称和端口号
--topic	操作的topic名称
  1. 生产消息
    [aa@hadoop102 kafka]$ bin/kafka-console-producer.sh --broker-list hadoop102:9092 --topic first
>hello world
>atguigu  aa

消费者命令行操作

  1. 查看命令行消费者的参数
    [aa@hadoop102 kafka]$ bin/kafka-console-consumer.sh
  2. 重要的参数如下:
参数	描述
--bootstrap-server 	连接kafka Broker主机名称和端口号
--topic	操作的topic名称
--from-beginning	从头开始消费
--group	指定消费者组名称
  1. 消费消息
    [aa@hadoop102 kafka]$ bin/kafka-console-consumer.sh --bootstrap-server hadoop102:9092 --topic first
  2. 从头开始消费
    [aa@hadoop102 kafka]$ bin/kafka-console-consumer.sh --bootstrap-server hadoop102:9092 --from-beginning --topic first
    思考:再次查看当前kafka中的topic列表,发现了什么?为什么?

Kafka生产者

生产者消息发送流程

发送原理

Kafka的Producer发送消息采用的是异步发送的方式。
在消息发送的过程中,涉及到了两个线程:main线程和Sender线程,以及一个线程共享变量:RecordAccumulator。
①main线程中创建了一个双端队列RecordAccumulator,将消息发送给RecordAccumulator。
②Sender线程不断从RecordAccumulator中拉取消息发送到Kafka broker。
在这里插入图片描述

生产者重要参数列表

在这里插入图片描述


http://lihuaxi.xjx100.cn/news/1237390.html

相关文章

大数据分析平台释疑专用帖

大数据分析平台是大数据时代,企业数字化运营决策的一大关键平台,但初次接触大数据分析平台时,大家必然是问题多多的,本文将就几个比较常见的问题进行总结回答,希望对正在了解、选型大数据分析平台的大家有所帮助。 首…

每日一练 | 华为认证真题练习Day57

1、两台路由器通过PPP链路互连,管理员在两台路由器上配置了OSPF,且运行在同一个区域中,如果它们的Router ID相同,则下面描述正确的()。 A. 两台路由器将会建立正常的完全邻居关系 B. 两台路由器将不会互相…

外卖项目初始化01

sell-app-day01 项目的搭建 创建项目仓库(把代码上传上去,切换个人分支)工程化scss reset.scssmain.scss [统一的出口]common.scss [公共的样式]vant.scss [覆盖vant的样式]var.scss 【变量的文件, 新】 css3 的变量 一键切换皮肤…

Jenkins部署报错问题:已解决

一.Jenkins不能下载插件 报错sun.security.provider.certpath.SunCertPathBuilderException sun.security.provider.certpath.SunCertPathBuilderException: unable to find valid certification path to requested targetat sun.security.provider.certpath.SunCertPathBuild…

自动测试LeetCode用例方法

自动合并测试LeetCode解题方法 在leetcode.com上答题,Run Code或者Sumbmit通常要Spending一会,如果提交一次就Accepted那还好,如果反复Wrong Answer,很耽误时间。为了调高效率和减少挫折(来回提交,一直Wrong Answer倍…

银河麒麟kylin v10 apt deb包问题记录

银河麒麟kylin v10 apt deb包问题记录 https://www.kylinos.cn/support/document/48.html 该补丁支持银河麒麟桌面操作系统V10 2101、V10 0402、V10 0416版本升级到银河麒麟桌面操作系统V10 2107。 下载链接如下 (1)官网下载链接: AMD64…

c# MES 对接之二(MQTT、Restful、RabbitMQ)

//以下是C# MES对接的示例代码: //1. MQTT //使用M2Mqtt库实现C#与MQTT的通信,示例代码如下: //csharp using System; using System.Text; using uPLibrary.Networking.M2Mqtt; using uPLibrary.Networking.M2Mqtt.Messages; class Progr…

【实战】minigpt4的体验和微调

MiniGPT-4 https://github.com/vision-cair/minigpt-4 1 环境配置 1.1 安装环境 git lfs install //如果报错 :git: lfs is not a git command. See git --help. //尝试使用: sudo apt-get install git-lfs git lfs install1.2 准备Vicuna权重 &…