跳到主要内容

Kafka 消费者抽象组件详细指南

plus 版本专属

此章节是黑马点评 Plus 版本中专有的内容,而在整套文档中将普通版本和 Plus 版本都融合在了一起,让大家更方便的学习。

此组件是为了对 MQ 消息队列的封装设计,使用了大量的设计模式,以及考虑各种消息发送和消费中的各种问题:

  • 消息发送处理
  • 消息发送失败
  • 消息发送成功
  • 消息消费超时
  • 消息消费前置
  • 消息消费处理
  • 消息消费失败

对于这些问题提供了非常方便的扩展,亮点很多,建议小伙伴认真学习

在上一章节中,讲解了 Kafka 生产者抽象组件的详细流程,本章节将讲解 Kafka 消费者抽象组件流程

使用常规 Kafka 消费时出现的问题

1)手写解析样板多

每个消费者都重复 JSON 解析、 headers 转换、 key 抽取等工作,代码分散而重复。

2)处理流程分散

前置过滤、消费逻辑、成功/失败处理分散在不同类或方法,缺乏统一约束与复用。

3)异常路径不统一

异常处理缺少标准方式:有的组件吞异常、有的组件不打日志,导致重试与告警不一致。

4)消息结构不统一

不统一的消息格式导致追踪困难;缺少 uuid/producerTime/headers 等通用字段。

5)可观测性不足

成功/失败日志不规范,无法统一关联消费链路;指标与告警逻辑难以沉淀。

使用消费组件带来的收益

1)统一消息包装

借助消息包装,扩展消息体、消息key、消息头、消息id、消息时间,统一解析与追踪。

2)简化消费入口

提供自动消费入口,自动完成解析与触发消费流程。

3)标准化钩子

四个扩展钩子统一暴露:消费前执行、执行消费、消费后失败、消费后成功。

4)规范异常路径

异常统一进入失败钩子并向上抛出;容器可结合业务策略做重试或死信转发。

5)降低样板与认知成本

消费者只关注“接入入口 + 实现钩子”,避免散落的解析与流程控制代码。

一、Kafka 消费者抽象组件详解