百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术教程 > 正文

阿里二面:如何保证Kafka消息不丢失且不重复

mhr18 2025-03-26 14:01 11 浏览 0 评论

在阿里巴巴的二面中,面试官可能会问到如何在使用Kafka时保证消息不丢失且不重复。这是一个非常实际的问题,因为消息丢失和重复是消息队列中常见的痛点。以下是一些解决方案和建议,帮助你在技术选型时做出更明智的决策。

1. 消息不丢失的解决方案

为了保证Kafka消息不丢失,可以从以下几个方面入手:

  1. 生产者端

同步发送:虽然同步发送会降低性能,但它可以确保消息发送成功后再继续执行。

异步发送与回调:使用异步发送时,可以通过回调函数来处理消息发送的结果。如果发送失败,可以进行重试。

消息持久化:确保消息在发送到Broker之前被持久化到本地存储中,这样即使发送失败也可以重新发送。

  1. Broker端集群

同步刷盘:将flushDiskType参数配置为SYNC_FLUSH,确保消息在落盘后才返回发送成功。

多副本机制:使用多副本机制,确保消息在多个节点上同步,即使一个节点宕机,其他节点仍然可以提供服务。



3. 消费者端

消费者确认机制:消费者在处理完消息后,必须显式地向Broker发送ACK确认消息已处理。如果Broker没有收到ACK,会重新发送消息。

持久化消息:在返回ACK之前,可以将消息保存到本地数据库或其他持久化存储中,确保消息不会丢失。

2. 消息不重复的解决方案

消息重复通常发生在以下两种情况:

  1. 生产者重复发送:生产者发送消息后没有收到ACK,然后进行重复发送。
  2. 消费者重复消费:消费者处理完消息后,Broker没有收到ACK,导致消息重复推送给消费者。

目前,主流的消息队列(如Kafka、RocketMQ)并没有直接解决消息重复的问题,需要在消费端进行幂等处理。以下是一些解决方案:

  1. 数据库唯一键约束
  2. 如果消息会落本地数据库,可以使用消息ID作为唯一键。如果消息不落数据库,可以将消息ID或其他唯一标识符作为唯一键保存到业务数据表中。
  3. 保存消费记录
  4. 可以将消息ID保存到Redis中,消费消息前判断消息ID是否已存在。
  5. 示例代码:
ValueOperations valueOperations = redisTemplate.opsForValue();
Boolean result = valueOperations.setIfAbsent(messageId, messageId);
if (result) {
 //消费逻辑;
} else {
 logger.error("这条消息已经消费,跳过,消息ID:{}", messageId);
}

3. 技术选型建议

虽然Kafka在高吞吐量和分布式处理方面表现出色,但在保证消息不丢失和不重复方面需要额外的配置和处理逻辑。如果你的应用场景对消息的可靠性和一致性有较高要求,可以考虑以下几种消息队列:

  1. RocketMQ
  2. 事务消息:RocketMQ支持事务消息,确保消息的可靠传递。
  3. 高可用性:RocketMQ采用分布式架构和多副本机制,保证了数据的可靠性和高可用性。
  4. 顺序消息:RocketMQ支持顺序消息,确保消息按发送顺序被消费。
  5. RabbitMQ
  6. 消息确认机制:RabbitMQ提供消息确认机制,确保消息至少被消费一次。
  7. 镜像队列:RabbitMQ支持镜像队列,可保证消息在节点故障时不丢失。
  8. 灵活的路由和消息转换:RabbitMQ支持多种消息协议和丰富的插件生态系统,适用于需要灵活路由和消息转换的场景。

4. 总结

在选择消息队列时,需要根据具体的应用场景和技术需求进行综合考虑。Kafka在高吞吐量和分布式处理方面表现出色,但在保证消息不丢失和不重复方面需要额外的配置和处理逻辑。如果你的应用场景对消息的可靠性和一致性有较高要求,可以考虑使用RocketMQ或RabbitMQ。通过合理的技术选型和架构设计,可以最大限度地减少消息丢失和重复问题,提升系统的可靠性和稳定性。

相关推荐

Redis合集-使用benchmark性能测试

采用开源Redis的redis-benchmark工具进行压测,它是Redis官方的性能测试工具,可以有效地测试Redis服务的性能。本次测试使用Redis官方最新的代码进行编译,详情请参见Redis...

Java简历总被已读不回?面试挂到怀疑人生?这几点你可能真没做好

最近看了几十份简历,发现大部分人不是技术差,而是不会“卖自己”——一、简历死穴:你写的不是经验,是岗位说明书!反面教材:ד使用SpringBoot开发项目”ד负责用户模块功能实现”救命写法:...

redission YYDS(redission官网)

每天分享一个架构知识Redission是一个基于Redis的分布式Java锁框架,它提供了各种锁实现,包括可重入锁、公平锁、读写锁等。使用Redission可以方便地实现分布式锁。red...

从数据库行锁到分布式事务:电商库存防超卖的九重劫难与破局之道

2023年6月18日我们维护的电商平台在零点刚过3秒就遭遇了严重事故。监控大屏显示某爆款手机SKU_IPHONE13_PRO_MAX在库存仅剩500台时,订单系统却产生了1200笔有效订单。事故复盘发...

SpringBoot系列——实战11:接口幂等性的形而上思...

欢迎关注、点赞、收藏。幂等性不仅是一种技术需求,更是数字文明对确定性追求的体现。在充满不确定性的网络世界中,它为我们建立起可依赖的存在秩序,这或许正是技术哲学最深刻的价值所在。幂等性的本质困境在支付系...

如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享

如何优化系统架构设计缓解流量压力提升并发性能?Java实战分享在高流量场景下。首先,我需要回忆一下常见的优化策略,比如负载均衡、缓存、数据库优化、微服务拆分这些。不过,可能还需要考虑用户的具体情况,比...

Java面试题: 项目开发中的有哪些成长?该如何回答

在Java面试中,当被问到“项目中的成长点”时,面试官不仅想了解你的技术能力,更希望看到你的问题解决能力、学习迭代意识以及对项目的深度思考。以下是回答的策略和示例,帮助你清晰、有说服力地展示成长点:一...

互联网大厂后端必看!Spring Boot 如何实现高并发抢券逻辑?

你有没有遇到过这样的情况?在电商大促时,系统上线了抢券活动,结果活动刚一开始,服务器就不堪重负,出现超卖、系统崩溃等问题。又或者用户疯狂点击抢券按钮,最后却被告知无券可抢,体验极差。作为互联网大厂的后...

每日一题 |10W QPS高并发限流方案设计(含真实代码)

面试场景还原面试官:“如果系统要承载10WQPS的高并发流量,你会如何设计限流方案?”你:“(稳住,我要从限流算法到分布式架构全盘分析)…”一、为什么需要限流?核心矛盾:系统资源(CPU/内存/数据...

Java面试题:服务雪崩如何解决?90%人栽了

服务雪崩是指微服务架构中,由于某个服务出现故障,导致故障在服务之间不断传递和扩散,最终造成整个系统崩溃的现象。以下是一些解决服务雪崩问题的常见方法:限流限制请求速率:通过限流算法(如令牌桶算法、漏桶算...

面试题官:高并发经验有吗,并发量多少,如何回复?

一、有实际高并发经验(建议结构)直接量化"在XX项目中,系统日活用户约XX万,核心接口峰值QPS达到XX,TPS处理能力为XX/秒。通过压力测试验证过XX并发线程下的稳定性。"技术方案...

瞬时流量高并发“保命指南”:这样做系统稳如泰山,老板跪求加薪

“系统崩了,用户骂了,年终奖飞了!”——这是多少程序员在瞬时大流量下的真实噩梦?双11秒杀、春运抢票、直播带货……每秒百万请求的冲击,你的代码扛得住吗?2025年了,为什么你的系统一遇高并发就“躺平”...

其实很多Java工程师不是能力不够,是没找到展示自己的正确姿势。

其实很多Java工程师不是能力不够,是没找到展示自己的正确姿势。比如上周有个小伙伴找我,五年经验但简历全是'参与系统设计''优化接口性能'这种空话。我就问他:你做的秒杀...

PHP技能评测(php等级考试)

公司出了一些自我评测的PHP题目,现将题目和答案记录于此,以方便记忆。1.魔术函数有哪些,分别在什么时候调用?__construct(),类的构造函数__destruct(),类的析构函数__cal...

你的简历在HR眼里是青铜还是王者?

你的简历在HR眼里是青铜还是王者?兄弟,简历投了100份没反应?面试总在第三轮被刷?别急着怀疑人生,你可能只是踩了这些"隐形求职雷"。帮3630+程序员改简历+面试指导和处理空窗期时间...

取消回复欢迎 发表评论: