V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
daoqiongsi1101
V2EX  ›  Kafka

kafka 消费者平滑退出一般是怎么做的?

  •  
  •   daoqiongsi1101 · Oct 17, 2022 · 3028 views
    This topic created in 1289 days ago, the information mentioned may be changed or developed.

    比如 poll 了 1000 条内容,已经消费了 500 个,此时要中断消费,那么剩余的 500 个岂不是丢了,如何保证消费完再退出?监听信号量吗?

    andrewpsy
        1
    andrewpsy  
       Oct 18, 2022
    你搜关键词 offset management ,不是一句两句能说清的。
    一个简单粗暴的方法就是关闭 auto commit ,然后在 loop 里计数,每处理 x 个 message 后 commit 一下。
    x 越小 commit 次数越多,overhead 大,重复处理或者 skip 掉的 message 就越少。
    x 越大 commit 次数越少,overhead 小,但是可能需要重复处理的 message 更多,各种 tradeoff 要考虑。
    daoqiongsi1101
        2
    daoqiongsi1101  
    OP
       Oct 18, 2022
    @andrewpsy 你说的是提交 offset 的方式,自动提交,手动提交,自动手动结合,还有位移提交。我说的是取出来的消息,没消费完如何优雅中止
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Solana   ·   5309 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 38ms · UTC 09:21 · PVG 17:21 · LAX 02:21 · JFK 05:21
    ♥ Do have faith in what you're doing.