GLM-OCR分布式锁机制多Worker并发下的任务防重复处理【免费下载链接】GLM-OCRGLM-OCR: Accurate × Fast × Comprehensive项目地址: https://gitcode.com/GitHub_Trending/gl/GLM-OCRGLM-OCR 是一个支持 PDF 智能识别、版面分析与结构化输出的 OCR 文档处理系统。当同时运行多个 Worker 并发消费任务队列时同一个文档任务会不会被抢两次本文带你快速看懂 GLM-OCR 用数据库分布式锁 锁过期续期 死信兜底这套组合拳如何保证每个任务恰好被处理一次且任务卡死后能自动恢复。为什么多Worker会重复处理任务先想象一个场景你上传了一份 PDF系统生成任务task-001。此时启动了 3 个 Worker它们每隔几秒轮询一次队列发现task-001处于待处理pending状态——如果查到任务和认领任务是两个独立步骤3 个 Worker 可能同时查到、同时处理白白浪费 GPU 算力甚至写出互相覆盖的结果。GLM-OCR 的解法很简单让认领这个动作本身具备原子性。一把写在数据库里的锁GLM-OCR 的锁不依赖 Redis而是直接建立在任务表上核心就两个字段见 apps/backend/app/models/task.py字段作用worker_id记录当前持有锁的 Workerlock_expires_at锁的过期时间默认 1 小时认领锁时apps/backend/app/repository/task.py 中的acquire_task_lock用一条带条件的UPDATE ... WHERE完成原子抢占任务状态是pending或任务是processing但锁已过期满足条件才会把状态改为processing、写入worker_id和过期时间。数据库保证这条 UPDATE 只可能让一个Worker 更新成功其余 Worker 拿到的结果是空直接放弃——这就是防重复的第一道保险。 关键设计锁过期时间默认 3600 秒对应 apps/backend/app/core/lock_manager.py 中LockManager的default_timeout可通过构造参数调整。锁的生命周期获取、续期、释放整个生命周期由LockManager统一管理apps/backend/app/core/lock_manager.py获取锁 acquire ──► 处理中可 renew 续期──► 释放锁 release │ │ └──── 持有者崩溃/卡死 ──► 锁自动过期 ──► 被其他 Worker 重新抢占获取acquireWorker 主循环每轮先取一条待处理任务再调acquire尝试抢锁失败即跳过见 apps/backend/app/core/worker.py 的_acquire_task。续期renew处理耗时长的任务可通过renew_task_lock刷新过期时间条件是worker_id 必须是当前持有者防止误续别人的锁。释放release任务成功或失败后release_task_lock会清空worker_id和lock_expires_at把状态落为completed/failed/pending等待重试。Worker崩溃了怎么办锁过期自动接管这是分布式锁最容易被问到的问题。GLM-OCR 的答案是锁自带 TTL。Worker 进程崩溃或节点宕机不会主动释放锁但lock_expires_at到期后这条任务在下一个抢锁的 UPDATE 中会被视为可再次获取被存活 Worker 顺利接管系统启动时apps/backend/app/core/recovery_handler.py 的recover_on_startup还会主动扫描锁已过期的任务把可重试的retry_count max_retries重置回pending不可重试的直接转入死信dead_letter避免僵尸任务永远卡住队列。与重试机制的配合失败≠丢任务抢锁、释放、重试三者是闭环设计重试逻辑在 apps/backend/app/core/retry_handler.py指数退避 随机抖动延迟 base_delay × 2^重试次数上限 1 小时避免多 Worker 在同一时刻撞车重试错误分类超时、连接错误、限流等瞬态错误可重试参数校验失败、文件不存在等错误直接转死信不浪费重试次数死信兜底默认最多重试 3 次max_retries3耗尽后任务标记为dead_letter便于人工排查而不是无限循环。处理失败时Worker 会先rollback再根据能否重试决定把锁释放为pending等下轮重试还是failed见 worker.py 的异常分支。小结这套机制给新手划的几个重点设计点解决的问题原子UPDATE ... WHERE抢锁多 Worker 并发下只有一个能成功认领防重复处理lock_expires_at过期时间持有者崩溃后任务可被自动接管不丢任务按worker_id校验的续期/释放防止 Worker 误操作别人的锁启动恢复 重试分类 死信卡死任务自动回炉失败任务有明确归宿整套机制没有引入额外的中间件仅靠数据库行级更新就实现了高可用的任务调度——这正是 GLM-OCR 准确 × 快速 × 全面背后稳定性的关键一环。想动手细看可从 apps/backend/app/core/ 目录下的lock_manager.py、worker.py、retry_handler.py、recovery_handler.py四个文件读起。【免费下载链接】GLM-OCRGLM-OCR: Accurate × Fast × Comprehensive项目地址: https://gitcode.com/GitHub_Trending/gl/GLM-OCR创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考