当前位置:首页 > 文章列表 > 数据库 > Redis > Redis用Lua处理大列表不阻塞

Redis用Lua处理大列表不阻塞

2026-05-06 12:23:42 0浏览 收藏
Redis处理大列表时,直接使用LPOP或LRANGE等命令极易引发严重阻塞,因其O(N)时间复杂度在单线程模型下会独占CPU、拖垮整体性能,导致请求排队、超时及连接池耗尽;而通过Lua脚本将“安全读取+原子裁剪”封装为一次执行,既能严格控制数据量(如限定LRANGE范围)、避免全量加载,又能消除网络往返与中间状态风险,配合EVALSHA优化调用开销、妥善处理空key等边界情况,才是真正兼顾性能、可靠与可维护的大列表治理方案——稍不谨慎的一行命令,就可能是压垮Redis的定时炸弹。

Redis如何利用Lua脚本处理大型列表数据_避免阻塞请求

为什么直接用 LPOPLRANGE 处理大列表会阻塞?

Redis 是单线程执行命令的,LPOPLRANGE 这类命令在列表长度达几十万甚至百万时,会占用大量 CPU 时间,导致后续请求排队等待。尤其当客户端频繁轮询或批量消费时,很容易触发 redis-cli 的超时或应用层连接池耗尽。

典型现象包括:ERR BUSY Redis is busy running a script(脚本执行过久)、监控显示 used_cpu_sys 突增、慢日志里反复出现 LRANGE 0 -1

  • 列表越长,LRANGE 0 -1 时间复杂度越接近 O(N),不是常量操作
  • LTRIM 虽能删旧数据,但若要保留中间段(比如只取第 10000–10100 条),必须先 LRANGELTRIM,两次 O(N) 操作叠加更危险
  • 客户端分页拉取 + 服务端逐条 LPOP,网络往返和锁持有时间翻倍

用 Lua 脚本原子读取并裁剪大列表:一个安全模式

核心思路是把「读一批 + 删这批」合并为一个 Lua 脚本,由 Redis 原子执行,避免中间状态暴露,也省去多次网络往返。关键点在于不依赖 LRANGE 全量加载,而是用 lindex 或分段 lrange 控制数据量。

例如,安全消费前 100 条并删除:

local items = redis.call('LRANGE', KEYS[1], 0, 99)
redis.call('LTRIM', KEYS[1], 100, -1)
return items
  • 这个脚本只做两件事:一次 LRANGE(限定长度)、一次 LTRIM(O(1) 截断头部)
  • 务必用 0, 99 而非 0, -1,否则仍可能阻塞
  • 如果列表实际不足 100 条,LRANGE 返回全部,LTRIM 100 -1 会清空列表(Redis 行为,无需额外判断)
  • 脚本返回值就是你要的数据,客户端无需再发 GET 请求

EVALEVALSHA 性能差异在哪?

每次用 EVAL 提交脚本,Redis 都要解析、编译、缓存 SHA1,对高频调用场景有明显开销。生产环境应优先用 EVALSHA

  • 首次用 EVAL 注册脚本,拿到返回的 SHA1(如 "4e251b7a876c17b4f1a773818e843d2a2a9c8d9e"
  • 后续全部改用 EVALSHA 1 list_key,跳过编译,执行更快更稳
  • 若 Redis 重启后 SHA 缓存丢失,EVALSHA 会返回 NULL,此时需 fallback 到 EVAL 重载
  • 别把脚本硬编码在业务代码里拼接字符串,用配置中心或启动时预加载更可靠

真正容易被忽略的边界:列表为空或 key 不存在时的行为

很多人测试只用非空列表,上线后遇到空 key 就出错。Lua 脚本里 redis.call('LRANGE', 'missing_key', 0, 99) 返回空表 {},不是 nil —— 这没问题;但若脚本里写了 if #items == 0 then redis.call('DEL', KEYS[1]) end,就可能误删刚创建的 key。

  • LRANGE 对不存在的 key 返回空数组,不会报错
  • LTRIM 对不存在的 key 也不报错,等效于 noop
  • LLEN 对不存在 key 返回 0,可用于提前判断是否值得执行整段逻辑
  • 如果业务要求“空列表自动清理”,应在脚本开头加 if redis.call('EXISTS', KEYS[1]) == 0 then return {} end 显式控制

大列表处理真正的难点不在语法,而在对 Redis 单线程模型的敬畏——哪怕一行 LRANGE,没限长就是定时炸弹。

以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于数据库的相关知识,也可关注golang学习网公众号。

通义千问企业版部署与成本分析通义千问企业版部署与成本分析
上一篇
通义千问企业版部署与成本分析
PHP判断变量是否为null的方法及示例
下一篇
PHP判断变量是否为null的方法及示例
查看更多
最新文章
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • 剧云 - 免费 AI 智能中文剧本创作平台
    剧云
    剧云是专业中文剧本创作平台,安全稳定运行十余年,集成AI编剧、剧本医生审核、人物小传、剧情关系图、大纲编写、多人协作、Word导入导出、版权管控功能,数据安全防护,轻松高效创作剧本。
    20次使用
  • 万象有声 - AI 一站式有声内容创作平台
    万象有声
    万象有声,一个专为有声创作者打造的新一代智能有声内容创作平台。平台提供专业的智能拆章、智能画本编辑、AI配音、AI生成音效、后期制作、智能对轨、智能审听等有声创作全流程工具,可以帮助创作者高效、低成本创作出引人入胜的有声作品。立即体验,让有声书制作更简单!
    28次使用
  • Red Skill - 小红书推出的 AI Skill 分发平台
    Red Skill
    小红书创作服务平台为小红书创作者和机构提供视频上传、数据分析、粉丝管理、创作指导等多项运营服务,助力用户解锁更多创作者专属功能,体验高效创作!
    33次使用
  • MiMo Code - 小米大模型团队开源的新一代 AI 编程助手
    MiMo Code
    MiMo Code 是小米大模型团队开源的新一代 AI 编程助手,面向开发者提供代码理解、生成与辅助开发能力,适合作为 AI 编程工具收藏和体验。
    126次使用
  • TRAE Work - 字节跳动推出的 AI 原生工作台
    TRAE Work
    TRAE AI IDE | 国内首款 AI 原生集成开发环境,深度集成 Doubao-1.5-pro 与 DeepSeek 模型,支持中文自然语言一键生成完整代码框架,实时预览前端效果并智能修复 BUG。首创 Builder 模式实现需求到代码的自动化开发,兼容 Windows/macOS 系统,官网下载即用。
    152次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码