当前位置:首页 > 文章列表 > 数据库 > Redis > Redis用Lua处理大列表不阻塞

Redis用Lua处理大列表不阻塞

2026-05-06 12:23:42 0浏览 收藏
Redis处理大列表时,直接使用LPOP或LRANGE等命令极易引发严重阻塞,因其O(N)时间复杂度在单线程模型下会独占CPU、拖垮整体性能,导致请求排队、超时及连接池耗尽;而通过Lua脚本将“安全读取+原子裁剪”封装为一次执行,既能严格控制数据量(如限定LRANGE范围)、避免全量加载,又能消除网络往返与中间状态风险,配合EVALSHA优化调用开销、妥善处理空key等边界情况,才是真正兼顾性能、可靠与可维护的大列表治理方案——稍不谨慎的一行命令,就可能是压垮Redis的定时炸弹。

Redis如何利用Lua脚本处理大型列表数据_避免阻塞请求

为什么直接用 LPOPLRANGE 处理大列表会阻塞?

Redis 是单线程执行命令的,LPOPLRANGE 这类命令在列表长度达几十万甚至百万时,会占用大量 CPU 时间,导致后续请求排队等待。尤其当客户端频繁轮询或批量消费时,很容易触发 redis-cli 的超时或应用层连接池耗尽。

典型现象包括:ERR BUSY Redis is busy running a script(脚本执行过久)、监控显示 used_cpu_sys 突增、慢日志里反复出现 LRANGE 0 -1

  • 列表越长,LRANGE 0 -1 时间复杂度越接近 O(N),不是常量操作
  • LTRIM 虽能删旧数据,但若要保留中间段(比如只取第 10000–10100 条),必须先 LRANGELTRIM,两次 O(N) 操作叠加更危险
  • 客户端分页拉取 + 服务端逐条 LPOP,网络往返和锁持有时间翻倍

用 Lua 脚本原子读取并裁剪大列表:一个安全模式

核心思路是把「读一批 + 删这批」合并为一个 Lua 脚本,由 Redis 原子执行,避免中间状态暴露,也省去多次网络往返。关键点在于不依赖 LRANGE 全量加载,而是用 lindex 或分段 lrange 控制数据量。

例如,安全消费前 100 条并删除:

local items = redis.call('LRANGE', KEYS[1], 0, 99)
redis.call('LTRIM', KEYS[1], 100, -1)
return items
  • 这个脚本只做两件事:一次 LRANGE(限定长度)、一次 LTRIM(O(1) 截断头部)
  • 务必用 0, 99 而非 0, -1,否则仍可能阻塞
  • 如果列表实际不足 100 条,LRANGE 返回全部,LTRIM 100 -1 会清空列表(Redis 行为,无需额外判断)
  • 脚本返回值就是你要的数据,客户端无需再发 GET 请求

EVALEVALSHA 性能差异在哪?

每次用 EVAL 提交脚本,Redis 都要解析、编译、缓存 SHA1,对高频调用场景有明显开销。生产环境应优先用 EVALSHA

  • 首次用 EVAL 注册脚本,拿到返回的 SHA1(如 "4e251b7a876c17b4f1a773818e843d2a2a9c8d9e"
  • 后续全部改用 EVALSHA 1 list_key,跳过编译,执行更快更稳
  • 若 Redis 重启后 SHA 缓存丢失,EVALSHA 会返回 NULL,此时需 fallback 到 EVAL 重载
  • 别把脚本硬编码在业务代码里拼接字符串,用配置中心或启动时预加载更可靠

真正容易被忽略的边界:列表为空或 key 不存在时的行为

很多人测试只用非空列表,上线后遇到空 key 就出错。Lua 脚本里 redis.call('LRANGE', 'missing_key', 0, 99) 返回空表 {},不是 nil —— 这没问题;但若脚本里写了 if #items == 0 then redis.call('DEL', KEYS[1]) end,就可能误删刚创建的 key。

  • LRANGE 对不存在的 key 返回空数组,不会报错
  • LTRIM 对不存在的 key 也不报错,等效于 noop
  • LLEN 对不存在 key 返回 0,可用于提前判断是否值得执行整段逻辑
  • 如果业务要求“空列表自动清理”,应在脚本开头加 if redis.call('EXISTS', KEYS[1]) == 0 then return {} end 显式控制

大列表处理真正的难点不在语法,而在对 Redis 单线程模型的敬畏——哪怕一行 LRANGE,没限长就是定时炸弹。

以上就是本文的全部内容了,是否有顺利帮助你解决问题?若是能给你带来学习上的帮助,请大家多多支持golang学习网!更多关于数据库的相关知识,也可关注golang学习网公众号。

通义千问企业版部署与成本分析通义千问企业版部署与成本分析
上一篇
通义千问企业版部署与成本分析
PHP判断变量是否为null的方法及示例
下一篇
PHP判断变量是否为null的方法及示例
查看更多
最新文章
资料下载
查看更多
课程推荐
  • 前端进阶之JavaScript设计模式
    前端进阶之JavaScript设计模式
    设计模式是开发人员在软件开发过程中面临一般问题时的解决方案,代表了最佳的实践。本课程的主打内容包括JS常见设计模式以及具体应用场景,打造一站式知识长龙服务,适合有JS基础的同学学习。
    543次学习
  • GO语言核心编程课程
    GO语言核心编程课程
    本课程采用真实案例,全面具体可落地,从理论到实践,一步一步将GO核心编程技术、编程思想、底层实现融会贯通,使学习者贴近时代脉搏,做IT互联网时代的弄潮儿。
    516次学习
  • 简单聊聊mysql8与网络通信
    简单聊聊mysql8与网络通信
    如有问题加微信:Le-studyg;在课程中,我们将首先介绍MySQL8的新特性,包括性能优化、安全增强、新数据类型等,帮助学生快速熟悉MySQL8的最新功能。接着,我们将深入解析MySQL的网络通信机制,包括协议、连接管理、数据传输等,让
    500次学习
  • JavaScript正则表达式基础与实战
    JavaScript正则表达式基础与实战
    在任何一门编程语言中,正则表达式,都是一项重要的知识,它提供了高效的字符串匹配与捕获机制,可以极大的简化程序设计。
    487次学习
  • 从零制作响应式网站—Grid布局
    从零制作响应式网站—Grid布局
    本系列教程将展示从零制作一个假想的网络科技公司官网,分为导航,轮播,关于我们,成功案例,服务流程,团队介绍,数据部分,公司动态,底部信息等内容区块。网站整体采用CSSGrid布局,支持响应式,有流畅过渡和展现动画。
    485次学习
查看更多
AI推荐
  • ChatExcel酷表:告别Excel难题,北大团队AI助手助您轻松处理数据
    ChatExcel酷表
    ChatExcel酷表是由北京大学团队打造的Excel聊天机器人,用自然语言操控表格,简化数据处理,告别繁琐操作,提升工作效率!适用于学生、上班族及政府人员。
    4472次使用
  • Any绘本:开源免费AI绘本创作工具深度解析
    Any绘本
    探索Any绘本(anypicturebook.com/zh),一款开源免费的AI绘本创作工具,基于Google Gemini与Flux AI模型,让您轻松创作个性化绘本。适用于家庭、教育、创作等多种场景,零门槛,高自由度,技术透明,本地可控。
    4818次使用
  • 可赞AI:AI驱动办公可视化智能工具,一键高效生成文档图表脑图
    可赞AI
    可赞AI,AI驱动的办公可视化智能工具,助您轻松实现文本与可视化元素高效转化。无论是智能文档生成、多格式文本解析,还是一键生成专业图表、脑图、知识卡片,可赞AI都能让信息处理更清晰高效。覆盖数据汇报、会议纪要、内容营销等全场景,大幅提升办公效率,降低专业门槛,是您提升工作效率的得力助手。
    4702次使用
  • 星月写作:AI网文创作神器,助力爆款小说速成
    星月写作
    星月写作是国内首款聚焦中文网络小说创作的AI辅助工具,解决网文作者从构思到变现的全流程痛点。AI扫榜、专属模板、全链路适配,助力新人快速上手,资深作者效率倍增。
    6492次使用
  • MagicLight.ai:叙事驱动AI动画视频创作平台 | 高效生成专业级故事动画
    MagicLight
    MagicLight.ai是全球首款叙事驱动型AI动画视频创作平台,专注于解决从故事想法到完整动画的全流程痛点。它通过自研AI模型,保障角色、风格、场景高度一致性,让零动画经验者也能高效产出专业级叙事内容。广泛适用于独立创作者、动画工作室、教育机构及企业营销,助您轻松实现创意落地与商业化。
    5068次使用
微信登录更方便
  • 密码登录
  • 注册账号
登录即同意 用户协议隐私政策
返回登录
  • 重置密码