支持过期时间的LRU缓存实现方法

本文深入探讨了如何在传统LRU缓存基础上可靠地集成TTL（Time-To-Live）过期机制，指出标准`functools.lru_cache`及`functools.cache`因缺乏时间维度支持而无法满足“过期即不可用”的语义要求；文章批判了强行打补丁、后台定时清理、异常兜底等常见误区，强调应采用轻量、安全、可控的手写方案——以`OrderedDict`维护访问序，结合`time.monotonic()`记录相对时间戳，在`get`/`put`时惰性检查并即时清理过期项，兼顾正确性、性能与可维护性，尤其适合单线程高频的本地内存缓存场景。

为什么不能直接用 lru_cache 加过期时间？

functools.lru_cache 本身不支持 TTL（Time-To-Live），它只按访问频次和容量淘汰，没有时间维度。强行在装饰函数里加 time.time() 判断会导致缓存项“逻辑过期”但物理未清除，后续仍可能被命中——这违反了“过期即不可用”的语义。

真正需要的是：每次 get 时检查是否超时；每次 put 时记录时间戳；淘汰策略仍基于最近最少使用，但过期项应优先被跳过或清理。

• 不要试图 patch lru_cache 的内部字典来塞时间戳——它的 _CacheInfo 和底层 OrderedDict 行为受封装保护，修改易出错且不可移植
• 避免在 get 中仅靠异常捕获来兜底过期（比如 try/except KeyError 后再查时间），这会让命中路径变慢且掩盖真实缺失
• Python 3.12+ 的 functools.cache 依然无 TTL 支持，别被名字误导

手写带 TTL 的 LRU：核心是组合 OrderedDict 和时间戳

用 collections.OrderedDict 管理访问顺序，每个 value 存成 (value, timestamp) 元组，get 时比对 time.time() - timestamp > ttl 即可。

关键细节：

• put 时若 key 已存在，要更新 value 和 timestamp，并用 move_to_end(key) 保证它变成最新访问项
• get 时若发现过期，必须从 OrderedDict 中 pop(key)，否则下次 get 还会撞上这个脏项
• size 检查应在 put 后立即做，且只对未过期的项计数；如果满容且所有项都过期，清空后插入新项即可

示例片段（简化版）：

from collections import OrderedDict
import time
class TTLCache:
def init(self, maxsize=128, ttl=300):
self.cache = OrderedDict()
self.maxsize = maxsize
self.ttl = ttl
def get(self, key):
    if key not in self.cache:
        return None
    value, timestamp = self.cache[key]
    if time.time() - timestamp > self.ttl:
        self.cache.pop(key)
        return None
    self.cache.move_to_end(key)  # 更新访问顺序
    return value

def put(self, key, value):
    self.cache[key] = (value, time.time())
    self.cache.move_to_end(key)
    if len(self.cache) > self.maxsize > 0:
        self.cache.popitem(last=False)

用 asyncio 做后台过期清理会适得其反

有人想用 asyncio.create_task 定期遍历 cache 清理过期项，这反而引入竞态和性能开销：遍历时 cache 可能正被 get/put 修改；频繁唤醒 task 对小 TTL（如 1s）场景 CPU 消耗显著；且无法解决“刚过期就 get 到”的问题。

更轻量的做法是 lazy cleanup —— 只在 get/put 时顺手清理，配合一个简单的阈值触发全量扫描（例如每 100 次操作扫一次，且只删前 N 个过期项，避免单次阻塞太久）。

• 不要启动 daemon thread 跑定时器——线程安全需额外加锁，而 cache 本身常用于单线程高频场景
• Redis 的 EXPIRE 是服务端原子操作，本地内存缓存没这条件，别照搬模型
• 如果真需要精确到期秒级失效（比如 token 校验），说明这不该放 LRU 缓存，该走独立的带事件循环的过期管理器

第三方库选型：别为简单需求引入复杂依赖

aiocache、dogpile.cache 确实支持 TTL + LRU，但它们面向多后端抽象（memory/redis/memcached），配置层厚、默认启用序列化、有额外线程/协程调度逻辑。一个纯内存、单线程、TTL 固定的场景，20 行手写类更可控。

• lru-dict 库提供 C 实现的 LRU，但也不含 TTL，仍需自行包装时间逻辑
• cachetools.TTLCache 是最接近的选项：它内置了过期检查和惰性清理，API 类似 dict，且支持 maxsize=None（无限容量），但要注意它的 get 方法默认不自动删除过期项，得设 typed=False 并配合 popitem 或手动调 __delitem__
• 如果项目已用 pydantic，别用 @field_validator 去校验缓存值是否过期——那是数据验证层，不是缓存策略层

真正容易被忽略的点：过期判断用 time.time() 在容器环境可能因系统时间跳跃（NTP 调整、VM 暂停）导致批量误失活。生产环境建议改用 time.monotonic() 记录相对时间差，初始化时记一个 base，后续全用差值比较。

以上就是《支持过期时间的LRU缓存实现方法》的详细内容，更多关于的资料请关注golang学习网公众号！