news 2026/2/28 6:12:52

故障排查:Pytest Asyncio Event Loop Closed 错误

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
故障排查:Pytest Asyncio Event Loop Closed 错误

1. 问题描述

在运行RetrievalService的集成测试(使用pytest-asyncio)时,当连续运行多个异步测试用例时,遇到了以下错误:

RuntimeError: Task <Task pending ...> got Future <Future pending ...> attached to a different loop ... RuntimeError: Event loop is closed

症状

  • 第一个测试用例 (test_search_knowledge_base_flow) 成功通过。
  • 第二个测试用例 (test_search_knowledge_base_no_results) 在 setup 或执行阶段立即失败,抛出RuntimeError

出错的代码(原始版本)

这是在修复之前,导致错误的测试代码结构和db_sessionfixture:

# test/services/test_retrieval_service.py@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 错误发生点:直接调用 get_async_engine(),它返回的是一个被缓存的 Engine 实例# 这个 Engine 绑定到了创建它时的 Event Loop(即第一个测试的 Loop)engine=get_async_engine()async_session=async_sessionmaker(engine,expire_on_commit=False)asyncwithasync_session()assession:asyncwithengine.begin()asconn:awaitconn.run_sync(Base.metadata.create_all)yieldsessionawaitsession.rollback()# 测试函数 1:使用新创建的 Loop A,成功获取 Engine(绑定到 Loop A)@pytest.mark.asyncioasyncdeftest_search_knowledge_base_flow(db_session):# ... PASS ...# 测试函数 2:使用新创建的 Loop B# 这里的 db_session fixture 再次运行,但 get_async_engine() 返回的是# 绑定到已关闭的 Loop A 的旧 Engine。导致报错。@pytest.mark.asyncioasyncdeftest_search_knowledge_base_no_results(db_session):# ... FAIL with RuntimeError: Event loop is closed ...

2. 根本原因分析

2.1 冲突来源

该问题源于pytest-asyncio管理 Event Loop 的机制与我们应用程序创建 SQLAlchemy Engine 的方式之间存在冲突。

  1. Pytest-Asyncio 的行为:默认情况下(严格模式),pytest-asyncio会为每个测试函数创建一个新的asyncio Event Loop,以确保隔离性。
  2. 应用程序的行为:我们的src/configs/db.py使用了functools.lru_cache来缓存AsyncEngine实例:
    # src/configs/db.pyfromfunctoolsimportlru_cache@lru_cache()# <--- Engine 实例被缓存了defget_async_engine():""" Returns a cached async engine instance. The engine is created on the first call and reused on subsequent calls within the same event loop. """logger.info("Creating new async engine instance.")returncreate_async_engine(DATABASE_URL,pool_pre_ping=True,echo=False,)

2.2 事件序列

  1. 测试 1 开始
    • Pytest 创建Loop A
    • get_async_engine()被调用。它创建了Engine 1并将其绑定到Loop A
    • 测试 1 结束。Pytest 关闭Loop A
  2. 测试 2 开始
    • Pytest 创建Loop B
    • get_async_engine()再次被调用。
    • 由于有缓存(@lru_cache),它返回了Engine 1(这个 Engine 仍然绑定在已关闭的Loop A上)。
    • 当 SQLAlchemy 尝试使用Engine 1Loop B中连接数据库或执行查询时,失败了,因为 Engine 的内部组件(如asyncpg连接池)试图使用已关闭的 Loop A。

3. 解决方案

3.1 修复方法

我们需要确保为每个测试上下文创建一个新的 AsyncEngine,并绑定到当前由pytest-asyncio提供的 Event Loop。

我们在测试文件 (test/services/test_retrieval_service.py) 的db_sessionfixture 中修改了代码,在请求 Engine 之前显式清除缓存。

@pytest.fixtureasyncdefdb_session():""" Creates a new database session for testing. """# 修复:强制为当前 Event Loop 创建一个新的 Engineget_async_engine.cache_clear()engine=get_async_engine()# 现在返回的是绑定到当前 Loop 的新 Engine# ... fixture 的其余部分 ...

3.2 为什么有效

通过调用get_async_engine.cache_clear(),我们使缓存的AsyncEngine实例失效。随后的get_async_engine()调用会重新执行函数体,创建一个正确绑定到当前运行 Event Loop 的新AsyncEngine实例。

4. 替代方案(供参考)

  1. Scope 匹配:将event_loopfixture 的 scope 更改为session(所有测试共用一个 Loop)。这虽然降低了隔离性,但避免了多 Loop 问题。
  2. 依赖覆盖:如果使用依赖注入框架,可以覆盖get_async_engine依赖。
  3. 全局 Conftest:在conftest.py的 autouse fixture 中实现缓存清除,从而全局应用于所有测试。
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/2/26 19:16:27

Keil5使用教程:实时控制系统编译优化技巧

Keil5实战指南&#xff1a;榨干Cortex-M性能的编译优化秘籍你有没有遇到过这样的情况&#xff1f;代码逻辑明明没问题&#xff0c;PID控制也调好了&#xff0c;可电机一转起来就抖动&#xff1b;示波器一抓波形&#xff0c;发现PWM更新延迟忽大忽小&#xff1b;再一看中断服务函…

作者头像 李华
网站建设 2026/2/25 2:22:45

使用Miniconda实现PyTorch模型的灰度发布机制

使用Miniconda实现PyTorch模型的灰度发布机制 在AI服务频繁迭代的今天&#xff0c;一次看似微小的模型更新&#xff0c;可能引发线上服务的连锁反应。你有没有遇到过这样的场景&#xff1a;新版本模型在测试环境中表现优异&#xff0c;但一上线就出现推理延迟飙升、预测结果异常…

作者头像 李华
网站建设 2026/2/28 0:04:00

D02期:档位切换

TCU : 14 :倒档时给-1&#xff1b; 0 空档 1-8 &#xff1a; 1-8档 15&#xff1a;换挡动作中&#xff08;包括脱档、调速、进档&#xff09;除此之外的其他值就是 本身

作者头像 李华
网站建设 2026/2/27 3:53:53

Miniconda结合NVIDIA Docker实现端到端AI训练环境

Miniconda结合NVIDIA Docker实现端到端AI训练环境 在深度学习项目日益复杂的今天&#xff0c;你是否也遇到过这样的场景&#xff1a;本地跑通的模型一上服务器就报错&#xff1f;团队成员因CUDA版本不一致导致PyTorch无法加载GPU&#xff1f;新同事配置开发环境花了整整三天&a…

作者头像 李华
网站建设 2026/2/27 22:56:24

零基础学习驱动程序安装:从识别硬件开始

零基础也能搞懂驱动安装&#xff1a;从“这是什么设备&#xff1f;”开始讲起你有没有遇到过这种情况&#xff1a;插上一个新买的USB网卡&#xff0c;系统却提示“未知设备”&#xff1f;或者重装系统后&#xff0c;屏幕分辨率低得像回到了20年前&#xff1f;更惨的是&#xff…

作者头像 李华
网站建设 2026/2/27 20:37:39

利用Miniconda-Python3.10镜像快速启动大模型微调任务

利用Miniconda-Python3.10镜像快速启动大模型微调任务 在AI研发一线摸爬滚打的工程师都经历过这样的场景&#xff1a;好不容易跑通一个大模型微调实验&#xff0c;换一台机器复现时却因为transformers版本差了一点点、PyTorch和CUDA不匹配&#xff0c;导致训练崩溃。更糟的是&a…

作者头像 李华