This repository has been archived on 2026-10-02. You can view files and clone it. You cannot open issues or pull requests or push a commit.
Files
snowy-yang 69a50c2c31 refactor: worker 子系统全面异步化,拆掉同步转异步的桥接层
拆掉「同步调异步 / 异步桥同步」两类垫片的第二半(HTTP 线 B2 见前序提交)。
worker 侧此前是「起线程跑同步函数、函数体内部再用 asyncio.to_thread 把活塞给
另一条循环」——线程与协程互等,取消/暂停只能靠轮询。本轮把 worker 自身变成
协程,由 _start_task 直接挂到应用事件循环上,桥接层随之失去存在理由。

改动(按子系统):
- music_downloader:downloader / _aria2 / _concurrency / cover / _http /
  __main__ 全链路协程化。per-file 锁改 asyncio.Lock;计数闸改
  「active 计数 + await asyncio.sleep(0.5)」的可取消等待(原阻塞式 with 会让
  已取消任务仍要等全局名额腾出,卡死并拖后腿退款);aria2p 的同步 RPC 仍经
  to_thread,轮询改 asyncio.sleep;新增 core.http_client.iter_chunks,把**流式
  读取期**的 aiohttp.ClientError 收敛成 UpstreamNetworkError(请求建立阶段早已
  有这条路径,读取阶段此前没有,断流会绕过调用方的 UpstreamError 分类)。
  删除 get_http_session / _SESSION_LOCAL。
  models._RetryFromScratch 不再继承 requests.RequestException 而继承 Exception:
  它是「续传起点失效、残片已清、从头重下」,既不是确定性失败
  (DownloadException),也不是残片已保留的网络失败(UpstreamError),必须独立
  成类且在 except 链中先于二者捕获。
- music_api:podcast.py 全部函数协程化(直链解析内部改
  await NeteaseAPI.get_song_url);compat.py 删除——16 个死掉的同步门面早已
  清空,文件只剩空壳。
- services:_taskcore / _zipcore / batch / downloads / podcast / tasks 协程化。
  threading.Thread → loop.create_task(任务句柄字段 worker_thread →
  worker_task),ThreadPoolExecutor → asyncio.gather + asyncio.Semaphore,
  终态函数与结算回调全部改 await;监控线程里「worker 已死」判定改 task.done()。
  删除 services/streaming.py(同步流垫片,唯一消费者已迁到
  core.http_client.open)。zipfile 实例仍非线程安全,故「下载」并行、
  「入包」严格串行。
- web:路由层 130+ 处 to_thread 拆除——被包住的目标自己已是协程,再包一层只是
  把协程丢进线程里跑一圈。tasks_registry.start_task 直接 create_task。
  web/app.py 关闭段去掉 async_bridge.shutdown()(不再有第二条约循环)。
  web/routers/download.py 的播客端点补上 3 处漏掉的 await
  (extract_podcast_ref / get_radio_detail)——漏掉时不报错、只静默返回协程对象,
  靠 pyright 抓出来后修正。

留在 to_thread 上的都是**正当的阻塞卸载**:同步 SQLite 落库与账本结算、
mutagen 全量重写标签、zipfile 整段拷贝、shutil.rmtree、aria2p 的同步 RPC、
PBKDF2 的 10 万次迭代。ruff 对残留的本地元数据操作(exists/stat/os.replace/
往 .part 顺序写分块)按「微秒级、卸载的调度开销大于操作本身」放行,pyproject
逐条注明理由。

取消/暂停仍由 threading.Event 承载:置位方是请求线程/监控线程,读取方是 worker
协程,只有「置位」与「轮询读取」两种操作,既不需要跨循环唤醒也不会卡住事件
循环——比 asyncio.Event 更省心(ASYNC110 同理按此豁免)。

测试:10 个文件的替身边界同步迁移——网络替身从 core.sync_http 的
get_http_session 换成 downloader/服务模块的 _http.open + **真实** iter_chunks
(顺带钉住读取期异常收敛);`_run` 改为在独立线程里 asyncio.run(worker(...));
aria2 的假时钟从 time.sleep 换成 _POLL_INTERVAL=0;monitor 的线程句柄替身换成
done() 可控的轻量替身(asyncio.Task 的构造需要运行中的事件循环,而监控循环跑在
常驻线程里);podcast / 封面 / 结算包装等替身一律改 async。

门禁:ruff 全过 / pyright 0-0 / pytest 383 项全绿(0 失败)。

下一步 B2:auth_system 12 个模块改 aiosqlite 背板、web 层剩余 to_thread 收尾;
B3:删 core/sync_http.py、core/async_bridge.py、core/http_errors.py(现仅
sync_http 自用)。
2026-09-28 19:36:56 +08:00

128 lines
4.6 KiB
Python
Raw Permalink Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# -*- coding: utf-8 -*-
"""文件锁与并发闸(asyncio 原语)。
(自 music_downloader.py 拆出。)
下载链路已整体异步化:同一进程、同一事件循环里跑多个任务,互斥不再靠线程
阻塞,而是靠 ``await`` 让出控制权。故此处两个原语都换成 asyncio 实现——
用 threading 锁会「持锁方在等事件循环、等待方又在事件循环上」而直接死锁。
两个计数器字典仍用 threading.Lock 保护:临界区只有字典读写、内部无 await,
不会把事件循环卡住,也让仍在同步线程里跑的监控循环能安全读取。
"""
from __future__ import annotations
import asyncio
import threading
from pathlib import Path
# per-file 写锁:保证同一目标文件的 .part 临时文件同时只有一个写入者,
# 防止并发下载同名歌曲(不同用户/任务)互相覆盖导致文件损坏
# 锁表带引用计数与回收——无人引用时从表中移除,防止长期运行无界增长
# 计数在注册表守卫锁内完成("取出引用"即计数 +1),消除"取引用后、acquire 前
# 被另一个任务回收、第三个任务拿到新锁对象"的互斥破坏窗口
_FILE_LOCKS: dict[str, RefCountedFileLock] = {}
_FILE_LOCKS_GUARD = threading.Lock()
class RefCountedFileLock:
"""带引用计数的文件锁:refs 表示"已持有或已登记即将持有"的数量,归零可回收"""
def __init__(self):
self._lock = asyncio.Lock()
self.refs = 0
async def acquire(self) -> None:
await self._lock.acquire()
def release(self) -> None:
self._lock.release()
def locked(self) -> bool:
return self._lock.locked()
class _FileLockHandle:
"""`async with get_file_lock(path):` 句柄:语义与引用计数回收口径同旧实现"""
def __init__(self, path: Path):
self._path = path
self._lock = None
self._key = ''
async def __aenter__(self) -> RefCountedFileLock:
key = str(self._path)
with _FILE_LOCKS_GUARD:
lock = _FILE_LOCKS.get(key)
if lock is None:
lock = RefCountedFileLock()
_FILE_LOCKS[key] = lock
lock.refs += 1
self._lock = lock
self._key = key
try:
await lock.acquire()
except BaseException:
# acquire 被打断时回滚引用计数并摘除空表项,防锁表条目永久泄漏
with _FILE_LOCKS_GUARD:
lock.refs -= 1
if lock.refs <= 0 and not lock.locked():
_FILE_LOCKS.pop(key, None)
self._lock = None
self._key = ''
raise
return lock
async def __aexit__(self, exc_type, exc_val, exc_tb) -> None:
if self._lock is None:
return
self._lock.release()
with _FILE_LOCKS_GUARD:
self._lock.refs -= 1
if self._lock.refs <= 0 and not self._lock.locked():
_FILE_LOCKS.pop(self._key, None)
self._lock = None
def get_file_lock(path: Path) -> _FileLockHandle:
"""兼容入口:返回可用 `async with` 的锁句柄(引用计数在守卫锁内登记,无回收竞态)"""
return _FileLockHandle(path)
class CountingSemaphore:
"""带活跃/等待计数的并发闸(asyncio),用于实时展示排队情况
容量由 ``active`` 计数实现,等待靠 ``await asyncio.sleep`` 让出事件循环。
与旧实现(threading.BoundedSemaphore + 轮询 ``acquire(blocking=False)``)
同为非公平抢占、同样按 poll 粒度醒来,语义不变;差别只在等待不再阻塞线程。
"""
def __init__(self, value: int = 1):
self.capacity = max(1, int(value))
self._lock = threading.Lock()
self.active = 0
self.waiting = 0
async def acquire_cancellable(self, cancel_ev, poll: float = 1.0) -> bool:
"""可取消地等待名额:等待期间 cancel_ev 置位立即返回 False,
不再无期限等待。返回 True 表示已获得名额。"""
with self._lock:
self.waiting += 1
try:
while True:
if cancel_ev is not None and cancel_ev.is_set():
return False
with self._lock:
if self.active < self.capacity:
self.active += 1
return True
await asyncio.sleep(poll)
finally:
with self._lock:
self.waiting = max(0, self.waiting - 1)
def release(self) -> None:
with self._lock:
self.active = max(0, self.active - 1)