Archived
snowy-yang
69a50c2c31
拆掉「同步调异步 / 异步桥同步」两类垫片的第二半（HTTP 线 B2 见前序提交）。 worker 侧此前是「起线程跑同步函数、函数体内部再用 asyncio.to_thread 把活塞给 另一条循环」——线程与协程互等，取消/暂停只能靠轮询。本轮把 worker 自身变成 协程，由 _start_task 直接挂到应用事件循环上，桥接层随之失去存在理由。 改动（按子系统）： - music_downloader：downloader / _aria2 / _concurrency / cover / _http / __main__ 全链路协程化。per-file 锁改 asyncio.Lock；计数闸改 「active 计数 + await asyncio.sleep(0.5)」的可取消等待（原阻塞式 with 会让 已取消任务仍要等全局名额腾出，卡死并拖后腿退款）；aria2p 的同步 RPC 仍经 to_thread，轮询改 asyncio.sleep；新增 core.http_client.iter_chunks，把**流式 读取期**的 aiohttp.ClientError 收敛成 UpstreamNetworkError（请求建立阶段早已 有这条路径，读取阶段此前没有，断流会绕过调用方的 UpstreamError 分类）。 删除 get_http_session / _SESSION_LOCAL。 models._RetryFromScratch 不再继承 requests.RequestException 而继承 Exception： 它是「续传起点失效、残片已清、从头重下」，既不是确定性失败 (DownloadException)，也不是残片已保留的网络失败(UpstreamError)，必须独立 成类且在 except 链中先于二者捕获。 - music_api：podcast.py 全部函数协程化（直链解析内部改 await NeteaseAPI.get_song_url）；compat.py 删除——16 个死掉的同步门面早已 清空，文件只剩空壳。 - services：_taskcore / _zipcore / batch / downloads / podcast / tasks 协程化。 threading.Thread → loop.create_task（任务句柄字段 worker_thread → worker_task），ThreadPoolExecutor → asyncio.gather + asyncio.Semaphore， 终态函数与结算回调全部改 await；监控线程里「worker 已死」判定改 task.done()。 删除 services/streaming.py（同步流垫片，唯一消费者已迁到 core.http_client.open）。zipfile 实例仍非线程安全，故「下载」并行、 「入包」严格串行。 - web：路由层 130+ 处 to_thread 拆除——被包住的目标自己已是协程，再包一层只是 把协程丢进线程里跑一圈。tasks_registry.start_task 直接 create_task。 web/app.py 关闭段去掉 async_bridge.shutdown()（不再有第二条约循环）。 web/routers/download.py 的播客端点补上 3 处漏掉的 await （extract_podcast_ref / get_radio_detail）——漏掉时不报错、只静默返回协程对象， 靠 pyright 抓出来后修正。 留在 to_thread 上的都是**正当的阻塞卸载**：同步 SQLite 落库与账本结算、 mutagen 全量重写标签、zipfile 整段拷贝、shutil.rmtree、aria2p 的同步 RPC、 PBKDF2 的 10 万次迭代。ruff 对残留的本地元数据操作（exists/stat/os.replace/ 往 .part 顺序写分块）按「微秒级、卸载的调度开销大于操作本身」放行，pyproject 逐条注明理由。 取消/暂停仍由 threading.Event 承载：置位方是请求线程/监控线程，读取方是 worker 协程，只有「置位」与「轮询读取」两种操作，既不需要跨循环唤醒也不会卡住事件 循环——比 asyncio.Event 更省心（ASYNC110 同理按此豁免）。 测试：10 个文件的替身边界同步迁移——网络替身从 core.sync_http 的 get_http_session 换成 downloader/服务模块的 _http.open + **真实** iter_chunks （顺带钉住读取期异常收敛）；`_run` 改为在独立线程里 asyncio.run(worker(...))； aria2 的假时钟从 time.sleep 换成 _POLL_INTERVAL=0；monitor 的线程句柄替身换成 done() 可控的轻量替身（asyncio.Task 的构造需要运行中的事件循环，而监控循环跑在 常驻线程里）；podcast / 封面 / 结算包装等替身一律改 async。 门禁：ruff 全过 / pyright 0-0 / pytest 383 项全绿（0 失败）。 下一步 B2：auth_system 12 个模块改 aiosqlite 背板、web 层剩余 to_thread 收尾； B3：删 core/sync_http.py、core/async_bridge.py、core/http_errors.py（现仅 sync_http 自用）。
79 lines
2.8 KiB
Python
79 lines
2.8 KiB
Python
# -*- coding: utf-8 -*-
|
||
"""封面字节缓存（同专辑只从网络拉一次）。
|
||
|
||
（自 music_downloader.py 拆出，行为与原实现一致；HTTP 改走 core.http_client。）
|
||
"""
|
||
|
||
from __future__ import annotations
|
||
|
||
import threading
|
||
from collections import deque
|
||
|
||
from core.http_client import client as _http
|
||
from core.http_client import iter_chunks
|
||
|
||
from ._http import (
|
||
DEFAULT_UA,
|
||
)
|
||
|
||
# 封面字节缓存：同一专辑封面只从网络拉取一次（元数据写入 与 ZIP 打包 共用）
|
||
# 容量抽成常量：淘汰循环按它判定，不再读 deque.maxlen（该属性类型为 int|None，
|
||
# 一旦有人把 deque 改成无界，len() >= None 会直接 TypeError）
|
||
_COVER_CACHE_MAX = 128
|
||
|
||
_COVER_CACHE: dict[str, bytes] = {}
|
||
|
||
_COVER_CACHE_ORDER: deque[str] = deque(maxlen=_COVER_CACHE_MAX)
|
||
|
||
# 只保护字典/双端队列的读写，临界区内无 await——仍用 threading.Lock，
|
||
# 便于同步线程（ZIP 组装）读取缓存时一并复用
|
||
_COVER_CACHE_LOCK = threading.Lock()
|
||
|
||
# 封面字节预算：拒绝超大盘点阵/伪装文件
|
||
_COVER_MAX_BYTES = 10 * 1024 * 1024
|
||
|
||
|
||
async def fetch_cover_bytes(pic_url: str) -> bytes | None:
|
||
"""下载并缓存封面图片字节；失败返回 None（字节预算 10MB，拒绝超大盘点阵/伪装文件）"""
|
||
if not pic_url:
|
||
return None
|
||
with _COVER_CACHE_LOCK:
|
||
cached = _COVER_CACHE.get(pic_url)
|
||
if cached:
|
||
return cached
|
||
try:
|
||
resp = await _http.open('GET', pic_url,
|
||
headers={'User-Agent': DEFAULT_UA}, timeout=15)
|
||
try:
|
||
if resp.status >= 400:
|
||
return None
|
||
try:
|
||
declared = int(resp.headers.get('Content-Length') or 0)
|
||
except ValueError:
|
||
declared = 0 # 垃圾 Content-Length 不炸，按未知长度走流式
|
||
if declared > _COVER_MAX_BYTES:
|
||
return None
|
||
# bytearray 就地追加（原 bytes += 是 O(n²) 拷贝，10MB 封面最坏多拷上百 MB）
|
||
data = bytearray()
|
||
async for chunk in iter_chunks(resp, 64 * 1024):
|
||
data += chunk
|
||
if len(data) > _COVER_MAX_BYTES:
|
||
return None
|
||
if not data:
|
||
return None
|
||
payload = bytes(data)
|
||
finally:
|
||
# 所有路径统一关闭响应（原 Content-Length 异常路径漏关）
|
||
resp.close()
|
||
except Exception:
|
||
return None
|
||
with _COVER_CACHE_LOCK:
|
||
if pic_url not in _COVER_CACHE:
|
||
# 简单 FIFO 淘汰，防止缓存无界增长
|
||
while len(_COVER_CACHE_ORDER) >= _COVER_CACHE_MAX:
|
||
evict = _COVER_CACHE_ORDER.popleft()
|
||
_COVER_CACHE.pop(evict, None)
|
||
_COVER_CACHE[pic_url] = payload
|
||
_COVER_CACHE_ORDER.append(pic_url)
|
||
return payload
|