Archived
拆掉两类垫片的最后一处:auth_system 原为同步 sqlite3 栈,web 层与 services 的
worker 只能靠 asyncio.to_thread 逐个桥接才不阻塞事件循环——每次 DB 访问都白付一次
线程池调度,且「同步调异步」的边界散落在 100+ 个调用点。B1 已把 worker 变成协程,
本批把访问层本身也迁到原生异步,两条线在此合拢。
改动(按子系统):
- auth_system:db.py 照 core/db.py 现有范式重建为原生异步访问层(aiosqlite + WAL)
——读路径 _q 每次独立连接、无锁、可并发;写路径 _x / write_transaction 用
asyncio.Lock 串行化,写者不阻塞读者。users / cards / credits / ledger / logs /
settings / mail / geo / backup 九模块随之全部 async/await;security.py 是纯计算
(pbkdf2/normalize)不动。__init__ 去掉 _DB_LOCK 与 get_conn 导出。
- web:app / deps / billing / tasks_registry 与 routers/{admin_site,auth,music,
register,user} 直接 await,拆掉包裹的 to_thread。deps.secret_key 改 async,
连带 _parse_cookie 也 async(会话解析要读密钥)。
- services:_taskcore / tasks / downloads / podcast 的账本调用与查询直接 await。
4 处 start_task 调用点(download.py)确认已 await。
设计取舍(为什么这么做,而不是直接包一层):
- 锁按**事件循环**隔离(_LOOP_LOCKS 以 id(loop) 为键):asyncio.Lock 绑定创建它的
loop,应用主 loop 与测试各自的 loop 并存,跨 loop 复用会抛 "bound to a different
event loop"。
- WAL 切换用**独立锁** _wal_lock 而非 _write_lock:execute() 已持写锁,再在锁内
connect→_configure 会自锁死(asyncio.Lock 非重入)。切换 + 标记在专用锁内串行并
二次复查,否则并发首连会同时执行 PRAGMA journal_mode=WAL 争排他锁报
database is locked(core/db.py 同款教训,实测复现)。
- force_wal 保留:journal_mode 持久化在库文件头,库文件被删重建时新文件不继承,
必须重设。exists() 判定须在 aiosqlite.connect **之前**(connect 会创建空文件)。
- connect() 用 DB_PATH.parent 兜底建目录,优于 DATA_DIR:生产两者相同,但测试
monkeypatch 只换 DB_PATH 时兜底仍能命中正确目录。
留在 to_thread 上的仅剩**正当的阻塞卸载**,不是同步门面:PBKDF2 的 10 万次迭代
(登录链路每次都要跑)、smtplib 发信、备份文件的 copy2 / os.replace、secret.key
的文件 IO。原有 aria2 / downloader / zip 侧的 to_thread 未动。
不变量逐条保持(迁移只改执行模型,不改语义):
- ledger_settle 幂等:账本非 open 直接 return 0,重启后重放不重复退款;
- 终态先到先得:_mark_task_terminal 对已 done/error/canceled 的任务直接 return,
堵住 canceled→error 的非法迁移边;
- settle 必须在任务锁**外**调用(ledger_settle 要抢 SQLite 写锁,busy 最长 15s,
持任务锁会让全站进度/提交/取消随库停摆);
- reserve_and_open 的预扣与开账同事务,消除原两步之间的崩溃丢账窗口。
路径真源红线:DATA_DIR / DB_PATH / BACKUP_DIR / SECRET_KEY_PATH 仍是 auth_system.db
的**模块全局**(用与 core.db 相同的表达式,但**不是**它的别名)。测试只 patch
auth_system.db.*,若改成 core.db 的别名会静默把测试写到生产库。已核 data/site.db
读写前后 sha256 完全一致。
顺带清掉 get_conn:迁移后它只剩「转调 connect()」一层空壳、全仓零消费者(测试
直接开裸连接、备份用 db.connect()),保留等于留一条「拿裸连接自己写」的口子。
测试:19 个文件同步迁移——10 个文件的 web.deps.secret_key 替身改 async;
test_db_conn.py 的多线程首连用例按异步语义拆成 2 条(单 loop gather(16) 覆盖批量
并发首连、WAL 就绪后 8 线程各自 loop 建连覆盖跨 loop);test_billing_scope.py 去掉
多余的 @pytest.mark.anyio;被 await 且**正常返回**的 monkeypatch 替身一律改 async
(仅 raise 的同步替身仍可用)。
门禁:ruff 全过 / pyright 0-0-0(standard 模式含 tests 与顶层模块)/ pytest
384 项全绿(0 失败 0 error 0 skipped;383→384 因 test_db_conn 拆用例)。
data/site.db 读写前后 sha256 一致(a19f5db…6487),无 -wal/-shm 边车残留。
下一步 B3:删 core/sync_http.py、core/async_bridge.py、core/http_errors.py 及
tests/test_async_bridge.py——三者在生产侧已零消费者(http_errors 仅 sync_http
自用,requests 已非声明依赖)。
333 lines
13 KiB
Python
333 lines
13 KiB
Python
# -*- coding: utf-8 -*-
|
|
"""单曲下载任务 worker:下载 → 打包 → 交付 → 结算。
|
|
|
|
账号探测(VIP/音质)与二维码登录客户端均已迁出(前者只剩 web.routers.account
|
|
的异步实现,后者只剩 web.routers.admin 自己的客户端),本模块只负责单曲任务。
|
|
|
|
``_single_download_worker`` 原是 177 行 / 圈复杂度 30 的单函数,三个 except 分支
|
|
各写一遍「结算 + 删任务目录」,正文里又散着四处取消检查。此处按「一步一个具名
|
|
函数」拆开:主函数只留线性流程,失败收尾收敛到 ``_fail_single_task`` 一处。
|
|
|
|
worker 自本轮起是协程:下载链路本身已异步,落库已迁移为原生异步直接 await;
|
|
删目录/写 ZIP 等阻塞文件 IO 经 ``asyncio.to_thread`` 卸载。
|
|
"""
|
|
|
|
import asyncio
|
|
import os
|
|
import shutil
|
|
import threading
|
|
import time
|
|
import traceback
|
|
import zipfile
|
|
from collections.abc import Callable
|
|
from dataclasses import dataclass
|
|
from pathlib import Path
|
|
from typing import Any
|
|
|
|
import auth_system
|
|
from core.state import (
|
|
DOWNLOAD_TASKS,
|
|
DOWNLOAD_TASKS_LOCK,
|
|
)
|
|
from core.utils import format_lyric as _format_lyric
|
|
from music_downloader import (
|
|
DownloadCanceled,
|
|
DownloadException,
|
|
MusicInfo,
|
|
fetch_cover_bytes,
|
|
)
|
|
|
|
from ._shared import (
|
|
_build_download_base,
|
|
_record_log,
|
|
)
|
|
from ._taskcore import (
|
|
_mark_task_terminal,
|
|
)
|
|
from .api_service import (
|
|
api_service,
|
|
)
|
|
|
|
|
|
def _task_delivery_copy(task_id: str, src: Path, filename: str) -> str:
|
|
"""把共享缓存文件复制/硬链接为任务专属交付文件(任务成果与共享缓存分离,
|
|
任何任务的清理都不会再删掉别的任务的成果)"""
|
|
task_dir = api_service.downloads_path / 'tasks' / task_id
|
|
task_dir.mkdir(parents=True, exist_ok=True)
|
|
dst = task_dir / filename
|
|
if dst.exists():
|
|
return str(dst)
|
|
try:
|
|
os.link(str(src), str(dst)) # 同卷硬链接:零拷贝
|
|
except OSError:
|
|
shutil.copy2(str(src), str(dst))
|
|
return str(dst)
|
|
|
|
|
|
# _cleanup_task_dir 死代码删除——worker 直接 rmtree、监控线程直接
|
|
# rmtree,本函数全文件零调用(审计确认)。
|
|
|
|
|
|
@dataclass(frozen=True)
|
|
class SingleTaskParams:
|
|
"""单曲任务参数快照(worker 只读)。
|
|
|
|
原来是 10 个局部变量从 ``task['params']`` 逐个取出、再原样穿过整段流程;
|
|
收成一个 frozen 对象后,各步骤按需取字段,调用点不必重列一遍长参数表。
|
|
``cancel_ev`` 不是 params 里的值,而是任务对象上的取消事件,一并放这里
|
|
以免每一步都多传一个参数。
|
|
|
|
``music_id`` 刻意保持 **原样透传**(不转换):它来自前端、经 ``_extract_id``
|
|
归一化成数字字符串,而下游 ``get_music_info`` / ``download_music_file`` 的
|
|
签名声明 ``int``——两侧一直不一致,运行时靠字符串参与上游查询拼装而正常工作
|
|
(调用链上无算术)。类型标注为 ``Any`` 如实反映这个输入边界的实际形状;
|
|
顺手 ``int()`` 会改变异常面(非数字时从「上游查不到」变成 ``ValueError``),
|
|
属于行为变更,不在重构范围内。
|
|
"""
|
|
|
|
music_id: Any
|
|
quality: str
|
|
filename_format: str
|
|
write_meta: bool
|
|
meta_fields: Any
|
|
lyric_format: str
|
|
need_zip: bool
|
|
cookies: dict[str, str]
|
|
remote_ip: str
|
|
cancel_ev: threading.Event
|
|
|
|
|
|
def _begin_single_task(task_id: str) -> SingleTaskParams:
|
|
"""把任务置为 running 并取出参数快照。"""
|
|
with DOWNLOAD_TASKS_LOCK:
|
|
task = DOWNLOAD_TASKS[task_id]
|
|
task['status'] = 'running'
|
|
task['msg'] = '下载中...'
|
|
params = task['params']
|
|
return SingleTaskParams(
|
|
music_id=params['music_id'],
|
|
quality=params['quality'],
|
|
filename_format=params['filename_format'],
|
|
write_meta=params['write_meta'],
|
|
meta_fields=params['meta_fields'],
|
|
lyric_format=params['lyric_format'],
|
|
need_zip=params['need_zip'],
|
|
cookies=params['cookies'],
|
|
remote_ip=params.get('remote_ip') or '-',
|
|
cancel_ev=task['cancel'],
|
|
)
|
|
|
|
|
|
async def _fetch_single_metadata(p: SingleTaskParams) -> tuple[MusicInfo, dict[str, Any], str, str]:
|
|
"""一次预取歌曲完整信息(URL/详情/歌词三接口并发),并算出交付基础名。
|
|
|
|
替代原先 name_v1 + url_v1 + 下载器内部 get_music_info 的重复串行调用。
|
|
返回 ``(MusicInfo, 下载器口径的 music_info, base, filename)``。
|
|
"""
|
|
mi = await api_service.downloader.get_music_info(p.music_id, p.quality, p.cookies)
|
|
music_info = {
|
|
'id': p.music_id,
|
|
'name': mi.name,
|
|
'artist_string': mi.artists,
|
|
'album': mi.album,
|
|
'pic_url': mi.pic_url,
|
|
'file_type': mi.file_type,
|
|
'file_size': mi.file_size,
|
|
'duration': mi.duration * 1000,
|
|
'download_url': mi.download_url,
|
|
}
|
|
base = _build_download_base(p.filename_format, music_info)
|
|
return mi, music_info, base, f"{base}.{music_info['file_type']}"
|
|
|
|
|
|
def _single_progress_cb(task_id: str) -> Callable[[int, int], None]:
|
|
"""构造字节级进度回调(限频 0.4s):写进任务 live_percent。
|
|
|
|
/api/batch_progress 对运行中的单曲任务优先返回它——原实现 done 按首计数,
|
|
单曲进度条全程 0%。回调内任何故障都被吞掉,绝不影响下载主流程。
|
|
"""
|
|
last_ts = {'t': 0.0}
|
|
|
|
def _cb(written: int, total_bytes: int) -> None:
|
|
try:
|
|
now = time.time()
|
|
if now - last_ts['t'] < 0.4 and written < (total_bytes or 0):
|
|
return
|
|
last_ts['t'] = now
|
|
with DOWNLOAD_TASKS_LOCK:
|
|
t = DOWNLOAD_TASKS.get(task_id)
|
|
if not t or t.get('status') != 'running':
|
|
return
|
|
if total_bytes:
|
|
pct = min(99.0, written / total_bytes * 100)
|
|
t['live_percent'] = pct
|
|
t['msg'] = (f"下载中 {int(pct)}% · "
|
|
f"{api_service._format_file_size(written)}/{api_service._format_file_size(total_bytes)}")
|
|
else:
|
|
t['msg'] = f"下载中 · 已接收 {api_service._format_file_size(written)}"
|
|
except Exception:
|
|
pass # 进度上报故障绝不影响下载
|
|
|
|
return _cb
|
|
|
|
|
|
def _abort_if_canceled(cancel_ev: threading.Event) -> None:
|
|
"""取消检查点:下载完成后到发布前,每一步之间都要过这道闸。
|
|
|
|
原先这三处检查(下载后 / 打包后 / 发布前)逐字重复,且末段那次还兼
|
|
「不得把已取消覆盖成 done」的职责——后者在 ``_publish_single_task`` 里另做。
|
|
"""
|
|
if cancel_ev.is_set():
|
|
raise DownloadCanceled("任务已取消")
|
|
|
|
|
|
def _single_file_result(file_path_str: str, filename: str,
|
|
music_info: dict[str, Any]) -> dict[str, Any]:
|
|
"""不打包(zip=false)的交付描述。"""
|
|
return {
|
|
'file_path': file_path_str,
|
|
'filename': filename,
|
|
'mimetype': f"audio/{music_info['file_type']}",
|
|
'audio_files': [file_path_str],
|
|
}
|
|
|
|
|
|
async def _pack_single_zip(file_path_str: str, base: str, filename: str, mi: MusicInfo,
|
|
music_info: dict[str, Any], p: SingleTaskParams) -> dict[str, Any]:
|
|
"""把音频 + 歌词 + 封面 + info.txt 打成单曲 ZIP 交付包。
|
|
|
|
歌词与封面都是**尽力而为**:歌词在预取时已一并拿到(无需再请求一次),
|
|
封面走共享缓存;两者拿不到就不写对应条目,不影响音频交付。
|
|
ZIP 组装是整段文件拷贝的阻塞 IO,经 to_thread 卸载。
|
|
"""
|
|
import tempfile as _tempfile
|
|
|
|
# 封面走共享缓存(与元数据写入共用同一次网络请求)——先取好再落包,
|
|
# 网络等待留在事件循环里(协程),文件写入整段交给线程
|
|
cover: bytes = b''
|
|
if mi.pic_url:
|
|
cover = await fetch_cover_bytes(mi.pic_url) or b''
|
|
|
|
fd, zip_tmp_path = _tempfile.mkstemp(prefix='single_zip_', suffix='.zip',
|
|
dir=str(Path(file_path_str).parent))
|
|
os.close(fd)
|
|
|
|
def _write_zip() -> None:
|
|
with zipfile.ZipFile(zip_tmp_path, 'w', zipfile.ZIP_DEFLATED) as zf:
|
|
zf.write(file_path_str, arcname=filename)
|
|
# 歌词已在预取时一并拿到,无需再请求一次
|
|
if mi.lyric:
|
|
try:
|
|
zf.writestr(f"{base}.{p.lyric_format}",
|
|
_format_lyric(mi.lyric, p.lyric_format))
|
|
except Exception:
|
|
pass
|
|
if cover:
|
|
zf.writestr(f"{base}.jpg", cover)
|
|
info_txt = (
|
|
f"歌曲: {music_info['name']}\n"
|
|
f"歌手: {music_info['artist_string']}\n"
|
|
f"专辑: {music_info['album']}\n"
|
|
f"音质: {api_service._get_quality_display_name(p.quality)}\n"
|
|
)
|
|
zf.writestr("info.txt", info_txt)
|
|
|
|
await asyncio.to_thread(_write_zip)
|
|
return {
|
|
'file_path': file_path_str,
|
|
'zip_path': zip_tmp_path,
|
|
'filename': f"{base}.zip",
|
|
'mimetype': 'application/zip',
|
|
'audio_files': [file_path_str],
|
|
}
|
|
|
|
|
|
async def _publish_single_task(task_id: str, result: dict[str, Any], remote_ip: str,
|
|
name: str, filename: str) -> None:
|
|
"""最终发布:置 done(已终态不覆盖)→ 结算 → 记操作日志。
|
|
|
|
交付已落定;结算失败**不再**把任务改标 error——钱由重启对账兜底,
|
|
宁可商家小损不坑用户。末段取消检查与此处的状态检查合流:任务已被外部
|
|
置成 canceled/error 时,worker 的成功路径不得把它覆盖回 done。
|
|
"""
|
|
with DOWNLOAD_TASKS_LOCK:
|
|
t = DOWNLOAD_TASKS.get(task_id)
|
|
if t is None or t.get('status') in ('canceled', 'error'):
|
|
raise DownloadCanceled("任务已取消")
|
|
t['status'] = 'done'
|
|
t['completed_at'] = time.time()
|
|
t['done'] = 1
|
|
t['msg'] = '下载完成'
|
|
t['result'] = result
|
|
try:
|
|
await auth_system.ledger_settle(task_id, 1, 'delivered')
|
|
except Exception as _e:
|
|
api_service.logger.error(f"单曲交付结算失败(重启对账兜底): {task_id} {_e}")
|
|
try:
|
|
_record_log('下载', remote_ip, name)
|
|
except Exception:
|
|
pass
|
|
api_service.logger.info(f"单曲下载完成: {filename} ({task_id})")
|
|
|
|
|
|
async def _fail_single_task(task_id: str, status: str, msg: str, ledger_status: str,
|
|
task_dir_path: str | None) -> None:
|
|
"""失败/取消的统一收尾:置终态 → 退款 → 清掉任务目录。
|
|
|
|
这三个 except 分支原先各写一遍(共 9 行 × 3 处);收敛后新增一种失败
|
|
只需要挑一个 ``ledger_status``,不会再漏掉清理或退款。
|
|
"""
|
|
await _mark_task_terminal(task_id, status, msg)
|
|
try:
|
|
await auth_system.ledger_settle(task_id, 0, ledger_status)
|
|
except Exception:
|
|
pass
|
|
if task_dir_path:
|
|
await asyncio.to_thread(shutil.rmtree, task_dir_path, ignore_errors=True)
|
|
|
|
|
|
async def _single_download_worker(task_id: str) -> None:
|
|
"""后台单曲下载:下载音频(可选 ZIP 打包),支持取消;完成后由 /download/result 交付,35 分钟保留期清理"""
|
|
task_dir_path: str | None = None
|
|
try:
|
|
p = _begin_single_task(task_id)
|
|
mi, music_info, base, filename = await _fetch_single_metadata(p)
|
|
|
|
download_result = await api_service.downloader.download_music_file(
|
|
p.music_id, p.quality,
|
|
write_meta=p.write_meta,
|
|
meta_fields=p.meta_fields,
|
|
cookies=p.cookies,
|
|
cancel_event=p.cancel_ev,
|
|
music_info=mi,
|
|
progress_cb=_single_progress_cb(task_id),
|
|
)
|
|
if not download_result.success:
|
|
raise DownloadException(download_result.error_message or "下载失败")
|
|
_abort_if_canceled(p.cancel_ev)
|
|
assert download_result.file_path is not None
|
|
# 交付文件用任务专属副本,共享缓存不进清理清单
|
|
file_path_str = await asyncio.to_thread(
|
|
_task_delivery_copy, task_id, Path(download_result.file_path), filename)
|
|
task_dir_path = str(Path(file_path_str).parent)
|
|
|
|
if p.need_zip:
|
|
result = await _pack_single_zip(file_path_str, base, filename, mi, music_info, p)
|
|
else:
|
|
result = _single_file_result(file_path_str, filename, music_info)
|
|
# 打包阶段同样以取消检查收口
|
|
_abort_if_canceled(p.cancel_ev)
|
|
|
|
await _publish_single_task(task_id, result, p.remote_ip, music_info['name'], filename)
|
|
except DownloadCanceled:
|
|
api_service.logger.info(f"单曲下载已取消: {task_id}")
|
|
await _fail_single_task(task_id, 'canceled', '任务已取消', 'canceled', task_dir_path)
|
|
except DownloadException as e:
|
|
api_service.logger.error(f"单曲下载失败: {task_id} {e}")
|
|
await _fail_single_task(task_id, 'error', str(e), 'error', task_dir_path)
|
|
except Exception as e:
|
|
# 非预期异常的 repr 可能含上游主机/连接细节——用户可见文案
|
|
# 泛化为固定文案,原文 logger 先行留档(教训:先记录再泛化)
|
|
api_service.logger.error(f"单曲下载异常: {task_id} {e}\n{traceback.format_exc()}")
|
|
await _fail_single_task(task_id, 'error', '下载失败,请稍后重试', 'error', task_dir_path)
|