 snowy-yang
|
69a50c2c31
|
refactor: worker 子系统全面异步化，拆掉同步转异步的桥接层
拆掉「同步调异步 / 异步桥同步」两类垫片的第二半（HTTP 线 B2 见前序提交）。
worker 侧此前是「起线程跑同步函数、函数体内部再用 asyncio.to_thread 把活塞给
另一条循环」——线程与协程互等，取消/暂停只能靠轮询。本轮把 worker 自身变成
协程，由 _start_task 直接挂到应用事件循环上，桥接层随之失去存在理由。
改动（按子系统）：
- music_downloader：downloader / _aria2 / _concurrency / cover / _http /
__main__ 全链路协程化。per-file 锁改 asyncio.Lock；计数闸改
「active 计数 + await asyncio.sleep(0.5)」的可取消等待（原阻塞式 with 会让
已取消任务仍要等全局名额腾出，卡死并拖后腿退款）；aria2p 的同步 RPC 仍经
to_thread，轮询改 asyncio.sleep；新增 core.http_client.iter_chunks，把**流式
读取期**的 aiohttp.ClientError 收敛成 UpstreamNetworkError（请求建立阶段早已
有这条路径，读取阶段此前没有，断流会绕过调用方的 UpstreamError 分类）。
删除 get_http_session / _SESSION_LOCAL。
models._RetryFromScratch 不再继承 requests.RequestException 而继承 Exception：
它是「续传起点失效、残片已清、从头重下」，既不是确定性失败
(DownloadException)，也不是残片已保留的网络失败(UpstreamError)，必须独立
成类且在 except 链中先于二者捕获。
- music_api：podcast.py 全部函数协程化（直链解析内部改
await NeteaseAPI.get_song_url）；compat.py 删除——16 个死掉的同步门面早已
清空，文件只剩空壳。
- services：_taskcore / _zipcore / batch / downloads / podcast / tasks 协程化。
threading.Thread → loop.create_task（任务句柄字段 worker_thread →
worker_task），ThreadPoolExecutor → asyncio.gather + asyncio.Semaphore，
终态函数与结算回调全部改 await；监控线程里「worker 已死」判定改 task.done()。
删除 services/streaming.py（同步流垫片，唯一消费者已迁到
core.http_client.open）。zipfile 实例仍非线程安全，故「下载」并行、
「入包」严格串行。
- web：路由层 130+ 处 to_thread 拆除——被包住的目标自己已是协程，再包一层只是
把协程丢进线程里跑一圈。tasks_registry.start_task 直接 create_task。
web/app.py 关闭段去掉 async_bridge.shutdown()（不再有第二条约循环）。
web/routers/download.py 的播客端点补上 3 处漏掉的 await
（extract_podcast_ref / get_radio_detail）——漏掉时不报错、只静默返回协程对象，
靠 pyright 抓出来后修正。
留在 to_thread 上的都是**正当的阻塞卸载**：同步 SQLite 落库与账本结算、
mutagen 全量重写标签、zipfile 整段拷贝、shutil.rmtree、aria2p 的同步 RPC、
PBKDF2 的 10 万次迭代。ruff 对残留的本地元数据操作（exists/stat/os.replace/
往 .part 顺序写分块）按「微秒级、卸载的调度开销大于操作本身」放行，pyproject
逐条注明理由。
取消/暂停仍由 threading.Event 承载：置位方是请求线程/监控线程，读取方是 worker
协程，只有「置位」与「轮询读取」两种操作，既不需要跨循环唤醒也不会卡住事件
循环——比 asyncio.Event 更省心（ASYNC110 同理按此豁免）。
测试：10 个文件的替身边界同步迁移——网络替身从 core.sync_http 的
get_http_session 换成 downloader/服务模块的 _http.open + **真实** iter_chunks
（顺带钉住读取期异常收敛）；`_run` 改为在独立线程里 asyncio.run(worker(...))；
aria2 的假时钟从 time.sleep 换成 _POLL_INTERVAL=0；monitor 的线程句柄替身换成
done() 可控的轻量替身（asyncio.Task 的构造需要运行中的事件循环，而监控循环跑在
常驻线程里）；podcast / 封面 / 结算包装等替身一律改 async。
门禁：ruff 全过 / pyright 0-0 / pytest 383 项全绿（0 失败）。
下一步 B2：auth_system 12 个模块改 aiosqlite 背板、web 层剩余 to_thread 收尾；
B3：删 core/sync_http.py、core/async_bridge.py、core/http_errors.py（现仅
sync_http 自用）。
|
2026-09-28 19:36:56 +08:00 |
|
|
snowy-yang
|
ad8c30d932
|
refactor: 下载/标签/格式探测改用成熟库（aria2 + mutagen + filetype）
为什么：原先三处都在手写轮子——ffmpeg CLI 拼参数写标签、aiohttp 单连接手搓
下载、自己比对魔数判格式。手写部分既难测又易错；改走成熟库后测试从 144 涨到
175，并且彻底去掉了 ffmpeg 这个外部二进制依赖。
下载 → aria2c 常驻 JSON-RPC（aria2p 客户端），新增 _aria2.py
- 单例后端：首次调用时拉起 aria2c，只监听 127.0.0.1 且强制随机 secret
（无鉴权的 aria2 RPC 允许本机任意进程操纵队列、读写任意文件）
- split=5 / max-connection-per-server=5 多连接 + 原生断点续传
- 异常语义与内置通道逐一对齐：取消/超限清残片抛 DownloadCanceled /
DownloadException，任务失败/超时保留残片抛 RequestException 供续传
- 取不到 aria2c 时 get_backend() 返回 None，自动降级到内置 aiohttp 通道
（本机无 aria2c 的降级路径已实测）
标签 → mutagen 纯 Python 写入，新增 tagging.py
- 取代 _write_metadata_with_ffmpeg + _build_format_args（226 行 shell 参数拼接）
- MP3(ID3v2.3)/FLAC/M4A/OGG/Opus 分容器实现，无子进程、不重编码
- 就地改帧：TXXX 等未触及的标签原样保留（ffmpeg 整帧重写会丢）
- 临时文件 + os.replace 原子替换，写坏不会留下半个文件
- 为什么不是 ffmpeg-python（原方案）：实测它用 **kwargs 建模选项，无法表达
重复键（-metadata ×N），list 值还会被字符串化成 "['0', '1:v']"；-map 尚有
内置的 stream 位置参数入口，但 -metadata 无解，且 overwrite_output=True
生成的 -y 被排到输出文件之后、可能失效
格式探测 → filetype，改 _http.py
- 删除手写的 _AUDIO_MAGIC 魔数表，改用 filetype.guess() 判 MIME
（audio/* 放行，video/mp4 作为容器显式放行）
配套
- Dockerfile：镜像不再装 ffmpeg，改装 aria2
- pyproject：新增 filetype / aria2p / mutagen；dev 加 httpx2（消除测试里的
StarletteDeprecationWarning，现 0 warning）
- __main__.py / __init__.py / models.py：清理 ffmpeg 相关导出与文案
测试：新增 31 个用例（test_aria2.py 13、test_tagging.py 21，含最小合法 FLAC
样本构造）；全套 175 passed / 0 warning
|
2026-09-26 13:54:44 +08:00 |
|
|
snowy-yang
|
6288a98ecc
|
refactor: 拆分 4 个巨石模块为包，清理过时注释并删除作废文档
为什么：单文件 1100~1900 行的巨石模块让「改一处要通读全文」；同时注释里残留
大量已删台账的编号，以及「Flask/FastAPI 双栈迁移期」这类已失实的架构描述，
会误导后来者按不复存在的架构去改代码。
拆分（对外导入路径不变，行为零变更）：
- music_downloader.py -> music_downloader/（models/downloader/cover/_http/_log/_concurrency）
- auth_system.py -> auth_system/（db/security/users/credits/ledger/mail/cards/backup...）
- music_api.py -> music_api/（api/client/crypto/qr/cookies/compat/constants/errors）
- services/runtime.py -> services/（api_service/_shared/_taskcore/downloads/batch/podcast/
streaming/tasks）；services/runtime.py 保留为兼容门面
兼容性做法：各包用 __init__.py 以 __all__ 原样再导出全部符号，既有调用点
（auth_system.xxx / services.xxx / from music_api import Y）零改动；路径常量改为经包属性
动态读取（auth_system.DB_PATH），否则测试的 monkeypatch 会静默失效并写到生产库。
修复 9 处代码损伤（上一轮注释清理把 `()` 当「空括号残留」删掉所致；用「与拆分前逐字
等价」校验逐一定位，静态检查只会报出其中 4 处）：
- core/config.py ).strip() or '*'
- core/state.py threading.Lock() x2
- qr_login.py datetime.now() / .strip()
- music_downloader/downloader.py .lower()
- services/podcast.py set() / time.time() x2
清理与删除：
- 删除 部署文档.md / 功能介绍.md / README_私有包警告.txt
- 清理指向已删台账与文档的过时编号注释；把「迁移期 / 两栈 / 双框架 / 已迁移」等
失实描述改写为现状描述（保留 `<-> Flask /path` 映射表等仍有价值的契约来源说明）
- _mkpkg.py：公开包剔除清单去掉已不存在的文档名；私有包警告改为自包含
- pyproject.toml：补 pythonpath = ["."]，使裸跑 pytest 不再 import core 失败
验证：ruff 全通过；pyright 0 errors / 0 warnings（102 文件）；pytest 144 passed；
真实 uvicorn 冒烟 6 条路由符合预期且生产 data/ 指纹未变；忽略注释的逐字等价性校验通过。
|
2026-09-26 12:37:48 +08:00 |
|