Archived
snowy-yang
96af56cc27
拆掉两类垫片的最后一处：auth_system 原为同步 sqlite3 栈，web 层与 services 的
worker 只能靠 asyncio.to_thread 逐个桥接才不阻塞事件循环——每次 DB 访问都白付一次
线程池调度，且「同步调异步」的边界散落在 100+ 个调用点。B1 已把 worker 变成协程，
本批把访问层本身也迁到原生异步，两条线在此合拢。
改动（按子系统）：
- auth_system：db.py 照 core/db.py 现有范式重建为原生异步访问层（aiosqlite + WAL）
——读路径 _q 每次独立连接、无锁、可并发；写路径 _x / write_transaction 用
asyncio.Lock 串行化，写者不阻塞读者。users / cards / credits / ledger / logs /
settings / mail / geo / backup 九模块随之全部 async/await；security.py 是纯计算
（pbkdf2/normalize）不动。__init__ 去掉 _DB_LOCK 与 get_conn 导出。
- web：app / deps / billing / tasks_registry 与 routers/{admin_site,auth,music,
register,user} 直接 await，拆掉包裹的 to_thread。deps.secret_key 改 async，
连带 _parse_cookie 也 async（会话解析要读密钥）。
- services：_taskcore / tasks / downloads / podcast 的账本调用与查询直接 await。
4 处 start_task 调用点（download.py）确认已 await。
设计取舍（为什么这么做，而不是直接包一层）：
- 锁按**事件循环**隔离（_LOOP_LOCKS 以 id(loop) 为键）：asyncio.Lock 绑定创建它的
loop，应用主 loop 与测试各自的 loop 并存，跨 loop 复用会抛 "bound to a different
event loop"。
- WAL 切换用**独立锁** _wal_lock 而非 _write_lock：execute() 已持写锁，再在锁内
connect→_configure 会自锁死（asyncio.Lock 非重入）。切换 + 标记在专用锁内串行并
二次复查，否则并发首连会同时执行 PRAGMA journal_mode=WAL 争排他锁报
database is locked（core/db.py 同款教训，实测复现）。
- force_wal 保留：journal_mode 持久化在库文件头，库文件被删重建时新文件不继承，
必须重设。exists() 判定须在 aiosqlite.connect **之前**（connect 会创建空文件）。
- connect() 用 DB_PATH.parent 兜底建目录，优于 DATA_DIR：生产两者相同，但测试
monkeypatch 只换 DB_PATH 时兜底仍能命中正确目录。
留在 to_thread 上的仅剩**正当的阻塞卸载**，不是同步门面：PBKDF2 的 10 万次迭代
（登录链路每次都要跑）、smtplib 发信、备份文件的 copy2 / os.replace、secret.key
的文件 IO。原有 aria2 / downloader / zip 侧的 to_thread 未动。
不变量逐条保持（迁移只改执行模型，不改语义）：
- ledger_settle 幂等：账本非 open 直接 return 0，重启后重放不重复退款；
- 终态先到先得：_mark_task_terminal 对已 done/error/canceled 的任务直接 return，
堵住 canceled→error 的非法迁移边；
- settle 必须在任务锁**外**调用（ledger_settle 要抢 SQLite 写锁，busy 最长 15s，
持任务锁会让全站进度/提交/取消随库停摆）；
- reserve_and_open 的预扣与开账同事务，消除原两步之间的崩溃丢账窗口。
路径真源红线：DATA_DIR / DB_PATH / BACKUP_DIR / SECRET_KEY_PATH 仍是 auth_system.db
的**模块全局**（用与 core.db 相同的表达式，但**不是**它的别名）。测试只 patch
auth_system.db.*，若改成 core.db 的别名会静默把测试写到生产库。已核 data/site.db
读写前后 sha256 完全一致。
顺带清掉 get_conn：迁移后它只剩「转调 connect()」一层空壳、全仓零消费者（测试
直接开裸连接、备份用 db.connect()），保留等于留一条「拿裸连接自己写」的口子。
测试：19 个文件同步迁移——10 个文件的 web.deps.secret_key 替身改 async；
test_db_conn.py 的多线程首连用例按异步语义拆成 2 条（单 loop gather(16) 覆盖批量
并发首连、WAL 就绪后 8 线程各自 loop 建连覆盖跨 loop）；test_billing_scope.py 去掉
多余的 @pytest.mark.anyio；被 await 且**正常返回**的 monkeypatch 替身一律改 async
（仅 raise 的同步替身仍可用）。
门禁：ruff 全过 / pyright 0-0-0（standard 模式含 tests 与顶层模块）/ pytest
384 项全绿（0 失败 0 error 0 skipped；383→384 因 test_db_conn 拆用例）。
data/site.db 读写前后 sha256 一致（a19f5db…6487），无 -wal/-shm 边车残留。
下一步 B3：删 core/sync_http.py、core/async_bridge.py、core/http_errors.py 及
tests/test_async_bridge.py——三者在生产侧已零消费者（http_errors 仅 sync_http
自用，requests 已非声明依赖）。
107 lines
3.7 KiB
Python
107 lines
3.7 KiB
Python
# -*- coding: utf-8 -*-
|
|
"""登录 IP 归属地探测与异地自动封禁。
|
|
|
|
（自 auth_system.py 拆出，行为与原实现一致；DB 访问已迁移为原生异步。）
|
|
"""
|
|
|
|
import json
|
|
import sqlite3
|
|
import time
|
|
|
|
from core.http_client import client as _http
|
|
|
|
from .db import (
|
|
_x,
|
|
)
|
|
from .logs import (
|
|
add_log,
|
|
)
|
|
from .users import (
|
|
ban_user,
|
|
)
|
|
|
|
_PROVINCE_CACHE: dict[str, str] = {}
|
|
|
|
|
|
def _is_private_ip(ip: str) -> bool:
|
|
"""内网/回环地址判断（172.16-31.* 才是私网，不能把整个 172.* 误判）"""
|
|
try:
|
|
import ipaddress
|
|
addr = ipaddress.ip_address(ip)
|
|
return addr.is_private or addr.is_loopback or addr.is_link_local
|
|
except ValueError:
|
|
return False
|
|
|
|
|
|
async def query_ip_province(ip: str) -> str:
|
|
"""查询 IP 归属省份（内网/失败返回空串），带进程内缓存
|
|
改用官方路径 /json/{query} 与 zh-CN 语言参数。
|
|
|
|
走 core.http_client 的原生异步通道（原实现经 core.sync_http 同步门面
|
|
在后台事件循环桥接——调用方本就是 async 的登录链路，无需再桥一次）。
|
|
"""
|
|
ip = (ip or '').split(',')[0].strip()
|
|
if not ip or ip in ('-', '127.0.0.1', '0.0.0.0') or _is_private_ip(ip):
|
|
return ''
|
|
if ip in _PROVINCE_CACHE:
|
|
return _PROVINCE_CACHE[ip]
|
|
province = ''
|
|
try:
|
|
import urllib.parse as _ul
|
|
|
|
r = await _http.request(
|
|
'GET', 'http://ip-api.com/json/' + _ul.quote(ip),
|
|
params={'lang': 'zh-CN', 'fields': 'status,regionName'},
|
|
timeout=5)
|
|
d = r.json()
|
|
if d.get('status') == 'success':
|
|
province = str(d.get('regionName') or '')
|
|
except Exception:
|
|
province = ''
|
|
# 简单容量上限，防止公网长期运行下无界增长
|
|
if len(_PROVINCE_CACHE) > 5000:
|
|
_PROVINCE_CACHE.clear()
|
|
# 查询失败（超时/限流/垃圾 JSON）的空省份不写缓存——旧口径一次
|
|
# ip-api 抖动窗口内登录的 IP 被永久标记"无省份"，省份防倒卖静默失效
|
|
if province:
|
|
_PROVINCE_CACHE[ip] = province
|
|
return province
|
|
|
|
|
|
PROVINCE_WINDOW = 24 * 3600 # 省份变化检测窗口：24 小时
|
|
|
|
PROVINCE_BAN_LIMIT = 3 # 窗口内出现 >=3 个不同省份即封禁
|
|
|
|
|
|
async def record_login_location(user: sqlite3.Row, ip: str) -> tuple:
|
|
"""记录本次登录省份并检测异常：24h 内出现 >=3 个不同省份自动封禁。
|
|
返回 (是否被封禁, 说明)
|
|
|
|
落库走原生异步通道（auth_system 已迁移为异步 DB 层），直接 await，
|
|
不再经 asyncio.to_thread 桥接。
|
|
"""
|
|
if user['role'] == 'admin':
|
|
return False, ''
|
|
province = await query_ip_province(ip)
|
|
if not province:
|
|
return False, ''
|
|
now = int(time.time())
|
|
try:
|
|
history = json.loads(user['recent_provinces'] if 'recent_provinces' in user.keys() and user['recent_provinces'] else '[]')
|
|
except Exception:
|
|
history = []
|
|
history = [h for h in history if isinstance(h, dict) and now - int(h.get('t', 0)) <= PROVINCE_WINDOW]
|
|
history.append({'p': province, 't': now})
|
|
provinces = []
|
|
for h in history:
|
|
if h.get('p') and h['p'] not in provinces:
|
|
provinces.append(h['p'])
|
|
await _x('UPDATE users SET recent_provinces = ? WHERE id = ?',
|
|
(json.dumps(history, ensure_ascii=False), user['id']))
|
|
if len(provinces) >= PROVINCE_BAN_LIMIT:
|
|
reason = f'24小时内检测到 {len(provinces)} 个不同省份登录（{"/".join(provinces[-3:])}），疑似账号倒卖，已自动封禁'
|
|
await ban_user(user['id'], reason)
|
|
await add_log('fail', user['username'], ip, '自动封禁', reason)
|
|
return True, reason
|
|
return False, province
|