 gao
|
a8ea132924
|
fix(stock_node+utils+cli): review findings P0/P1/P2 一轮修复
medium effort code-review 暴露 8 个 finding,按 P0/P1/P2 优先级修复:
P0 (数据正确性 / 跑得起来):
#1 replace_all_node_categories 改 scope-aware delete
之前无条件 delete(NodeCategory) + 插入 runtime filter 后的子集,
导致 --type2 0 跑把其它 6 个 category 误删。改为只 delete 本批
category_key 集合,其它 type2 不动。
#2 replace_all_stock_node_map 对称化
之前空 rows 时 early-return 留下 stale,导致「categories 新
但 mappings 旧」不一致。改为 scope-aware delete 同 #1。
#3 stock_node systemd --workers 20 → 8
20 workers × 默认 10 RPS = 200 RPS,撞穿 mairui 钻石档 100 RPS
上限,触发风控。改为 8 × 10 = 80 RPS,留 20% buffer。
P1 (静默错):
#4 is_a_share_code 接 hermes 格式
之前硬性要求 len(c)==6,iter_stock_codes 改返 hermes 时 5 个
task (moneyflow/share_snapshot/kline_5min/tick_trade/kline_daily)
会静默过滤成空 list。剥前缀再判断,兼容 'SH600519'。
#5 mairui tz 契约钉在 source 层
tz_localize 改为「已带 tz 就保留,没有再标 Asia/Shanghai」,
避免 mairui 改格式时抛 TypeError。task_tick_trade 删掉
strftime fallback + 冗长注释(契约已在 source 层 docstring)。
#6 CLI inspect.signature 过滤 kwargs
--type2 / --backfill 加在共享 p_sync parser 上,任何 task 通过
**kwargs 静默吞掉。改为 dispatcher 按 task._run 签名过滤,
不支持的参数打 warning。
P2 (维护):
#7 task_stock_node --type2 输入校验
之前空字符串 / 「concept」 / 99 都 silently collapse 成空 set,
走「无匹配叶子节点」warning 分支(被 daily_check 当正常)。
CLI 不再 silent-drop,任务层加 strict 校验,typo 返 status=error。
#8 code6_to_exchange 删 3 个死分支
4 个 code6_to_* wrapper 都先 _strip_hermes,3 个 hermes if 分支
走不到。删除后 function 简化,所有 caller 行为不变。
附带:
- tests/test_smoke.py: 11 → 13 (含 mairui_ma_daily + stock_node)
- tests/test_schema_models.py: 21 → 22 (含 kline_stock_ma_daily +
node_categories/nodes/stock_node_map)
- bin/market_sync_stock_node_run.sh 注释补充 RPS 计算
验证:
- pytest tests/ 11 passed
- is_a_share_code 8 个 hermes 边界 case 全过
- cli sync kline_daily --type2 2,3 → warning 已打印
- cli sync stock_node --type2 concept → status=error
- cli sync stock_node --type2 99 → status=error
- cli sync stock_node --type2 0 → 仅 0:0 行被刷新,其它 6 类不动
- fetch_tick_trade('600519') 返回 tz=Asia/Shanghai +08:00
|
2026-07-07 16:04:47 +08:00 |
|
|
gao
|
e8e35b9716
|
fix(mairui): 修正 _BASE_URL 子域名（api → a）
mairui 把资金流接口 transaction 路由到 a.mairuiapi.com 子域名，
主域名 api.mairuiapi.com 调用 transaction 返回 HTTP 410 endpoint_unavailable。
其他接口（kline/5min/tick）在两个子域名均正常。
症状：moneyflow 同步 5205 全失败，0 行写入；manual --force 重跑同样 0 行。
原因：项目 _BASE_URL 写成主域名，transaction 接口请求被服务端永久拒绝。
修复：改为文档示例用的 a.mairuiapi.com 子域名。
验证：health_check 通过；moneyflow --force 5204 成 1 败，102731 行入库。
|
2026-07-07 10:56:28 +08:00 |
|
|
gao
|
b351bd7595
|
feat: 新增 mairui 历史分时 MA 日 K 级别 sync task
work #06 (2026-07-03)：user 请求加 mairui /hsdata 历史分时 MA 同步（日 K 级别）。
mairui 端点探测：/d/ma, /d/ma5/10/20, /15/ma, /30/ma, /60/ma 端点结构存在
但当前免费 licence 返 数据不存在；基础 K 线 (/d/n, /15/n, /30/n, /60/n) 正常。
策略：本地从 kline_stock 计算（pandas per-stock rolling），写新表
kline_stock_ma_daily，source=local_kline_proxy 标识本地派生。
mairui URL 留作未来升级 licence 后切 API 用。
变更：
- app/core/db/models.py: KlineStockMADaily ORM model
- app/core/db/ops.py: upsert_kline_stock_ma_daily_rows (批量 5000/批)
- app/tasks/task_mairui_ma_daily.py: SyncMairuiMADaily (全量重算)
- app/tasks/__init__.py: 注册到 TASKS dict
- app/core/sync/registry.py: SYNC_DEFINITION (sort_order=90, dep=kline_daily)
- app/core/scheduler/scheduler.py: schedule_mairui_ma_daily @ 16:30 + register_sync_jobs
- bin/daily_sync_check.py: SCHEDULE entry (window_end=17:00)
烟测：11,684,592 行, 5510 只, 1370s (23min)，MA5/10/20/60 全部计算。
SH600519 样本：ma5=1194.18 ma10=1191.03 ma20=1211.94 ma60=1296.20 (2026-07-03)
未来优化（不在本 work）：
- 增量模式（每日只算最近 1-2 天）→ 23min → 30s
- 升级 mairui licence 切到 /d/maN API
- 加 EMA / BOLL / KDJ 等其他指标
Co-Authored-By: Claude <noreply@anthropic.com>
|
2026-07-03 17:36:49 +08:00 |
|
|
gao
|
7a985dddd5
|
refactor: PG-only 迁移 + 龙虎榜/tick/moneyflow 同步 + stock_code 统一 + mairui 编码修复
## 1. PG-only 重构
- 删 app/core/db/connection.py + schema.py (MySQL 路径)
- 新 app/core/db/{orm,models,pg_bootstrap}.py — SQLAlchemy 2.x ORM 一键建表
- 16 张业务表全在 market_data schema,原生 TIMESTAMPTZ / JSONB / Float / TEXT
- requirements.txt 删 PyMySQL 路径,加 psycopg2
## 2. 同步任务扩展(3 个新 task)
- **tick_trade** (mairui hsrl/zbjy):当天逐笔交易,21:00 发布
- **moneyflow** (mairui hsstock/history/transaction):个股资金流,21:30 发布
- **longhubang** (akshare):龙虎榜聚合层 + 席位层(2 张新表)
- 长虎榜放宽 akshare 政策:仅"无替代源 + 烟测通过"场景允许
- data_eastmoney 私有 API 不需要(akshare 烟测通过)
- 3-timer 设计:
- 15:30 market-sync.service (8 base tasks via runall_once)
- 21:05 market-sync-tick.service (tick_trade)
- 21:35 market-sync-moneyflow.service (moneyflow)
- 22:00 market-sync-lhb.service (longhubang,新加)
- bin/systemd/ 新增 tick / moneyflow / lhb 各 1 对 service+timer
- bin/market_sync_*_run.sh wrapper 脚本(不做法定节假日过滤,fail-open)
## 3. stock_code 统一为带 SH/SZ/BJ 前缀
- 历史 bug:stocks.code 用 SH600519,但 kline/moneyflow/tick_trade/kline_5min
/stock_sector_map/industry 6 张表用纯 6 位 600519,跨表 JOIN 全部 0 行
- 新增 to_hermes() 工具:6位 / 9位(mairui `000001.SZ` 格式)→ 统一 SH000001
- 5 个 task 改写:用 to_hermes(code6) 写入 stock_code
- 一次性迁移 6 张表存量 154M 行(CASE WHEN 探测 + 去重 + 加前缀)
- ORM: stock_sector_map.stock_code / industry.code String(6)→String(10)
## 4. Bug 修复
- **share table stock_code 格式**:之前写 6 位不带前缀,与 stocks 不一致
→ 修 task_share_snapshot + 一次性 UPDATE 63,417 行加前缀
- **share_snapshot warning 状态错填 last_error**:
→ 加 mark_sync_warning() 走专用路径,不写 last_failure_at / last_error
- **schedule config lastRun 不同步**:
→ 加 update_job_status_for_dataset(),SyncTask.run() 完成后自动镜像
→ cli/runall 触发的 task 也能更新 schedule config
## 5. mairui UTF-8 编码修复
- 历史 bug:mairui.py:_fetch 用 latin-1 兜底解码,把所有 UTF-8 中文名
double-encoded 写入 stocks.name(如 `歌华有线` 变成 `æ\xad\x8cå\x8d\x8e...`)
- 加 _decode_response():UTF-8 → GBK → latin-1 兜底
- 一次性修复 stocks.name 5,213 行:
- 4,370 行 (encode('latin-1').decode('utf-8') 反向解码)
- 616 行 (含 fullwidth Ａ,宽松 printable 检查)
- 820 行 (mid-character 截断,重新从 mairui 拉)
## 6. 测试
- tests/test_smoke.py: TASKS 10→11, SYNC_DEFINITIONS 10→11
- tests/test_schema_models.py: 16→18 张表,新增 longhubang_daily/seat
- pytest 11/11 passed
## 验证
- 6 张表 0 残留无前缀行
- stocks JOIN kline_stock / kline_5min / moneyflow / tick_trade / stock_sector_map:88-100% 命中
- 5,213 stocks.name 全部正确 UTF-8 中文
- pytest 11/11 passed
|
2026-07-01 22:00:58 +08:00 |
|
|
gao
|
05635b76b9
|
chore: 重构前基线 — 9 个 sync task 全部 ok + akshare 移除 + mairui 资金流接入
状态：
- 9 个 sync task（stock_basic / kline_daily / kline_index / kline_5min /
moneyflow / industry_sector / sector_features / share_snapshot / market_regime）
- 数据源：baostock + mairui + 雪球(pysnowball) + 新浪（4 个）
- 项目级约束：永远不用 akshare（已落实）
- kline_5min 改用 DB 快照统一全量/增量逻辑
- 零后端 Chrome 扩展 xueqiu_sync（独立项目）
|
2026-06-15 15:36:09 +08:00 |
|