chore: 清理 dataset_registry 中 6 个 MySQL/SQLite-era 旧 task 行

work #03 (2026-07-03):daily_check 报告 18 行里有 6 个 disabled 旧 task
(stock_info/kline/hs300/industry/sector/scoring),占 1/3 噪音,干扰
对真正 missed 任务的注意力。

根因:PG 迁移(commit 7a985dd)时把它们 enabled=0 标记禁用但没删行。
旧 sync_script 全部指向 dashboard/api/services/sync/*.py(sibling 项目
已下线),storage_uri 指向 dashboard/data_uat/ 下的 SQLite/Parquet。

变更:
- bin/archive/clean_legacy_registry_rows.py: 一次性清理脚本,保守策略
  (enabled=0 + 旧 storage_layer 或非 app.tasks. 路径),默认 dry-run,
  显式 --apply 才 DELETE
- 实际删除 6 行:stock_info / kline / hs300 / industry / sector / scoring
- docs/works/2026-07-03-03-clean-legacy-registry.md: 完整 work 记录
  (含保守原则说明:enabled=0 但 storage_layer='pg' 的行不在清理范围)

验证:daily_check counts 从 18 行 → 12 行,disabled 段清零。

Co-Authored-By: Claude <noreply@anthropic.com>
This commit is contained in:
gao
2026-07-03 10:54:06 +08:00
parent d140fee9e7
commit b1ab10b952
2 changed files with 181 additions and 0 deletions
@@ -0,0 +1,59 @@
# 2026-07-03 — work #03: 清理 dataset_registry 中 6 个 MySQL/SQLite-era 旧 task
## 发现
work #02 写完后 daily_check 报告仍是 18 行,其中 6 个是 `disabled`
```
🚫 stock_info storage=SQLite dashboard/data_uat/db.sqlite → stocks
🚫 kline storage=dashboard/data_uat/market/kline/stock/{code6}.parquet
🚫 hs300 storage=dashboard/data_uat/market/kline/index/{code}.parquet
🚫 industry storage=SQLite dashboard/data_uat/db.sqlite → stock_sector_map + sectors
🚫 sector storage=dashboard/data_uat/derived/sector/sector_features_daily.parquet
🚫 scoring storage=SQLite dashboard/data_uat/db.sqlite → score_snapshots
```
6/18 = 33% 噪音。每次巡检都看到这一坨 `🚫 disabled` 干扰对真正 missed 的注意力。
## 根因
PG 迁移(commit 7a985dd, 2026-07-02)后:
- 旧 task`stock_info` / `kline` / `hs300` / `industry` / `sector` / `scoring`)的 sync_script 路径全部指向 `dashboard/api/services/sync/*.py::xxx` —— 这些是 sibling `dashboard/` 项目的旧脚本,**当前项目里根本不存在**
- storage_uri 指向 `dashboard/data_uat/` 下的 SQLite/Parquet 文件 —— dashboard 项目本身**没在 worktree 里**`ls dashboard/` 不存在)
- 迁移时把它们 `enabled=0` 标记禁用,但**没删行** —— 留作历史
实际上 dashboard 项目已下线(PG 接管),这些行是真正的孤儿。
## 解决
`bin/archive/clean_legacy_registry_rows.py`(一次性脚本),保守策略:
1. 必须 `enabled=0`(不碰 enabled=1 的)
2. 必须满足以下两条之一:
- `storage_layer``{sqlite, parquet, mysql, ""}`(旧 stack 标志)
- `sync_script` 不以 `app.tasks.` 开头(不在新 PG 体系下)
3. 默认 dry-run,必须显式 `--apply` 才 DELETE
4. 删前 dump 被删行 + 事务保护
执行结果:
```
扫描到 6 行废弃行: stock_info, kline, hs300, industry, sector, scoring
✅ 已删除 6 行
```
daily_check 复跑验证:`{'missed': 10, 'disabled': 0, 'not_expected': 1, 'ok': 1}` —— 18 行 → 12 行,disabled 噪音清零。
## 不在清理范围(保守原则)
- `enabled=0``storage_layer='pg'` 的行:可能是临时禁用,不是孤儿,保留观察
- `enabled=1` 的所有行:哪怕 sync_script 路径奇怪,先看实际行为再说
- dashboard 项目的源码 / 数据文件:本项目是 market_sync,不动 sibling 项目的产物
## 关联
- work #01: 2026-07-03-01-market-sync-timeout.md(修了 2h timeout
- work #02: 2026-07-03-02-morning-no-trigger.md(补了 09:00 早盘)
- [[market-data-overview]]:现在 12 行 task 列表与项目实际状态一致
## 后续(不在本 work 范围)
如果发现 enabled=0 的 PG task(如 kline_daily 临时关),可以走相同脚本(如果满足新策略),或单条 `DELETE` —— 单条操作不在本 work 范围。