KlineDataFiller 与 KlineDataFillerLazy 说明

KlineDataFiller 与 KlineDataFillerLazy 说明

本文档说明 kline_data_filler.pykline_data_filler_lazy.py 两个模块的差异、在项目中的调用方式,以及为何通用服务与 HYPE 服务使用不同的类。


一、模块关系与技术差异

1.1 角色关系

  • kline_data_filler.py:基类 KlineDataFiller,实现完整的 K 线校验与补充逻辑(连续性校验、窗口长度校验、冷却、拉取并写入等)。
  • kline_data_filler_lazy.py:子类 KlineDataFillerLazy,继承 KlineDataFiller,仅改变「何时、如何创建 Hyperliquid 客户端」,其余逻辑全部复用基类。

1.2 核心区别:Info 的创建时机(Eager vs Lazy)

方面 KlineDataFiller(基类) KlineDataFillerLazy(子类)
初始化策略 立即创建 延迟创建
_init_info() __init__ 里调用,直接 return Info(...) 重写为 return None,启动时不建连接
Info 何时创建 构造时就会建好 Info 第一次调用 fill_missing_datafill_missing_data_precise 时才建

因此:

  • 基类:一 new 出来就会连 Hyperliquid(eager)。
  • Lazy 版:只有第一次真正要补数据时才连(lazy),并带有重试和线程安全。

1.3 Lazy 版独有的行为

  • _ensure_info_initialized():双重检查锁,仅在首次需要时创建 Info;创建失败只打日志、返回 False,不抛异常。
  • 超时配置:基类写死 timeout=30;Lazy 使用配置项 KLINE_FILLER_LAZY_TIMEOUT_MS
  • 线程安全:Lazy 增加 threading.RLock()_exchange_lock),保证多线程下只初始化一次 Info。
  • 重试与降级:在 fill_missing_data_precise / fill_missing_data 中,先循环最多 3 次调用 _ensure_info_initialized(),失败则间隔指数退避再试;若最终 _info 仍为 None,打错误日志并 直接 return 0(跳过本次补充,不抛异常)。

二、在项目中的调用方式

2.1 实时 K 线服务(通过 data_filler_class 注入)

基类 RealtimeKlineServiceBase 在初始化时用配置里的「数据填充器类」创建实例:

# realtime_kline_service_base.py
self.data_filler = self._config.data_filler_class(kline_repo=self.kline_repo)
  • 通用版 RealtimeKlineServicerealtime_kline_service.py

    • 配置中写死使用 KlineDataFiller(立即建连)。
  • HYPE/PURR 专用版 RealtimeKlineServiceHypePurrrealtime_kline_service_hype.py

    • 配置中使用 KlineDataFillerLazy(首次补数时才建连)。

2.2 实时服务内对 data_filler 的调用

realtime_kline_service_base.py_fetch_and_validate_price_data() 中,统一通过 self.data_filler 做校验和补数:

  • 校验validate_continuity()validate_window_length()(基准币种与目标币种各一次)。
  • 补数:若有具体缺失时间点则 fill_missing_data_precise(),否则 fill_missing_data();基准与目标各补一次,补完再重新查库。
  • 统计get_stats() 会出现在服务统计中。

2.3 数据修复(RepairExecutor)

src/utils/data_healing/repair_executor.py仅使用 KlineDataFiller(来自 kline_data_filler.py),不使用 Lazy 版:

  • 查缺口:self.kline_filler.validate_continuity(klines, timeframe)
  • 补 K 线:self.kline_filler.fill_missing_data_precise(symbol, timeframe, missing_timestamps=kline_gaps),对 symbol 与 base_symbol 各补一次。

2.4 调用关系小结

调用方 使用的类 来源文件 主要调用
RealtimeKlineService(通用) KlineDataFiller kline_data_filler.py validate_continuity、validate_window_length、fill_missing_data_precise、fill_missing_data、get_stats
RealtimeKlineServiceHypePurr(HYPE) KlineDataFillerLazy kline_data_filler_lazy.py 同上(接口一致,仅首次补数时建连)
RepairExecutor(数据自愈) KlineDataFiller kline_data_filler.py validate_continuity、fill_missing_data_precise

三、为何通用版与 HYPE 版使用不同的类?

3.1 技术上的唯一区别

只有一点:Hyperliquid 的 Info 客户端什么时候被创建。

  • RealtimeKlineService(通用):服务一起动就创建 Info(在 Filler 的 __init__ 里)。
  • RealtimeKlineServiceHypePurr(HYPE):第一次需要补数据时才创建(第一次调用 fill_missing_data / fill_missing_data_precise 时)。
  • 若从不补数:通用版仍会建好一个到 MAINNET 的连接;HYPE 版永远不会建这个连接。

除此以外,校验与补数逻辑、冷却、重试等均一致。

3.2 设计原因

  • 通用版(RealtimeKlineService)

    • 订阅大量活跃币种,分析多对关系,数据缺口出现概率高,补数几乎是预期会走到的路径。
    • 使用 eager 的 KlineDataFiller:启动时就建好 Info,若 Hyperliquid 不可用可尽早失败,便于发现部署/网络问题;主引擎多一个常驻连接通常可接受。
  • HYPE 版(RealtimeKlineServiceHypePurr)

    • 仅 HYPE + PURR 两个币种,订阅数少、数据量小,很多时候 K 线已连续,可能很久都不会触发补数
    • 使用 lazy 的 KlineDataFillerLazy
      • 不补数就不建连,减少不必要的 HTTP 连接和资源占用;
      • 适合资源更紧或“能少连就少连”的环境;
      • 首次补数时再建连,建连失败有重试和“跳过本次补数、返回 0”的降级,不影响服务其它逻辑。

结论:两个服务的业务逻辑(校验与补数)相同,差异在于「是否几乎一定会补数、对连接与失败时机的期望」。通用版用“启动就建连”的类,HYPE 版用“按需建连”的类。

Read more

数据自愈模块提速3

数据自愈并发优化设计方案 一、现状分析 当前流程 _run_data_healing(realtime_kline_service_base.py:1807): for (symbol, base_symbol) in heal_pairs: # ~50+ 配对,串行 DataHealingOrchestrator(...) # → RepairExecutor.__init__ │ # → KlineDataFiller.__init__ │ # → Info(MAINNET_API_URL) HTTP 握手 ~0.85s │ # ← 第 2-50 个握手完成后才被 shared_executor 覆盖,全部浪费! _load_zscore_history()

By SHI XIAOLONG

数据自愈模块提速2

数据自愈并发优化设计方案 一、现状分析 当前流程 _run_data_healing(realtime_kline_service_base.py:1807): for (symbol, base_symbol) in heal_pairs: # ~50+ 配对,串行 DataHealingOrchestrator(...) # → RepairExecutor.__init__ │ # → KlineDataFiller.__init__ │ # → Info(MAINNET_API_URL) HTTP 握手 ~0.85s │ # ← 第 2-50 个握手完成后才被 shared_executor 覆盖,全部浪费! _load_zscore_history()

By SHI XIAOLONG

数据自愈模块综合问题分析报告2

数据自愈模块优化设计文档 版本:v1.0 日期:2026-02-23 范围:src/utils/data_healing/ + src/services/realtime_kline_service_base.py(_run_data_healing 部分) 目录 1. 问题全景与优先级总表 2. BUG-01:加载语义与修复语义不一致 3. BUG-02/03:单条/少量记录无法生成修复目标 4. BUG-04:日志误导性 5. BUG-05:重复写入(BUG-01 副作用) 6. BUG-06:test_basic.py 与 Diagnosis 定义失同步 7.

By SHI XIAOLONG