METRICS_BACKLOG.md

Paper Metrics Backlog（待討論）

以下為 paper 寫作可能需要補的 metrics，尚未排入執行。等當前 5 agents（#42/#43/#46/#47/#48）回來後再一起討論優先順序。

1. Cache 替換算法 sweep

• Range: LRU vs LFU vs CLOCK vs S3FIFO vs FIFO
• Scope: E+L0 獨有的 L0 部分（host DRAM 16MB）
• Why: 目前固定 LFU；reviewer 可能問「換成 LRU 就贏不了?」
• Tool: race_trace_v3 有 replacement 參數支援多種（1=LIFO, 2=FIFO, 3=S3FIFO, 4=CLOCK）+ L0 是 LFU
• Expected runs: 5 algo × 5 run = 25 runs per dataset × 5 datasets = 125 runs

2. Replication ratio 詳細 sweep

• Range: 0% / 5% / 10% / 20% / 80%（paper AE exp1 的 rep_ratios）
• Scope: 每個 dataset 的 MaxEmbed 5x variance
• Note: Task #47（exp1 matrix）已涵蓋（5 rep × 8 cache × 5 dataset = 200 runs），但這條獨立跑可 isolate rep ratio 效應
• Expected runs: 5 rep × 5 run = 25 runs per dataset × 5 datasets = 125 runs

3. Drift 跨 dataset

• Current: CriteoTB d10-d20 (11 天 × 2 modes allmem/el0)
• Extend to: Avazu drift (已有 traces/avazu/avazu_drift/)、Taobao drift (已有 traces/taobao/taobao_drift/)
• Why: 證明 temporal drift 非 Criteo 獨有
• Expected runs:
  • Avazu: 3 eval windows (day4-6, 7-8, 9-10) × 2 methods = 6 runs
  • Taobao: 2 eval windows (day4-6, 7-9) × 2 methods = 4 runs
  • = 10 runs

4. Latency distribution (p50 / p99 / p999)

• Current: 只有 mean per 5x variance
• Extend: 從 per-batch CSV 算 p50 / p99 / p999 / p9999
• Why: mean 隱藏 tail，reviewer 會問 tail behavior
• Tool: 直接分析現有 batch_latencies.csv（race_trace_v3 per-batch 輸出）
• No new run needed — 後處理現有資料
• Expected runs: 0（純分析）

---

現在 running

#	Task	Agent ID
#46	Alibaba-iFashion POG→TSV converter	a6218ea79decef012
#42	Avazu paper-scale processing	a55b66a42443b0cfe
#43	CriteoTB 22 days processing	a006ae63043d9cccf
#48	Thread sweep (-n)	a6097bcc3615f147d
#47	exp1 matrix (5×5×8=200 runs)	未啟動，等 dataset 到位

討論 checkpoint

等上述 4 agents 都回來，我們再一起看：

1. 每個 backlog metric 的 priority
2. 能不能平行跑
3. 要不要 FEMU multi-config（切 NAND / P4510 / Optane 的 cache algo sweep）