| # Paper Metrics Backlog（待討論） |
|
|
| 以下為 paper 寫作可能需要補的 metrics，**尚未排入執行**。等當前 5 agents（#42/#43/#46/#47/#48）回來後再一起討論優先順序。 |
|
|
| ## 1. Cache 替換算法 sweep |
| - **Range**: LRU vs LFU vs CLOCK vs S3FIFO vs FIFO |
| - **Scope**: E+L0 獨有的 L0 部分（host DRAM 16MB） |
| - **Why**: 目前固定 LFU；reviewer 可能問「換成 LRU 就贏不了?」 |
| - **Tool**: race_trace_v3 有 `replacement` 參數支援多種（1=LIFO, 2=FIFO, 3=S3FIFO, 4=CLOCK）+ L0 是 LFU |
| - **Expected runs**: 5 algo × 5 run = 25 runs per dataset × 5 datasets = 125 runs |
|
|
| ## 2. Replication ratio 詳細 sweep |
| - **Range**: 0% / 5% / 10% / 20% / 80%（paper AE exp1 的 rep_ratios） |
| - **Scope**: 每個 dataset 的 MaxEmbed 5x variance |
| - **Note**: Task #47（exp1 matrix）已涵蓋（5 rep × 8 cache × 5 dataset = 200 runs），但這條獨立跑可 isolate rep ratio 效應 |
| - **Expected runs**: 5 rep × 5 run = 25 runs per dataset × 5 datasets = 125 runs |
| |
| ## 3. Drift 跨 dataset |
| - **Current**: CriteoTB d10-d20 (11 天 × 2 modes allmem/el0) |
| - **Extend to**: Avazu drift (已有 `traces/avazu/avazu_drift/`)、Taobao drift (已有 `traces/taobao/taobao_drift/`) |
| - **Why**: 證明 temporal drift 非 Criteo 獨有 |
| - **Expected runs**: |
| - Avazu: 3 eval windows (day4-6, 7-8, 9-10) × 2 methods = 6 runs |
| - Taobao: 2 eval windows (day4-6, 7-9) × 2 methods = 4 runs |
| - = 10 runs |
| |
| ## 4. Latency distribution (p50 / p99 / p999) |
| - **Current**: 只有 mean per 5x variance |
| - **Extend**: 從 per-batch CSV 算 p50 / p99 / p999 / p9999 |
| - **Why**: mean 隱藏 tail，reviewer 會問 tail behavior |
| - **Tool**: 直接分析現有 `batch_latencies.csv`（race_trace_v3 per-batch 輸出） |
| - **No new run needed** — 後處理現有資料 |
| - **Expected runs**: 0（純分析） |
|
|
| --- |
|
|
| ## 現在 running |
|
|
| | # | Task | Agent ID | |
| |---|------|----------| |
| | #46 | Alibaba-iFashion POG→TSV converter | a6218ea79decef012 | |
| | #42 | Avazu paper-scale processing | a55b66a42443b0cfe | |
| | #43 | CriteoTB 22 days processing | a006ae63043d9cccf | |
| | #48 | Thread sweep (-n) | a6097bcc3615f147d | |
| | #47 | exp1 matrix (5×5×8=200 runs) | 未啟動，等 dataset 到位 | |
|
|
| ## 討論 checkpoint |
|
|
| 等上述 4 agents 都回來，我們再一起看： |
| 1. 每個 backlog metric 的 priority |
| 2. 能不能平行跑 |
| 3. 要不要 FEMU multi-config（切 NAND / P4510 / Optane 的 cache algo sweep） |
|
|
