| # MaxEmbed vs E+L0 — 5x Variance Results (CORRECTED 2026-04-19) |
|
|
| ⚠️ **重要修正** (2026-04-19 audit)：Optane row 的 MaxEmbed 數字之前 parse 錯（unit swap）。重算後結論 **INVERT**：E+L0 在 Optane 也贏，不是輸。 |
|
|
| ⚠️ **以下數據基於修復前 race_trace_v3.c + SPDK config，code bug 修完後要重跑**（見 `docs/experiments/rerun_required.md`）。 |
|
|
| 所有實驗 5-run，每 run 前 hygiene（CPU governor=performance, drop_caches=3, numactl node 0）。 |
| |
| --- |
| |
| ## 實驗數據（CORRECTED） |
| |
| | Config | NAND read lat | Method | Mean (overall_us) | CV | Per-sample | Ops/s | Raw CSV | |
| |--------|---------------|--------|---|-----|------------|-------|---------| |
| | Optane P5800X | 5μs | **MaxEmbed** | **15.80 ms/batch** | **21.3%** | 5.62 μs | 178,422 | `maxembed_release_ckfull_21mb_20260419_042951_run{1..5}.log` (CSV empty — data in logs only) | |
| | Optane P5800X | 5μs | E+L0 | 1.66 ms/batch | 49.6% ⚠️ | 12.97 μs | ~77,000 | `eplus_l0_configD_optane_20260419_041958_fixed.csv` (main CSV corrupt — "Avg:" strings) | |
| | TLC NAND cell | 40μs | MaxEmbed | 4.77 ms/batch | 2.2% | 298 μs | 3,368 | `maxembed_nand_21mb_20260419_045612.csv` | |
| | TLC NAND cell | 40μs | E+L0 | 0.92 ms/batch | 4.9% | 57.5 μs | ~17,400 | `eplus_l0_nand_21mb_v2_20260419_051219.csv` | |
| | **P4510 (paper HW)** | **85μs** | **MaxEmbed** | **5.22 ms/batch** | **1.4%** | **326 μs** | **3,079** | `maxembed_p4510_21mb_20260419_165216.csv` | |
| | **P4510 (paper HW)** | **85μs** | **E+L0** | **1.20 ms/batch** | **~0%** | **75 μs** | **~13,300** | `eplus_l0_p4510_21mb_20260419_165558.csv` | |
|
|
| --- |
|
|
| ## 勝負表（CORRECTED） |
|
|
| | Hardware | MaxEmbed ms/batch | E+L0 ms/batch | 勝者 | 倍數 | |
| |----------|:-----------------:|:--------------:|:----:|:----:| |
| | **Optane 5μs** | **15.80** | **1.66** | **E+L0** | **9.52x** ⭐ | |
| | NAND 40μs | 4.77 | 0.92 | **E+L0** | 5.18x | |
| | P4510 85μs (paper HW) | 5.22 | 1.20 | **E+L0** | 4.35x | |
|
|
| **結論**：E+L0 在**全部 3 個 HW config** 都贏 MaxEmbed。Optane 修正前錯標為 "MaxEmbed 贏 2.31x"，實際是 **E+L0 贏 9.52x**。 |
|
|
| --- |
|
|
| ## 已知 caveats（20-agent audit 結果） |
|
|
| ### 💀 Critical |
| 1. **code bug 未修**：race_trace_v3.c Mode 2 有 timer 包 malloc + `nhit=nm` 假 miss + lfence asymmetry，修完後全部 rerun |
| 2. **CV 21.3%（Optane MaxEmbed）和 49.6%（E+L0 Optane ConfigD）過高**：n=5 不夠統計顯著，要 n≥17（Optane）/ n≥95（ConfigD） |
| 3. **E+L0 Optane ConfigD 有 run3/run5 mid-trace spike（39.5ms / 19.6ms）**：需調查系統擾動 vs algorithm |
|
|
| ### 🔴 Major |
| 4. **MaxEmbed baseline 4 參數削弱**（`-n 1` / `-b 16` / `-c 0.0039` / single rep_ratio），要補 anchor run 對齊 paper AE |
| 5. **MaxEmbed per-batch tail 不可比**：MaxEmbed 報 100-200 batch windowed avg，E+L0 報 true per-batch |
| 6. **`/tmp/batch_latencies.csv` 沒存**，需 instrument per-batch CSV |
| |
| ### 🟡 Minor |
| 7. SPDK TCP loopback 加 10-15μs/IO（vs PCIe 5μs）：對結論保守 |
| 8. SPDK p99=avg 不真實（真 P4510 p99 ~2.5x avg） |
| 9. FEMU direct-mapped vs CMM-H 8-way（config `buffer_way=3` 一行可修） |
|
|
| --- |
|
|
| ## Config 細節 |
|
|
| **Workload**: CK-Full per-sample queries（Criteo Kaggle 25.67M samples, 26 features/sample, 22M unique items, batch=16） |
|
|
| **Shared**: |
| - Embedding dim = 64 (float32, 256 bytes/entry) |
| - Cache budget = 21 MB（85,939 entries = MaxEmbed CacheLib） |
| - Single thread（`-n 1`）← 削弱 MaxEmbed，要補 `-n 64` anchor |
|
|
| **MaxEmbed**： |
| - `--cache_ratio 0.0039` ← 削弱 MaxEmbed，paper AE 用 0.01-0.4 sweep |
| - Transport: SPDK NVMe-oF over TCP loopback |
| - Backend: bdev_delay → bdev_null（avg_read = pg_rd_lat, avg_write = pg_wr_lat） |
| - Model delay: `--delay 150`（MLP busy-wait 150μs/batch） |
| - Build: Release + `-DNDEBUG`（`x64-linux-release` triplet） |
|
|
| **E+L0**（FEMU CXL-SSD Mode 2）： |
| - L0 = 4096 host pages (16MB LFU)，Device DRAM buffer = 5MB |
| - K=12, R=4（hot threshold） |
| - `io_threads=8`（effective QD） |
| - MLP delay argv[9]=150 |
| - Remap: `ck_se_remap.json`（SeedExpand） |
|
|
| **FEMU**： |
| - `femu_mode=6` (CXL-SSD) |
| - 8ch × 8lun × 1pl × 96blk × 256pg × 8sec × 512B ≈ 6GB |
| - `bufsz_mb=5`, `replacement=2` (FIFO) ← 要改 8-way LRU 對齊 CMM-H |
| - `prefetch_degree=0` |
| - `pg_rd_lat` / `pg_wr_lat` per config |
|
|
| --- |
|
|
| ## 實驗數據如何記錄（recording methodology） |
|
|
| ### 1. 原始資料（timestamped raw logs） |
| **Path**：`research_data/results/criteo_kaggle/variance_5x_host/{desc}_{YYYYMMDD_HHMMSS}_run{1..5}.log` |
|
|
| 每個 run 的完整 stdout／stderr（包含 per-batch breakdown、final Result 行）。不覆蓋，永久存檔。 |
|
|
| ### 2. Parsed CSV |
| **Path**：同上 `{desc}_{YYYYMMDD_HHMMSS}.csv` |
|
|
| Schema（**unit 要明確避免再發生 parse error**）： |
| - MaxEmbed: `run, overall_us (batch latency μs), ops_per_sec, prepare_us, calc_us, ssd_us, model_us` |
| - E+L0: `run, avg_ms_per_batch, mem_hit_rate, mem_total, io_total, l0_total, batches` |
|
|
| **注意**：`overall_us` 就是 batch latency 毫秒值，不是 per-sample。per-sample = `1e6 / ops_per_sec`。 |
|
|
| ### 3. Runner 腳本 |
| `research_data/scripts/maxembed/run_{maxembed,el0}_5x.sh` |
|
|
| ### 4. 本檔（彙總） |
| `research_data/results/RESULTS.md`（本檔）— canonical table，每次 rerun 更新 |
|
|
| ### 5. HW config 檔 |
| - FEMU：`research_data/configs/femu/run-cxlssd-{optane,prod,p4510}.sh` |
| - SPDK：執行期 RPC，config 存 daemon memory，要 snapshot 到 `research_data/configs/spdk/history.md` |
|
|
