# MaxEmbed vs E+L0 — 5x Variance Results (CORRECTED 2026-04-19)

⚠️ **重要修正** (2026-04-19 audit)：Optane row 的 MaxEmbed 數字之前 parse 錯（unit swap）。重算後結論 **INVERT**：E+L0 在 Optane 也贏，不是輸。

⚠️ **以下數據基於修復前 race_trace_v3.c + SPDK config，code bug 修完後要重跑**（見 `docs/experiments/rerun_required.md`）。

所有實驗 5-run，每 run 前 hygiene（CPU governor=performance, drop_caches=3, numactl node 0）。

---

## 實驗數據（CORRECTED）

| Config | NAND read lat | Method | Mean (overall_us) | CV | Per-sample | Ops/s | Raw CSV |
|--------|---------------|--------|---|-----|------------|-------|---------|
| Optane P5800X | 5μs | **MaxEmbed** | **15.80 ms/batch** | **21.3%** | 5.62 μs | 178,422 | `maxembed_release_ckfull_21mb_20260419_042951_run{1..5}.log` (CSV empty — data in logs only) |
| Optane P5800X | 5μs | E+L0 | 1.66 ms/batch | 49.6% ⚠️ | 12.97 μs | ~77,000 | `eplus_l0_configD_optane_20260419_041958_fixed.csv` (main CSV corrupt — "Avg:" strings) |
| TLC NAND cell | 40μs | MaxEmbed | 4.77 ms/batch | 2.2% | 298 μs | 3,368 | `maxembed_nand_21mb_20260419_045612.csv` |
| TLC NAND cell | 40μs | E+L0 | 0.92 ms/batch | 4.9% | 57.5 μs | ~17,400 | `eplus_l0_nand_21mb_v2_20260419_051219.csv` |
| **P4510 (paper HW)** | **85μs** | **MaxEmbed** | **5.22 ms/batch** | **1.4%** | **326 μs** | **3,079** | `maxembed_p4510_21mb_20260419_165216.csv` |
| **P4510 (paper HW)** | **85μs** | **E+L0** | **1.20 ms/batch** | **~0%** | **75 μs** | **~13,300** | `eplus_l0_p4510_21mb_20260419_165558.csv` |

---

## 勝負表（CORRECTED）

| Hardware | MaxEmbed ms/batch | E+L0 ms/batch | 勝者 | 倍數 |
|----------|:-----------------:|:--------------:|:----:|:----:|
| **Optane 5μs** | **15.80** | **1.66** | **E+L0** | **9.52x** ⭐ |
| NAND 40μs | 4.77 | 0.92 | **E+L0** | 5.18x |
| P4510 85μs (paper HW) | 5.22 | 1.20 | **E+L0** | 4.35x |

**結論**：E+L0 在**全部 3 個 HW config** 都贏 MaxEmbed。Optane 修正前錯標為 "MaxEmbed 贏 2.31x"，實際是 **E+L0 贏 9.52x**。

---

## 已知 caveats（20-agent audit 結果）

### 💀 Critical
1. **code bug 未修**：race_trace_v3.c Mode 2 有 timer 包 malloc + `nhit=nm` 假 miss + lfence asymmetry，修完後全部 rerun
2. **CV 21.3%（Optane MaxEmbed）和 49.6%（E+L0 Optane ConfigD）過高**：n=5 不夠統計顯著，要 n≥17（Optane）/ n≥95（ConfigD）
3. **E+L0 Optane ConfigD 有 run3/run5 mid-trace spike（39.5ms / 19.6ms）**：需調查系統擾動 vs algorithm

### 🔴 Major
4. **MaxEmbed baseline 4 參數削弱**（`-n 1` / `-b 16` / `-c 0.0039` / single rep_ratio），要補 anchor run 對齊 paper AE
5. **MaxEmbed per-batch tail 不可比**：MaxEmbed 報 100-200 batch windowed avg，E+L0 報 true per-batch
6. **`/tmp/batch_latencies.csv` 沒存**，需 instrument per-batch CSV

### 🟡 Minor
7. SPDK TCP loopback 加 10-15μs/IO（vs PCIe 5μs）：對結論保守
8. SPDK p99=avg 不真實（真 P4510 p99 ~2.5x avg）
9. FEMU direct-mapped vs CMM-H 8-way（config `buffer_way=3` 一行可修）

---

## Config 細節

**Workload**: CK-Full per-sample queries（Criteo Kaggle 25.67M samples, 26 features/sample, 22M unique items, batch=16）

**Shared**:
- Embedding dim = 64 (float32, 256 bytes/entry)
- Cache budget = 21 MB（85,939 entries = MaxEmbed CacheLib）
- Single thread（`-n 1`）← 削弱 MaxEmbed，要補 `-n 64` anchor

**MaxEmbed**：
- `--cache_ratio 0.0039` ← 削弱 MaxEmbed，paper AE 用 0.01-0.4 sweep
- Transport: SPDK NVMe-oF over TCP loopback
- Backend: bdev_delay → bdev_null（avg_read = pg_rd_lat, avg_write = pg_wr_lat）
- Model delay: `--delay 150`（MLP busy-wait 150μs/batch）
- Build: Release + `-DNDEBUG`（`x64-linux-release` triplet）

**E+L0**（FEMU CXL-SSD Mode 2）：
- L0 = 4096 host pages (16MB LFU)，Device DRAM buffer = 5MB
- K=12, R=4（hot threshold）
- `io_threads=8`（effective QD）
- MLP delay argv[9]=150
- Remap: `ck_se_remap.json`（SeedExpand）

**FEMU**：
- `femu_mode=6` (CXL-SSD)
- 8ch × 8lun × 1pl × 96blk × 256pg × 8sec × 512B ≈ 6GB
- `bufsz_mb=5`, `replacement=2` (FIFO) ← 要改 8-way LRU 對齊 CMM-H
- `prefetch_degree=0`
- `pg_rd_lat` / `pg_wr_lat` per config

---

## 實驗數據如何記錄（recording methodology）

### 1. 原始資料（timestamped raw logs）
**Path**：`research_data/results/criteo_kaggle/variance_5x_host/{desc}_{YYYYMMDD_HHMMSS}_run{1..5}.log`

每個 run 的完整 stdout／stderr（包含 per-batch breakdown、final Result 行）。不覆蓋，永久存檔。

### 2. Parsed CSV
**Path**：同上 `{desc}_{YYYYMMDD_HHMMSS}.csv`

Schema（**unit 要明確避免再發生 parse error**）：
- MaxEmbed: `run, overall_us (batch latency μs), ops_per_sec, prepare_us, calc_us, ssd_us, model_us`
- E+L0: `run, avg_ms_per_batch, mem_hit_rate, mem_total, io_total, l0_total, batches`

**注意**：`overall_us` 就是 batch latency 毫秒值，不是 per-sample。per-sample = `1e6 / ops_per_sec`。

### 3. Runner 腳本
`research_data/scripts/maxembed/run_{maxembed,el0}_5x.sh`

### 4. 本檔（彙總）
`research_data/results/RESULTS.md`（本檔）— canonical table，每次 rerun 更新

### 5. HW config 檔
- FEMU：`research_data/configs/femu/run-cxlssd-{optane,prod,p4510}.sh`
- SPDK：執行期 RPC，config 存 daemon memory，要 snapshot 到 `research_data/configs/spdk/history.md`