RESULTS.md

MaxEmbed vs E+L0 — 5x Variance Results (CORRECTED 2026-04-19)

⚠️ 重要修正 (2026-04-19 audit)：Optane row 的 MaxEmbed 數字之前 parse 錯（unit swap）。重算後結論 INVERT：E+L0 在 Optane 也贏，不是輸。

⚠️ 以下數據基於修復前 race_trace_v3.c + SPDK config，code bug 修完後要重跑（見 docs/experiments/rerun_required.md）。

所有實驗 5-run，每 run 前 hygiene（CPU governor=performance, drop_caches=3, numactl node 0）。

---

實驗數據（CORRECTED）

Config	NAND read lat	Method	Mean (overall_us)	CV	Per-sample	Ops/s	Raw CSV
Optane P5800X	5μs	MaxEmbed	15.80 ms/batch	21.3%	5.62 μs	178,422	maxembed_release_ckfull_21mb_20260419_042951_run{1..5}.log (CSV empty — data in logs only)
Optane P5800X	5μs	E+L0	1.66 ms/batch	49.6% ⚠️	12.97 μs	~77,000	eplus_l0_configD_optane_20260419_041958_fixed.csv (main CSV corrupt — "Avg:" strings)
TLC NAND cell	40μs	MaxEmbed	4.77 ms/batch	2.2%	298 μs	3,368	maxembed_nand_21mb_20260419_045612.csv
TLC NAND cell	40μs	E+L0	0.92 ms/batch	4.9%	57.5 μs	~17,400	eplus_l0_nand_21mb_v2_20260419_051219.csv
P4510 (paper HW)	85μs	MaxEmbed	5.22 ms/batch	1.4%	326 μs	3,079	maxembed_p4510_21mb_20260419_165216.csv
P4510 (paper HW)	85μs	E+L0	1.20 ms/batch	~0%	75 μs	~13,300	eplus_l0_p4510_21mb_20260419_165558.csv

---

勝負表（CORRECTED）

Hardware	MaxEmbed ms/batch	E+L0 ms/batch	勝者	倍數
Optane 5μs	15.80	1.66	E+L0	9.52x ⭐
NAND 40μs	4.77	0.92	E+L0	5.18x
P4510 85μs (paper HW)	5.22	1.20	E+L0	4.35x

結論：E+L0 在全部 3 個 HW config 都贏 MaxEmbed。Optane 修正前錯標為 "MaxEmbed 贏 2.31x"，實際是 E+L0 贏 9.52x。

---

已知 caveats（20-agent audit 結果）

💀 Critical

1. code bug 未修：race_trace_v3.c Mode 2 有 timer 包 malloc + nhit=nm 假 miss + lfence asymmetry，修完後全部 rerun
2. CV 21.3%（Optane MaxEmbed）和 49.6%（E+L0 Optane ConfigD）過高：n=5 不夠統計顯著，要 n≥17（Optane）/ n≥95（ConfigD）
3. E+L0 Optane ConfigD 有 run3/run5 mid-trace spike（39.5ms / 19.6ms）：需調查系統擾動 vs algorithm

🔴 Major

4. MaxEmbed baseline 4 參數削弱（-n 1 / -b 16 / -c 0.0039 / single rep_ratio），要補 anchor run 對齊 paper AE
5. MaxEmbed per-batch tail 不可比：MaxEmbed 報 100-200 batch windowed avg，E+L0 報 true per-batch
6. /tmp/batch_latencies.csv 沒存，需 instrument per-batch CSV

🟡 Minor

7. SPDK TCP loopback 加 10-15μs/IO（vs PCIe 5μs）：對結論保守
8. SPDK p99=avg 不真實（真 P4510 p99 ~2.5x avg）
9. FEMU direct-mapped vs CMM-H 8-way（config buffer_way=3 一行可修）

---

Config 細節

Workload: CK-Full per-sample queries（Criteo Kaggle 25.67M samples, 26 features/sample, 22M unique items, batch=16）

Shared:

• Embedding dim = 64 (float32, 256 bytes/entry)
• Cache budget = 21 MB（85,939 entries = MaxEmbed CacheLib）
• Single thread（-n 1）← 削弱 MaxEmbed，要補 -n 64 anchor

MaxEmbed：

• --cache_ratio 0.0039 ← 削弱 MaxEmbed，paper AE 用 0.01-0.4 sweep
• Transport: SPDK NVMe-oF over TCP loopback
• Backend: bdev_delay → bdev_null（avg_read = pg_rd_lat, avg_write = pg_wr_lat）
• Model delay: --delay 150（MLP busy-wait 150μs/batch）
• Build: Release + -DNDEBUG（x64-linux-release triplet）

E+L0（FEMU CXL-SSD Mode 2）：

• L0 = 4096 host pages (16MB LFU)，Device DRAM buffer = 5MB
• K=12, R=4（hot threshold）
• io_threads=8（effective QD）
• MLP delay argv[9]=150
• Remap: ck_se_remap.json（SeedExpand）

FEMU：

• femu_mode=6 (CXL-SSD)
• 8ch × 8lun × 1pl × 96blk × 256pg × 8sec × 512B ≈ 6GB
• bufsz_mb=5, replacement=2 (FIFO) ← 要改 8-way LRU 對齊 CMM-H
• prefetch_degree=0
• pg_rd_lat / pg_wr_lat per config

---

實驗數據如何記錄（recording methodology）

1. 原始資料（timestamped raw logs）

Path：research_data/results/criteo_kaggle/variance_5x_host/{desc}_{YYYYMMDD_HHMMSS}_run{1..5}.log

每個 run 的完整 stdout／stderr（包含 per-batch breakdown、final Result 行）。不覆蓋，永久存檔。

2. Parsed CSV

Path：同上 {desc}_{YYYYMMDD_HHMMSS}.csv

Schema（unit 要明確避免再發生 parse error）：

• MaxEmbed: run, overall_us (batch latency μs), ops_per_sec, prepare_us, calc_us, ssd_us, model_us
• E+L0: run, avg_ms_per_batch, mem_hit_rate, mem_total, io_total, l0_total, batches

注意：overall_us 就是 batch latency 毫秒值，不是 per-sample。per-sample = 1e6 / ops_per_sec。

3. Runner 腳本

research_data/scripts/maxembed/run_{maxembed,el0}_5x.sh

4. 本檔（彙總）

research_data/results/RESULTS.md（本檔）— canonical table，每次 rerun 更新

5. HW config 檔

• FEMU：research_data/configs/femu/run-cxlssd-{optane,prod,p4510}.sh
• SPDK：執行期 RPC，config 存 daemon memory，要 snapshot 到 research_data/configs/spdk/history.md