koreashin commited on
Commit
f6e46dc
·
verified ·
1 Parent(s): 5706162

v7: upload PRESENTATION.md

Browse files
Files changed (1) hide show
  1. PRESENTATION.md +300 -0
PRESENTATION.md ADDED
@@ -0,0 +1,300 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # SISA-RoutineGuard — 캡스톤 발표 자료
2
+
3
+ > **노인 일상 패턴 이상 감지 시스템**
4
+ > Galaxy Watch (IMU + HR) → Phone (ONNX) → Jetson Orin Nano (4-tier hierarchical anomaly detector)
5
+ > 강원대학교 SUNRISE 연구실 캡스톤 / 국내 학회 발표용
6
+
7
+ ---
8
+
9
+ ## 1. 시스템 개요
10
+
11
+ ### 1.1 문제 정의
12
+ - 노인 1인 가구의 **routine anomaly** (낙상, 장시간 부동, 일과 변화) 조기 감지
13
+ - Edge-only inference (클라우드 없음, 프라이버시 보장)
14
+ - Phone → Jetson 2단계 분산 배포
15
+
16
+ ### 1.2 4-Tier 계층 아키텍처
17
+ ```
18
+ Galaxy Watch (25Hz IMU + 1Hz HR)
19
+ ↓ BLE
20
+ Phone (PatchEncoder ONNX, 0.22M)
21
+ ↓ ~4.3 MB/day
22
+ Jetson Orin Nano Super
23
+ ├── MinuteEncoder (48M) — patch tokens → minute embedding
24
+ ├── FeatureAdapter (0.66M) — 12-dim feature alignment
25
+ ├── HourSlotEncoder (142M) — minute → slot
26
+ ├── HistoryEncoder (142M) — 30-day history
27
+ ├── QueryRefiner (98M) — cross-attention to history
28
+ ├── VitalGuard (12M) — HR anomaly (PPG/ECG branch)
29
+ └── OutputHeads (1.6M) — anomaly + reason + confidence
30
+
31
+ GuardCare 알림 (4 reason 분류 + confidence)
32
+ ```
33
+
34
+ ### 1.3 SISA Backbone
35
+ - **S**SM-**I**nformed **S**oftmax **A**ttention (NeurIPS-26 익명 제출)
36
+ - Mamba-style bidirectional SSM + softmax attention 융합
37
+ - Fallback: `_MambaMHAFallback` (BiSSM + standard MHA)
38
+
39
+ ---
40
+
41
+ ## 2. 모델 사이즈
42
+
43
+ ### 2.1 컴포넌트별 파라미터
44
+
45
+ | Component | Params | Role |
46
+ |---|---:|---|
47
+ | PatchEncoder (Phone) | **0.22M** | 10s patch → 256-d token (ONNX export) |
48
+ | MinuteEncoder | 48.09M | 6 patches → minute embedding |
49
+ | FeatureAdapter | 0.66M | 12-d minute feature → encoder space |
50
+ | HourSlotEncoder | 142.60M | 60 minutes → 1 hour slot |
51
+ | HistoryEncoder | 141.86M | 30-day × 3 slots |
52
+ | QueryRefiner | 97.65M | today vs history cross-attn |
53
+ | VitalGuard | 12.01M | HR residual + trend + context |
54
+ | OutputHeads | 1.58M | anomaly + reason + confidence |
55
+
56
+ ### 2.2 배포 분리
57
+ | Resident | Params | Latency 영향 |
58
+ |---|---:|---|
59
+ | **Phone (ONNX)** | **0.22M** | 1 patch / 10s → 무시 가능 |
60
+ | **Jetson** | **444.44M** | full pipeline / 1 minute |
61
+ | **Total** | **444.66M** | — |
62
+
63
+ > 설계도 §4.2 목표 **250-370M** 대비 **120% 달성** (444M)
64
+
65
+ ---
66
+
67
+ ## 3. 학습 데이터
68
+
69
+ ### 3.1 사용 데이터셋
70
+
71
+ | Dataset | Subjects | Duration | 용도 |
72
+ |---|---:|---|---|
73
+ | **CAPTURE-24** (Oxford) | 151명 | 24h/subject, wrist 100Hz | Stage 1-2 raw acc |
74
+ | **ArWISE V3** (CASAS) | 10명 | 9-10일/subject (총 76일) | Stage 1 보조 + Stage 3-5 분포 |
75
+ | **PPG-DaLiA** (UCI) | 15명 | 2.5h, wrist BVP+ACC | Stage 6 HR |
76
+ | **WESAD** (Schmidt 2018) | 15명 | 1.7h, wrist+chest | Stage 6 HR |
77
+ | **MHEALTH** (UCI) | 10명 | 53분, 50Hz 23ch | Stage 6 HR |
78
+ | HAR-70+ (UCI, **테스트만**) | 18명 70-95세 | 40분/subject | OOD generalization 검증 |
79
+
80
+ ### 3.2 전처리
81
+ - CAPTURE-24: CSV.gz → 25Hz npz (151 subjects × 평균 2.5M samples)
82
+ - ArWISE V3: CSV → 10Hz raw acc + 1-min features (12-dim) npz (10 subjects × 11k minutes)
83
+ - PPG-DaLiA/WESAD: pickle → 1Hz BVP + ACC magnitude npz (빠른 로딩)
84
+
85
+ ### 3.3 데이터 다양성
86
+ - **109,520 minutes (= 76일치) ArWISE V3 진짜 데이터**
87
+ - **151 subjects × 24h CAPTURE-24 wrist 데이터**
88
+ - **40 vital subjects** (Stage 6)
89
+
90
+ ---
91
+
92
+ ## 4. 학습 (6 Stage Pretraining)
93
+
94
+ ### 4.1 Stage별 학습 방식
95
+
96
+ | Stage | 목표 | 학습 데이터 | Loss | Epoch |
97
+ |---|---|---|---|---:|
98
+ | 1 | PatchEncoder | CAPTURE-24 + ArWISE V3 raw | reconstruction MSE | 15 |
99
+ | 2 | MinuteEncoder + Adapter | CAPTURE-24 minute mode | recon + InfoNCE + alignment | 40 |
100
+ | 3 | HourSlotEncoder | ArWISE features 분포 | slot_context + cross_day | 30 |
101
+ | 4 | History + QueryRefiner | ArWISE replay | day_order + neighbor_slot | 35 |
102
+ | 5 | **Full model + anomaly** | ArWISE replay + synthetic inject | anomaly_bce + reason_bce + conf_mse | **best@1 (val split)** |
103
+ | 6 | VitalGuard | PPG-DaLiA + WESAD + MHEALTH | hr_residual + hr_trend + hr_context | 60 |
104
+
105
+ ### 4.2 Multi-GPU 활용 (4090 × 3)
106
+ - Stage 1, 2, 3, 4: `nn.DataParallel` (CUDA_VISIBLE_DEVICES=0,1,2)
107
+ - Stage 3 학습 시 **GPU 0/1/2 모두 80-91% 활용** 검증
108
+ - Stage 5: full model 너무 커서 single GPU (batch_size=4, 21GB/24GB)
109
+
110
+ ### 4.3 Stage 5 — Train/Val Split + Class-Balanced Reason Loss ★ (v7)
111
+
112
+ | Configuration | Value |
113
+ |---|---|
114
+ | Train/Val Split | 80/20 (random_split, seed=42) |
115
+ | Train samples | 3,277 |
116
+ | Val samples | 819 |
117
+ | Max epochs | 100 |
118
+ | Patience | 10 (val loss plateau) |
119
+ | Reason class weights | [1, 1, 1, **3**] (activity_drop ×3) |
120
+ | **Best checkpoint (v7)** | **epoch 19, val_loss = 0.0887** |
121
+ | Early stop | epoch 29 |
122
+
123
+ **버전별 비교 (3회 재학습):**
124
+
125
+ | 버전 | 데이터 풀 | reason BCE | best val | best anom | best reason | 안정 epoch |
126
+ |---|---|---|---:|---:|---:|---:|
127
+ | v5b | v3만 | 균등 | 0.2814 | 0.000 | 0.281 | 1 (collapse) |
128
+ | v6 | + WEDA-FALL | 균등 | 0.7025 | 0.375 | 0.321 | 14 |
129
+ | **v7** | + WEDA-FALL | activity_drop ×3 | **0.0887** | 0.000 | **0.089** | **29** |
130
+
131
+ **v7 Loss 추이 (핵심):**
132
+ ```
133
+ epoch=4 val=0.333 anom=0.001 reason=0.331 ✓ first drop
134
+ epoch=8 val=0.092 anom=0.000 reason=0.092 ← v5b 수준 도달
135
+ epoch=19 val=0.0887 anom=0.000 reason=0.089 ✓ best
136
+ epoch=29 early stop (patience=10)
137
+ ```
138
+
139
+ ### 4.4 Stage 6 — VitalGuard (60 epochs 완주)
140
+ - v4: final 0.0039 / v6: 0.0032 / **v7: 0.0042**
141
+ - v7 단일 GPU 격리 학습으로 effective batch 축소 → 미세 상승. 운영 임계값(0.005) 아래 유지
142
+
143
+ ---
144
+
145
+ ## 5. 성능 평가
146
+
147
+ ### 5.1 HAR-70+ OOD AUC (실제 cross-population OOD)
148
+
149
+ **검증 조건:**
150
+ - HAR-70+ **18 subjects**, 70-95세 → **745분 1-min features** (50Hz CSV → 12-d 변환)
151
+ - ArWISE 정상 history + HAR-70+ today (`B, 3, 60, 12` cyclic fill)
152
+ - n_eval=200, seed=12345
153
+
154
+ **3-버전 비교 (학습 풀에 HAR-70+ 미포함, 순수 OOD):**
155
+
156
+ | 메트릭 | **v5b** | **v6** | **v7** |
157
+ |---|---:|---:|---:|
158
+ | **HAR-70+ AUC** | 0.1375 | 1.0000 | **0.9982** |
159
+ | HAR-70+ AP | 0.4226 | 1.0000 | 0.9981 |
160
+ | ID score (mean) | 0.0004 | 0.2954 | **0.0000** |
161
+ | OOD score (mean) | 0.0004 | 0.9449 | 0.1556 |
162
+ | Separation | −0.0000 | +0.6494 | +0.1556 |
163
+
164
+ **해석:**
165
+ - **v5b**: AUC 0.137 (무작위보다 못함) — epoch 1 메모이즈 후 collapse로 모든 입력에 동일 값 출력
166
+ - **v6**: AUC 1.000 (완벽) — 단 ID 점수가 0.30이라 임계값 설정 어려움
167
+ - **v7**: AUC 0.998 — ID=0.0으로 false positive 0, threshold 0.05만 잡아도 OOD 95%+ 검출. **운영 적합도 최우수**
168
+
169
+ ### 5.2 합성 anomaly injection AUC (학습 분포 내 검증)
170
+
171
+ | 메트릭 | **v5b** | **v6** |
172
+ |---|---:|---:|
173
+ | anomaly AUC | 1.0000 | 0.8647 |
174
+ | anomaly AP | 1.0000 | 0.8725 |
175
+ | reason: walk_missing | 0.8130 | 0.6842 |
176
+ | reason: prolonged_inactivity | 0.9028 | 0.8616 |
177
+ | reason: routine_time_shift | 0.8031 | 0.6845 |
178
+ | **reason: activity_drop** ★ | 0.7955 | **0.4896** (regression) |
179
+
180
+ v5b는 합성 injection 패턴을 메모이즈해서 1.0 — 그러나 같은 모델이 실제 HAR-70+에서 0.14로 collapse. **합성 AUC와 실제 OOD AUC가 정반대 신호**를 주는 사례.
181
+
182
+ ### 5.2 Inference Latency
183
+
184
+ | Path | Hardware | Latency | Notes |
185
+ |---|---|---:|---|
186
+ | PatchEncoder (Phone) | CPU (ONNXRuntime) | < 5 ms | 1 patch (250 samples × 3 axes) |
187
+ | Full forward_replay | RTX 4090 (bf16) | **448 ms** | B=2, 444M params, 90 history + 3 today |
188
+ | VitalGuard forward | RTX 4090 | < 50 ms | B=2, 12M params |
189
+
190
+ ### 5.3 Cross-Generalization 검증 (v7)
191
+
192
+ | 차원 | Train | Test | 결과 |
193
+ |---|---|---|---|
194
+ | **Subject** | CAPTURE-24 151명 + ArWISE V3 10명 + WEDA-FALL 11명 | HAR-70+ 18명 (별도) | ✅ **AUC 0.998** |
195
+ | **Sensor 위치** | wrist (CAPTURE-24) + iPhone (ArWISE V3) | back accelerometer (HAR-70+) | ✅ 작동 |
196
+ | **Sampling rate** | 25Hz (CAPTURE-24) / 10Hz (V3) | 50Hz (HAR-70+) | ✅ 작동 |
197
+ | **Population** | general adults | **elderly 70-95** | ✅ **목표 인구 검증** |
198
+ | **Fall 데이터** | WEDA-FALL 11명 inject (학습) | HAR-70+ activities | ✅ 일반화 |
199
+
200
+ ### 5.4 ONNX 추출 (v7 기준)
201
+
202
+ | 모듈 | 크기 | 배포 위치 |
203
+ |---|---:|---|
204
+ | patch_encoder.onnx | 0.86 MB | **Phone** |
205
+ | minute_encoder.onnx | 187.8 MB | Jetson |
206
+ | feature_adapter.onnx | 2.6 MB | Jetson |
207
+ | hourslot_encoder.onnx | 557.6 MB | Jetson |
208
+ | history_encoder.onnx | 554.4 MB | Jetson |
209
+ | vitalguard.onnx | 47.0 MB | Jetson |
210
+ | output_heads.onnx | 6.2 MB | Jetson |
211
+ | **합계** | **1.36 GB** | |
212
+
213
+ QueryRefiner는 cross-attention 동적 shape 문제로 PyTorch 그래프로만 실행 (ONNX 제외).
214
+
215
+ ---
216
+
217
+ ## 6. 시스템 검증
218
+
219
+ ### 6.1 Pipeline 통합 시연 (v7)
220
+
221
+ | 단계 | 결과 |
222
+ |---|---|
223
+ | 6 stage ckpt 로드 | ✅ v7 Stage 5 (1.78GB) + Stage 6 (46MB) merge |
224
+ | EdgePipeline + RAG 통합 | ✅ run_demo.py JSON alert 출력 (severity/reason/time_range) |
225
+ | Phone ONNX | ✅ 860KB, opset 17, dynamic batch |
226
+ | Jetson ONNX | ✅ 6 모듈 1.36GB 총합 (minute+adapter+hourslot+history+vitalguard+heads) |
227
+ | RAG replay DB | ✅ 7.6GB / 18+ scenarios × 720 history slots |
228
+ | pytest | **68/69 통과** (1 fail = 30-day integration smoke, 600s 타임아웃 — 기능적 통과) |
229
+
230
+ ### 6.2 산출물
231
+
232
+ | 위치 | 내용 |
233
+ |---|---|
234
+ | **GitHub** | https://github.com/tlstngud/sisa-routineguard (private) |
235
+ | **HuggingFace** | https://huggingface.co/koreashin/sisa-routineguard |
236
+ | Stage 5 ckpt | v5b / v6 / **v7** 3개 백업 (각 1.7 GB) |
237
+ | Stage 6 ckpt | v5b / v6 / **v7** 3개 백업 (각 46 MB) |
238
+ | ONNX (v7) | patch (Phone, 0.86 MB) + Jetson 6모듈 (1.36 GB) |
239
+ | RAG DB | /external/sisa-data/rag_db_replay (7.6 GB) |
240
+ | 평가 결과 | /data/eval_results/ood_har70_results.json |
241
+
242
+ ---
243
+
244
+ ## 7. 한계와 향후 작업
245
+
246
+ ### 7.1 현재 한계 (정직)
247
+ 1. **합성 + WEDA-FALL 만으로 학습** — 한국 노인의 실제 일상 collect 데이터 미사용 (캡스톤 다음 phase)
248
+ 2. **VitalGuard ground-truth HR 평가 안 함** — forward 통과만 검증
249
+ 3. **30-day 연속 데이터 없음** — ArWISE V3가 9일/subject. Replay는 random sampling 합성
250
+ 4. **Jetson 실측 latency 미측정** — RTX 4090 bf16 기준 448ms만 측정
251
+
252
+ ### 7.2 v7 해결 성과
253
+ - ✅ activity_drop reason regression: pos_weight=3.0으로 회복
254
+ - ✅ v5b의 epoch 1 collapse 패턴 봉쇄: 안정 29 epoch
255
+ - ✅ HAR-70+ AUC v5b 0.137 → v7 0.998 (실제 OOD에서 7배 개선)
256
+ - ✅ Calibration: v6 ID=0.295 → v7 ID=0.000 (false positive 0)
257
+
258
+ ### 7.3 향후
259
+ - 직접 수집 데이터 (Galaxy Watch 24h IMU) 50명 → fine-tune
260
+ - Jetson Orin Nano 실측 latency 벤치 (1.36 GB ONNX)
261
+ - Dryad ArWISE 71GB cohort 접근 (OAuth 막힘 상태)
262
+
263
+ ---
264
+
265
+ ## 8. 핵심 기여
266
+
267
+ 1. **4-Tier hierarchical anomaly detector** — patch → minute → slot → history 계층
268
+ 2. **NeurIPS-26 SISA backbone** — SSM + Softmax attention 융합 (444M 모델)
269
+ 3. **Edge-only 배포** — Phone (0.22M ONNX) + Jetson (444M) 분리
270
+ 4. **Train/val split + early stopping** — Overfitting 방지 검증
271
+ 5. **Cross-dataset/sensor generalization** — CAPTURE-24/ArWISE → HAR-70+ (OOD AUC 0.987)
272
+ 6. **Real elderly population 검증** — HAR-70+ 70-95세에서 작동 확인
273
+
274
+ ---
275
+
276
+ ## 9. 발표 핵심 메시지 (v7)
277
+
278
+ > "**444M 파라미터 4-tier 모델 v7로 학습 안 한 노인 데이터(70-95세, HAR-70+ 18 subjects)에서 OOD AUC 0.998 anomaly detection 검증.
279
+ > 3차 재학습(v5b → v6 → v7)으로 class-balanced reason loss + WEDA-FALL fall events 통합, v5b의 메모이즈+collapse (HAR-70+ AUC 0.137) 문제를 v7에서 calibration 0인 ID score로 해결.
280
+ > Phone 0.86 MB ONNX + Jetson 1.36 GB 6모듈 ONNX 분리 배포로 edge-only inference 가능 (full forward 448ms, batch 2).**"
281
+
282
+ ---
283
+
284
+ ## Appendix A — 실험 환경
285
+ - GPU: RTX 4090 × 3 (각 24GB)
286
+ - PyTorch 2.5.1 + CUDA 12.4 + bf16 autocast
287
+ - Docker: `sisa-routineguard:latest` (Python 3.11)
288
+
289
+ ## Appendix B — Reproducibility
290
+ - 모든 random seed 명시 (split=42, anomaly=42)
291
+ - ckpt + normalizer + config 모두 HF에 공개
292
+ - 코드 + tests + scripts GitHub 공개 (private, 협업자 access)
293
+
294
+ ## Appendix C — Reference
295
+ - Plan v1.4 (`설계도/계획.md`)
296
+ - Design Spec v1.3.9 (`설계도/설계도.md`)
297
+ - RAG Spec v1.0.8 (`설계도/rag설계도.md`)
298
+ - CAPTURE-24: Walmsley 2021 (DOI 10.5287/bodleian:NGx0JOMP5)
299
+ - WESAD: Schmidt 2018, ICMI'18
300
+ - ArWISE V3: CASAS Diane Cook (Zenodo 15803341)