Smoothie-Qwen3-8B-KR-Self-Driving-Legal v3
์์จ์ฃผํ๋ฒ๋ น ๋๋ฉ์ธ ํ์ธํ๋ + RAG ์คํ ์ต์ข ๊ฒฐ๊ณผ ๋ณด๊ณ ์
๋ณธ ๋ฌธ์๋ 2026-02-24 ์ฌ๊ฒํ ๋ฅผ ํตํด ์ด๊ธฐ README์ ์ค๋ํ ์ค๋ฅ๋ฅผ ์์ ํ ์ต์ข ํ์ ๋๋ค.
โ ๏ธ ์ ์ (Errata) ๊ณต์ง
๊ธฐ์กด ์ ๋ก๋๋ v3 README์๋ ํ๊ฐ ๊ฒฐ๊ณผ ๋ผ๋ฒจ ๋งคํ ์ค๋ฅ๊ฐ ํฌํจ๋์ด ์์์ต๋๋ค.
- ์๋ณธ README ์ฃผ์ฅ: FT ๋ชจ๋ธ 86.7%, ์์ ๋ชจ๋ธ 40.7% (FT ์๋์ ์ฐ์)
- ์ค์ ํ๊ฐ ๊ฒฐ๊ณผ: FT ๋ชจ๋ธ 43%, ์์ ๋ชจ๋ธ 90% (FT ์ด์)
๋ด๋ถ ๋ก๊ทธ ๋ฐ ๋ค์์ ๋ ๋ฆฝ ๋ถ์ ๋ฌธ์์์ ๊ต์ฐจ ๊ฒ์ฆ ๊ฒฐ๊ณผ, ์ด๊ธฐ README ์์ฑ ์ LLM ์ฑ์ ๊ณผ์ ์์ ๋ ๋ชจ๋ธ์ ์๋ต์ ์ญ์์ผ๋ก ์ ๋ ฅํ์ฌ ๊ฒฐ๊ณผ ๋ ์ด๋ธ์ด ๋ค๋ฐ๋ ๊ฒ์ผ๋ก ํ๋จ๋ฉ๋๋ค. ์ด๋ก ์ธํด ๋์ถ๋ ๋ชจ๋ ๊ฒฐ๋ก (FT ์ฐ์, ๋ฌผ๋ฆฌ์ AI ํ์ฉ ๊ฐ๋ฅ์ฑ ๋ฑ)์ ์ ๋ขฐํ ์ ์์ผ๋ฉฐ, ๋ณธ ๋ฌธ์์์ ์ ๋ฉด ์์ ํฉ๋๋ค.
0. ์คํ ์์ฝ (Abstract)
๋ณธ ์ฐ๊ตฌ๋ ๋ํ๋ฏผ๊ตญ ์์จ์ฃผํ์๋์ฐจ ๊ด๋ จ ๋ฒ๋ น์ ํนํํ 8B ๊ฒฝ๋ ์ธ์ด๋ชจ๋ธ์ ํ์ธํ๋์ด, ๋์ผ ๋๋ฉ์ธ RAG(Retrieval-Augmented Generation) ํ์ดํ๋ผ์ธ์์ ๋ ํฐ ์์ ๋ชจ๋ธ์ ๋ฅ๊ฐํ ์ ์๋์ง๋ฅผ ๊ฒ์ฆํ๋ ๊ฒ์ ๋ชฉ์ ์ผ๋ก ํ์๋ค.
Smoothie-Qwen3-8B๋ฅผ ๋ฒ ์ด์ค๋ก QLoRA ํ์ธํ๋์ ์ํํ์์ผ๋ฉฐ(750๊ฐ QnA ๋ฐ์ดํฐ์ , 3~5 ์ํฌํฌ), ๋์ผ RAG ์กฐ๊ฑด ํ์ 4๊ฐ ๋ชจ๋ธ(FT-8B Q4, FT-8B Q8/CoT, Non-FT 8B, Non-FT 14B)์ 15๊ฐ ์ค๋ต ์ ๋ํ ์ง๋ฌธ์ผ๋ก ํ๊ฐํ์๋ค.
ํต์ฌ ๊ฒฐ๊ณผ:
- ์ฃผ ๊ฐ์ค ๊ธฐ๊ฐ: ํ์ธํ๋๋ 8B ๋ชจ๋ธ(43~60%)์ด ์์ 8B/14B ๋ชจ๋ธ(90%)์ ๋นํด ํ์ ํ ๋ฎ์ ์ฑ๋ฅ์ ๋ณด์๋ค.
- ๋ถ์์ ๋ฐ๊ฒฌ: RAG ๋ฒกํฐDB ๊ตฌ์ฑ ์ ์๋ฌธ ๋ฒ๋ น ํ ์คํธ์ ๋ํ์ฌ ๋๋ฉ์ธ QnA ๋ฐ์ดํฐ์ ์ ํจ๊ป ์๋ฒ ๋ฉํ๋ฉด ์๋ต ํ์ง์ด ํฅ์๋๋ค๋ ์ ์ ์คํ์ ์ผ๋ก ํ์ธํ์๋ค.
- ๋ฐฉ๋ฒ๋ก ์ ๊ตํ: RAG ๊ธฐ๋ฐ ์์คํ ์์์ ํ์ธํ๋์ ๋ชจ๋ธ์ด ๊ฒ์๋ ๋ฌธ๋งฅ ๋์ ๋ด๋ถ ํ์ต ํจํด์ ์ฐ์ ํ๋ ๋ถ์์ฉ์ ์ ๋ฐํ ์ ์๋ค.
1. ์ฐ๊ตฌ ๋๊ธฐ ๋ฐ ๊ฐ์ค
1.1 ์ฐ๊ตฌ ๋ฐฐ๊ฒฝ
๋ฌผ๋ฆฌ์ AI(Physical AI) ๋ฐ ์์จ์ฃผํ ๋ถ์ผ์์๋ ์ถ๋ก ์ฑ๋ฅ๊ณผ ํ๋์จ์ด ์ ์ฝ ์ฌ์ด์ ํธ๋ ์ด๋์คํ๊ฐ ์ค์ ๋ฐฐํฌ์ ํต์ฌ ๋ฌธ์ ๋ค. 14B ์ด์์ ๋ํ ๋ชจ๋ธ์ 12GB ์ด์์ VRAM์ ์๊ตฌํ์ฌ ์ฃ์ง ๋๋ฐ์ด์ค๋ ์ผ๋ฐ ์๋น์ GPU(RTX 3080 Ti 12GB ์์ค)์์๋ ์ด์ฉ ์ฌ์ ๊ฐ ๋งค์ฐ ์ ํ์ ์ด๋ค.
๋ฐ๋ฉด 8B ๋ชจ๋ธ์ 4~8GB VRAM์ผ๋ก ์๋ ๊ฐ๋ฅํ์ฌ ๊ฒฝ๋ํ์ ์ด์ ์ด ํฌ๋ค. ๊ทธ๋ฌ๋ ์์ 8B ๋ชจ๋ธ์ ๋๋ฉ์ธ ํนํ ๋ฒ๋ น ํด์์์ 14B ๋๋น ์ฑ๋ฅ ์ด์๊ฐ ์์๋๋ค.
์ฐ๊ตฌ ์ง๋ฌธ: "๋๋ฉ์ธ ํนํ ํ์ธํ๋์ ํตํด 8B ๋ชจ๋ธ์ด ์์ 14B ๋ชจ๋ธ๊ณผ ๋๋ฑํ๊ฑฐ๋ ๋ ๋์ ์ฑ๋ฅ์ ๋ฌ์ฑํ ์ ์๋๊ฐ?"
1.2 ์ฐ๊ตฌ ๊ฐ์ค
๊ฐ์ค H1: ์์จ์ฃผํ ๋ฒ๋ น ๋๋ฉ์ธ์ผ๋ก QLoRA ํ์ธํ๋๋ Qwen3-8B ๋ชจ๋ธ์, ๋์ผ ๋๋ฉ์ธ RAG ํ์ดํ๋ผ์ธ์์ ์์ Qwen3-14B ๋ชจ๋ธ๋ณด๋ค ๋ฒ๋ น ํด์ ์ ํ๋๊ฐ ๋๊ฑฐ๋ ๋๋ฑํ ๊ฒ์ด๋ค.
1.3 ๊ฐ์ค์ ์ค์ฉ์ ํจ์
๋ณธ ๊ฐ์ค์ด ์ฐธ์ด๋ผ๋ฉด, ๊ณ ๊ฐ GPU ์์ด๋ ์ ๋ฌธ ๋๋ฉ์ธ LLM์ ๊ตฌ์ฑํ ์ ์์ด ํ๋์จ์ด ๋ ธํํ ๋ฌธ์ ๋ฅผ ์ง์ฐ์ํค๋ ์ค์ฉ์ ์ ๋ต์ด ๋ ์ ์๋ค. ๊ทธ๋ฌ๋ ๋ณธ ์คํ ๊ฒฐ๊ณผ, ์ด ๊ฐ์ค์ ํ์ฌ ์คํ ์กฐ๊ฑด ํ์์ ๊ธฐ๊ฐ๋์๋ค.
2. ์คํ ์ค๊ณ
2.1 ๋ชจ๋ธ ๋ฒ์ ๋ฐ์ ์ด๋ ฅ
๋ณธ ๋ชจ๋ธ(v3)์ ์ด๋ฅด๊ธฐ๊น์ง ์๋์ ๊ฐ์ ๊ณผ์ ์ ๊ฑฐ์ณค๋ค.
| ๋ฒ์ | ์ฃผ์ ๋ณ๊ฒฝ | ๋ฌธ์ ์ |
|---|---|---|
| v1 | ์ต์ด ํ์ธํ๋ (๊ธฐ๋ณธ Alpaca ํ์) | <think> ์์ ๋น์ด์์, ๋ฌธ๋งฅ ์์ค, ๋ฒ๋ น ํธํฅ ๊ณ ์ฐฉ |
| v2 | ์์คํ
ํ๋กฌํํธ ๊ฐํ + [์ถ์ฒ:] ํ๊ทธ ์ฝ์
|
์์คํ ํ๋กฌํํธ๊ฐ 3,750ํ ๋ฐ๋ณต ์ฃผ์ ๋์ด ํธํฅ ์ ํ |
| v3 | DTRO(Direct To Response) ์คํ์ผ ๋ณํ (๊ฐ์ ํ๋กฌํํธยทํํธ ํ๊ทธ ์ ๊ฑฐ) | <think> ์ฌ์ ํ ๋น์ด์์, ๋ฉํฐํด ๋ํ ๋ถ๊ฐ |
v3์ ๋ฐ์ดํฐ์ ๊ตฌ์กฐ ๋ณํ (ํต์ฌ ๊ฐ์ ):
// v2 (๋ฌธ์ )
{
"instruction": "๋น์ ์ ์์จ์ฃผํ์๋์ฐจ๋ฒ ์ ๋ฌธ๊ฐ์
๋๋ค...(์์คํ
ํ๋กฌํํธ 750ร5=3,750ํ ์ฃผ์
)",
"input": "์์จ์ฃผํ์๋์ฐจ๋? [์ถ์ฒ: ์๋์ฐจ๊ด๋ฆฌ๋ฒ ์ 2์กฐ]",
"output": "๋จ๋ตํ ๋ต๋ณ"
}
// v3 (๊ฐ์ : DTRO Style)
{
"instruction": "์์จ์ฃผํ์๋์ฐจ๋ ๋ฌด์์ธ๊ฐ์?",
"output": "์์จ์ฃผํ์๋์ฐจ๋..."
}
v3๋ ๋ฐ์ดํฐ ๊ตฌ์กฐ ํธํฅ(์์คํ
ํ๋กฌํํธ ๊ฐ์ ์ฃผ์
, ์ถ์ฒ ํํธ)์ ํด์ํ์ผ๋, Chain-of-Thought ์ถ๋ก ํ์ต ๋ฐ์ดํฐ๊ฐ ์์ด <think> ๋ณต์์๋ ์คํจํ๋ค.
2.2 ๋ฐ์ดํฐ์ ๊ตฌ์ฑ
| ํญ๋ชฉ | ๋ด์ฉ |
|---|---|
| ๋ฐ์ดํฐ ๊ท๋ชจ | 750๊ฐ QnA ์ |
| ๋๋ฉ์ธ | ๋ํ๋ฏผ๊ตญ ์์จ์ฃผํ์๋์ฐจ ๊ด๋ จ ๋ฒ๋ น (์๋์ฐจ๊ด๋ฆฌ๋ฒ, ์ฌ๊ฐ์๋์ฐจ๋ฒ, ์์จ์ฃผํ์๋์ฐจ๋ฒ ์ํ๊ท์น ๋ฑ) |
| ๊ตฌ์ฑ ๋ฐฉ์ | ๋ฒ๋ น ์๋ฌธ์์ ์ถ์ถํ ์ค๋ต ์ ๋ํ ์ง๋ฌธ 30๊ฑด + ์ผ๋ฐ ๋ฒ๋ น ์ค๋ช ํ 720๊ฑด |
| ํฌ๋งท | DTRO Style (์์ ์ง๋ฌธ โ ์ ํํ ๋ต๋ณ, ์ถ๋ก ๊ณผ์ ์์) |
| ์ถ์ฒ ํ๊ทธ | ์ ๊ฑฐ (v2์ ๋ณต์ฌ ํธํฅ ๋ฐฉ์ง) |
ํ๊ณ: ์ง๋ฌธ ํ๋ ์ด๋ฐ์ด ๋จ์ผ ํจํด(๊ธ์ ๋ฐฉํฅ ๋ค์)์ผ๋ก ํธํฅ๋์ด, ๋ถ์ ๋ฐฉํฅ ์ง๋ฌธ์ ๋ํ ์ผ๋ฐํ ๋ฅ๋ ฅ์ ํ์ตํ์ง ๋ชปํจ.
2.3 ํ์ธํ๋ ์ค์ (QLoRA)
| ํญ๋ชฉ | v3 (์ผ๋ฐ QnA) | v5/CoT (ํ์ ์คํ) |
|---|---|---|
| ๋ฒ ์ด์ค ๋ชจ๋ธ | dnotitia/Smoothie-Qwen3-8B | dnotitia/Smoothie-Qwen3-8B |
| ์ด๋ํฐ | QLoRA (r=16, alpha=32) | QLoRA (๋์ผ) |
| ์ํฌํฌ | 5 | 3 |
| ํ์ต๋ฅ | 2e-4 | 2e-4 |
| ๋ฐฐ์น ํฌ๊ธฐ | 4 (gradient_accumulation=4) | 4 |
| VRAM | RTX 3080 Ti 12GB | ๋์ผ |
| CoT ์ฌ๋ถ | โ (๋จ์ QโA) | โ
(<think>...</think> ํฌํจ) |
| ์์ํ | Q4_K_M | Q8_0 |
2.4 RAG ํ์ดํ๋ผ์ธ ๊ตฌ์ฑ
๋ชจ๋ ํ๊ฐ์ ๋์ผํ RAG ํ๊ฒฝ์ ์ฌ์ฉํ์๋ค.
[RAG ์ํคํ
์ฒ]
์
๋ ฅ ์ง๋ฌธ
โ
โผ
BGE-M3 ์๋ฒ ๋ฉ (multilingual, ๊ณ ํ์ง ํ๊ตญ์ด ์ง์)
โ
โผ
Qdrant ๋ฒกํฐ DB ๊ฒ์ (MMR + ์ฌ์์ํ)
โ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
โ ๋ฒกํฐ DB ๊ตฌ์ฑ ๋ด์ฉ โ
โ โ ๋ฒ๋ น ์๋ฌธ TXT (์ฒญํฌ ๋จ์ ์๋ฒ ๋ฉ) โ
โ โก QnA ๋ฐ์ดํฐ์
JSON (Q+A ์ ์๋ฒ ๋ฉ) โ โ ๋ถ์์ ๊ธ์ ๋ฐ๊ฒฌ
โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ
โ
โผ
์์ ์ปจํ
์คํธ ์ถ์ถ
โ
โผ
[ํ๊ฐ ๋์ ๋ชจ๋ธ 4์ข
] โ ์๋ต ์์ฑ
์ค์ ์ค๊ณ ์ ํ: ๋ฒกํฐ DB์ ๋ฒ๋ น ์๋ฌธ๋ฟ ์๋๋ผ QnA ๋ฐ์ดํฐ์ ์์ฒด๋ ์๋ฒ ๋ฉํ๋ค. ์ด๋ ํ์ ํ๋ ๋ถ์์ ๋ฐ๊ฒฌ์ ํต์ฌ ์์์ด๋ค.
2.5 ํ๊ฐ ๋ฐฉ๋ฒ๋ก
| ํญ๋ชฉ | ๋ด์ฉ |
|---|---|
| ํ๊ฐ ์ง๋ฌธ | 15๊ฐ ์ค๋ต ์ ๋ํ ํจ์ ์ง๋ฌธ (NotebookLM ์์ฑ) |
| ์ง๋ฌธ ํน์ฑ | ๋ฒ๋ น ์ธ๋ถ ์กฐ๊ฑด์ ๋ค์ง๊ฑฐ๋, ์ ์ฌ ๊ฐ๋ ์ ํผ์ฉํ์ฌ ์ค๋ต์ ์ ๋ํ๋๋ก ์ค๊ณ |
| ์ฑ์ ๊ธฐ์ค | โ ์ ๋ต(๊ฒฐ๋ก +๊ทผ๊ฑฐ ์ ํ), โ ๏ธ ๋ถ๋ถ ์ ๋ต(๋ฐฉํฅ ๋ง์ผ๋ ์ค๋ฅ ํฌํจ), โ ์ค๋ต(๊ฒฐ๋ก ์ค๋ฅ) |
| ๋ ๋ฆฝ ํ๊ฐ์ | Claude Opus 4.6 (Thinking ๋ชจ๋), GPT-5.2-High |
| ๊ฐ์ค ์ ์ | โ =2์ , โ ๏ธ=1์ , โ=0์ (๋ง์ 30์ ) |
| ์ ์ฌ๋ ๋ถ๋ฅ | ํ๋ จ ๋ฐ์ดํฐ์ ํ ์คํธ ์ง๋ฌธ ๊ฐ ์๋ฏธ ์ ์ฌ๋๋ฅผ 4๋จ๊ณ ๋ถ๋ฅ |
3. ์คํ ๊ฒฐ๊ณผ
3.1 ์ ๋ ๊ฒฐ๊ณผ (6๊ฐ ๋ชจ๋ธ ์ข ํฉ ์ต์ข ํ)
ํ์ ์คํ์์ Gemma3n E4B(ํ 4B๊ธ) ๋ฐ DTRO 8B(์ ๋ ฅ์ค๋น ๋๋ฉ์ธ FT) 2๊ฐ ๋ชจ๋ธ์ ์ถ๊ฐ ๋น๊ตํ์๋ค.
| ์์ | ๋ชจ๋ธ | โ ์ ๋ต | โ ๏ธ ๋ถ๋ถ | โ ์ค๋ต | ๊ฐ์ค์ (/30) | ์ ๋ต๋ฅ |
|---|---|---|---|---|---|---|
| 1 | Non-FT 14B | 13 | 1 | 1 | 27 | 90% |
| 1 | Non-FT 8B | 13 | 1 | 1 | 27 | 90% |
| 3 | Gemma3n E4B | 13 | 0 | 2 | 26 | 87% |
| 4 | DTRO 8B (์ ๋ ฅ์ค๋น FT) | 11 | 2 | 2 | 24 | 80% |
| 5 | FT-8B (Q8/CoT, v5) | 6 | 6 | 3 | 18 | 60% |
| 6 | FT-8B (Q4, v3) | 4 | 5 | 6 | 13 | 43% |
์ ๋ต๋ฅ ์๊ฐํ:
Non-FT 14B โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ 90%
Non-FT 8B โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ 90%
Gemma3n E4B โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ 87% โ 4B๊ธ!
DTRO 8B โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ 80%
FT-8B (Q8) โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ 60%
FT-8B (Q4) โโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโโ 43%
๊ฒฐ๋ก : ๊ฐ์ค H1 ๊ธฐ๊ฐ. ํ์ธํ๋๋ 8B ๋ชจ๋ธ(4360%)์ด Non-FT ๋ชจ๋ธ(90%) ๋๋น **3047%p ๋์ ์ฑ๋ฅ**์ ๋ณด์๋ค. ๋ํ Gemma3n E4B๊ฐ ~4B ํ๋ผ๋ฏธํฐ๋ก 87%๋ฅผ ๋ฌ์ฑํ๋ฉฐ, RAG ํ๊ฒฝ์์ ๋ชจ๋ธ ํฌ๊ธฐ๋ณด๋ค RAG ํ์ง์ด ํ์ฌ ๋ณ์์์ด ํ์ธ๋์๋ค.
3.2 ๋ฌธํญ๋ณ ํ์ (4๊ฐ ๋ชจ๋ธ ๋น๊ต)
| Q# | ์ฃผ์ | ์ ์ฌ๋ | FT-8B(Q4) | FT-8B(Q8/CoT) | Non-FT 8B | Non-FT 14B |
|---|---|---|---|---|---|---|
| Q1 | ๋ ๋ฒจ3 ๋น์/์ํ์ต์ํ | ๐ด๋์ | โ | โ ๏ธ | โ | โ ๏ธ |
| Q2 | CSMS ์ธ์ฆ ๊ฐฑ์ | ๐ก์ค๊ฐ | โ ๏ธ | โ ๏ธ | โ | โ |
| Q3 | ์ ์์ด์ก ํ๊ฐ | ๐ด๋์ | โ | โ | โ ๏ธ | โ |
| Q4 | ์์ ๊ตฌ๊ฐ ์ ๋ฐ์ง๋ | ๐ข๋ฎ์ | โ ๏ธ | โ | โ | โ |
| Q5 | ์ค๋ฆฌ ๋๋ ๋ง | ๐ก์ค๊ฐ | โ | โ ๏ธ* | โ | โ |
| Q6 | ์์์ดํ ๋ฌด์ธ์ ํ | ๐ข๋ฎ์ | โ ๏ธ | โ ๏ธ | โ | โ |
| Q7 | ๋ ๋ฒจ4 ์ด์ ์ ์ดํ | ๐ก์ค~๋ | โ | โ | โ | โ |
| Q8 | ์ํด๋ฐฐ์ 1์ฐจ ์ฑ ์ | ๐ก์ค๊ฐ | โ ๏ธ | โ | โ | โ |
| Q9 | DSSAD ์ ์ถ ๊ฑฐ๋ถ | ๐ด๋์ | โ ๏ธ | โ | โ | โ |
| Q10 | ์ค๋ฒ๋ผ์ด๋ ์ ํ | ๐ข๋ฎ์ | โ | โ ๏ธ | โ | โ |
| Q11 | ์๋ฒ์ง๊ตฌ ์ง๊ถ ํด์ | ๐ด๐ด๋งค์ฐ๋์ | โ | โ | โ | โ |
| Q12 | ๊ฒฝ๋ฏธ ์ฌ๊ณ ๋ณด๊ณ | ๐ข๋ฎ์ | โ | โ | โ | โ |
| Q13 | C-ITS ๋จ์ ๋์ | ๐ก์ค~๋ | โ | โ | โ | โ |
| Q14 | ์ํธ ๋ณ๊ฒฝ ์ ๊ณ | ๐ข๋ฎ์ | โ | โ ๏ธ | โ | โ |
| Q15 | ์ฑ๋ฅ์ธ์ฆ vs ์ ํฉ์ฑ | ๐ด๐ด๋งค์ฐ๋์ | โ ๏ธ | โ | โ | โ |
*Q5 (FT-8B Q8/CoT): ๋ด์ฉ์ ์ ํํ๋ "์ฐธ๊ณ ๋ฌธ์ 1"์ด 89ํ ์ด์ ๋ฐ๋ณต๋๋ ์์ฑ ๋ฃจํ ๋ฐ์
3.3 ์ ์ฌ๋๋ณ ์ฑ๋ฅ ๋ถ์
ํ์ธํ๋ ๋ชจ๋ธ์์ ๋ฐ๊ฒฌ๋ ๊ฐ์ฅ ์ถฉ๊ฒฉ์ ์ธ ํจํด์ **"ํ๋ จ ๋ฐ์ดํฐ์ ์ ์ฌํ ์ง๋ฌธ์ผ์๋ก ์คํ๋ ค ์ ๋ต๋ฅ ์ด ๋ฎ๋ค"**๋ ์ญ์ค์ด๋ค.
FT-8B (Q4) โ ์ ์ฌ๋๋ณ ์ ๋ต๋ฅ :
๐ด๐ด ๋งค์ฐ ๋์ (Q11, Q15): 0/2 ยทยทยทยทยทยทยทยทยทยทยทยทยท 0% (โ ๊ธฐ๋: ๊ฐ์ฅ ๋์์ผ ํจ)
๐ด ๋์ (Q1, Q3, Q9): 0/3 ยทยทยทยทยทยทยทยทยทยทยทยท 0%
๐ก ์ค๊ฐ (Q2,Q5,Q7,Q8,Q13): 3.5/5 ยทยทยทยทยทยทยทยทยทยทยทยท 70%
๐ข ๋ฎ์ (Q4,Q6,Q10,Q12,Q14): 3/5 ยทยทยทยทยทยทยทยทยทยทยทยท 60%
Non-FT 8B โ ์ ์ฌ๋๋ณ ์ ๋ต๋ฅ :
๐ด๐ด ๋งค์ฐ ๋์: 2/2 ยทยทยทยทยทยทยทยทยทยทยทยทยท 100%
๐ด ๋์: 2.5/3 ยทยทยทยทยทยทยทยทยทยทยทยทยท 83%
๐ก ์ค๊ฐ: 4/5 ยทยทยทยทยทยทยทยทยทยทยทยทยท 80%
๐ข ๋ฎ์: 5/5 ยทยทยทยทยทยทยทยทยทยทยทยทยท 100%
์ด ์ญ์ ํ์์ ํ์ธํ๋ ๋ชจ๋ธ์ด ๋ฒ๋ น์ ๋ด์ฉ์ด ์๋ ๋ต๋ณ์ ํ๋ฉด์ ํจํด์ ํ์ตํ์์ ๊ฐ๋ ฅํ ์์ฌํ๋ค.
3.4 ํ์ธํ๋ ๋ชจ๋ธ์ 5๊ฐ์ง ์คํจ ํจํด
โ ํ ํ๋ฆฟ ๊ณผ์ ํฉ (Template Overfitting) โ ๊ฐ์ฅ ์น๋ช ์
๋ชจ๋ธ์ด ์ง๋ฌธ์ ๋ ผ๋ฆฌ์ ๋ฐฉํฅ์ ์ดํดํ์ง ์๊ณ , "์๋๋๋ค + ์ค๋ช "์ด๋ผ๋ ํ์ ์์ฒด๋ฅผ ์๊ธฐํ์๋ค.
[ํ๋ จ ๋ฐ์ดํฐ]
Q: "๋ฐ๋์ ์ยท๋์ง์ฌ์ ์ ์ฒญ์ด ์์ด์ผ๋ง ํฉ๋๊น?"
A: "์๋๋๋ค. (...) ์ง๊ถ์ผ๋ก ํด์ ํ ์ ์์ต๋๋ค." โ ์ฌ๋ฐ๋ฅธ ๋ถ์
[ํ
์คํธ ์ง๋ฌธ: ๋ฐฉํฅ ๋ฐ์ ]
Q: "์ง๊ถ์ผ๋ก ํด์ ํ ์ ์์ต๋๊น?"
[FT-8B ๋ต๋ณ]
A: "์๋๋๋ค. (...) ์ง๊ถ์ผ๋ก ํด์ ํ ์ ์์ต๋๋ค."
โ ๊ฒฐ๋ก (๋ถ์ )๊ณผ ์ค๋ช
(๊ธ์ )์ด ๋ชจ์ โ ํจํด๋ง ์ฌ์
โก ํต์ฌ ์ฉ์ด ํผ๋ (Concept Confusion)
์ ๋ต: "์ํ์ต์ํ์ดํ(Risk Minimal Maneuver)"
FT-8B: "๋น์์ดํ(๊ฐ์ ๋๋ ์ ์ง)" โ ์ ํ ๋ค๋ฅธ ๊ฐ๋
ํผ์ฉ
โ ํ๋ จ ๊ณผ์ ์์ ๋ ๊ฐ๋
์ด ๋์ผ ๋งฅ๋ฝ์ผ๋ก ๊ณผ๋ค ๋
ธ์ถ๋์ด ๊ตฌ๋ถ ๋ฅ๋ ฅ ์์ค
โข ๊ธ์ /๋ถ์ ์๋ต ๋ถ์ผ์น (Affirmation Inconsistency)
Q: "์ ํฉ์ฑ ์น์ธ์ด ๋ฉด์ ๋ฉ๋๊น?"
FT-8B: "๋ค, (...) ์ ํฉ์ฑ ์น์ธ์ ๋ฐ์์ผ ํฉ๋๋ค."
โ "๋ค"(๋ฉด์ ๋จ)์ "๋ฐ์์ผ"(๋ฉด์ ์ ๋จ)๊ฐ ๋์ ์ถ๋ ฅ
โ ํ์ต ๋ฐ์ดํฐ์ ๊ธ์ /๋ถ์ ํจํด์ด ๋ค์์ฌ ํผ์ฉ
โฃ ํต์ฌ ์กฐ๊ฑด ํ๋ฝ (Critical Condition Omission)
ํ๋ จ ๋ฐ์ดํฐ: "์ยท๋์ง์ฌ ํ๊ฐ + ๊ตญํ ๊ตํต๋ถ์ฅ๊ด ํ์(ํ์)"
FT-8B: "์ยท๋์ง์ฌ ํ๊ฐ๋ง์ผ๋ก ๊ฐ๋ฅ" โ ํต์ฌ ๋จ์ ๋๋ฝ
Non-FT 14B: RAG ๋ฌธ๋งฅ์์ ๋ ์กฐ๊ฑด์ ๋ชจ๋ ์ ํํ ์ถ์ถ
โค RAG ๋ฌธ๋งฅ ๋ฌด์ (Context Bypass)
[๋์ผ RAG ์ปจํ
์คํธ ์ ๊ณต ์ํฉ]
Non-FT 8B: RAG ๋ด์ฉ ์ ํํ ์ฐธ์กฐ โ โ
Non-FT 14B: RAG ๋ด์ฉ ์ ํํ ์ฐธ์กฐ โ โ
FT-8B: ๋ด๋ถ ํ์ต ํจํด ์ฐ์ , RAG ์ปจํ
์คํธ ๋ฌด์ โ โ
โ ํ์ธํ๋์ผ๋ก ๋ด์ฅ๋ ํธํฅ์ด RAG์ ํจ๊ณผ๋ฅผ ์ฝํ์ํด
3.5 CoT ํ์ธํ๋(v5 Q8)์ด ๊ฐ์ ธ์จ ๋ณํ
CoT ๋ฐฉ์์ ํ์ ํ์ธํ๋(v5, Q8 ์์ํ)์ +17%p ๊ฐ์ ์ ๋ฌ์ฑํ์ผ๋ ์๋ก์ด ๋ฌธ์ ๋ฅผ ๋์ ํ๋ค.
๊ฐ์ ๋ ์ฌํญ:
- ๊ธ์ /๋ถ์ ์๋ต ๋ถ์ผ์น: 3๊ฑด โ 1๊ฑด (67% ๊ฐ์)
- ๋ ๋ฒจ ๊ฐ๋ ํผ๋ (Q7) ํด์: โ โ โ
- Q8(์ํด๋ฐฐ์) โ 4๊ฐ ๋ชจ๋ธ ์ค ์ ์ผํ๊ฒ ์ ๋ต: Non-FT 8B/14B๋ ์ค๋ต์ธ ๊ณ ๋๋ ๋ฒ์ ํด์ ์ง๋ฌธ์์ CoT ํ์ต์ ์ด์ ์ ๋ฐํ
์๋ก ๋ฐ์ํ ๋ฌธ์ :
| ๋ฌธ์ ์ ํ | ์ค๋ช | ์ฌ๋ก |
|---|---|---|
| ๋ฐ๋ณต ๋ฃจํ | CoT long-form ์์ฑ ์ค ์ข ๋ฃ ํ ํฐ ์ธ์ ์คํจ๋ก "์ฐธ๊ณ ๋ฌธ์ 1"์ด 89ํ ๋ฐ๋ณต | Q5 |
| ๊ต์ฐจ ์ค์ผ | "์์์ดํ" ํค์๋๋ก ๋ค๋ฅธ ํ๋ จ ๋ฐ์ดํฐ(์ํํธ์จ์ด ๋ณ๊ฒฝ ์ ๊ณ ) ๋ด์ฉ์ ์๋ชป ๋งค์นญ | Q12 |
CoT์ ์ ์ฌ๋๋ณ ์๋ฉด์ฑ:
์ ์ฌ๋ ๋์ ์ง๋ฌธ: +34~50%p ๊ฐ์ (ํ์ต๋ reasoning chain ์ง์ ํ์ฉ)
์ ์ฌ๋ ๋ฎ์ ์ง๋ฌธ: -10%p ์
ํ (๊ต์ฐจ ์ค์ผ์ผ๋ก ์คํ๋ ค ์ ์ค๋ฅ ๋ฐ์)
4. ๋ถ์์ ๊ธ์ ๋ฐ๊ฒฌ: QnA ์๋ฒ ๋ฉ์ RAG ์ฑ๋ฅ ํฅ์
4.1 ๋ฐ๊ฒฌ ๋ด์ฉ
๋ณธ ์คํ์์ RAG ๋ฒกํฐ DB๋ฅผ ๊ตฌ์ฑํ ๋ โ ๋ฒ๋ น ์๋ฌธ TXT์ ํจ๊ป โกํ์ธํ๋์ ์ฌ์ฉํ QnA ๋ฐ์ดํฐ์ (750์)์ ๋์์ ์๋ฒ ๋ฉํ์๋ค. ์ด ๊ตฌ์ฑ ํ์์ Non-FT ๋ชจ๋ธ๋ค์ด 90%๋ผ๋ ๋์ ์ ๋ต๋ฅ ์ ๋ฌ์ฑํ์์ผ๋ฉฐ, QnA ์๋ฒ ๋ฉ์ด ์๋ต ํ์ง ํฅ์์ ๊ธฐ์ฌํ ๊ฒ์ผ๋ก ํ๋จ๋๋ค.
QnA ๋ฐ์ดํฐ์ ์ ์๋ฒ ๋ฉ์ ๋ค์๊ณผ ๊ฐ์ ์ด์ ์ ์ ๊ณตํ๋ค:
| ์ด์ | ์ค๋ช |
|---|---|
| ์ง๋ฌธ-๋ต๋ณ ์ ์ง์ ๊ฒ์ | ์ ์ฌ ์ง๋ฌธ์ ๋ํ ์ ๋ต ํจํด์ RAG ์ปจํ ์คํธ๋ก ์ง์ ์ ๊ณต |
| ๋ฒ๋ น ์๋ฌธ ๋ณด์ | ์๋ฌธ ์์ฒด๋ ์กฐ๋ฌธ ํ์์ด๋ผ RAG ์ฒญํฌ๊ฐ ์ง๋ฌธ์ ์ง์ ๋์ํ๊ธฐ ์ด๋ ค์ด ๊ฒฝ์ฐ, QnA๊ฐ ์๋ฏธ์ ์ฐ๊ฒฐ ์ญํ |
| ๊ฐ๋ ๊ฒฝ๊ณ ๋ช ์ | "๋น์์ดํ vs ์ํ์ต์ํ์ดํ" ๊ฐ์ ์ ์ฌ ๊ฐ๋ ๊ตฌ๋ถ์ ๋ช ์์ ์ผ๋ก ์์ ํ QnA๊ฐ ๊ฒ์๋จ์ผ๋ก์จ ์ค๋ต ์ ๋ ๋ฐฉ์ง |
4.2 ์ค์ฉ์ ํจ์
ํ์ธํ๋๋ณด๋ค ๋น์ฉ ๋๋น ํจ๊ณผ๊ฐ ๋์ ๋์:
[ํ์ธํ๋ ์ ๊ทผ] [QnA ์๋ฒ ๋ฉ ์ ๊ทผ]
GPU ํ์ต (์ ์๊ฐ) QnA ์์ฑ (์์ญ ๋ถ)
๋ชจ๋ธ ๊ฐ์ค์น ๋ณํ ๋ชจ๋ธ ๊ฐ์ค์น ๋ณด์กด
RAG ๋ฌด์ ๊ฒฝํฅ ๋์
RAG ํ์ฉ ๊ทน๋ํ
์
๋ฐ์ดํธ ์ ์ฌํ์ต ํ์ ๋ฐ์ดํฐ ์ถ๊ฐ๋ก ์ฆ์ ์
๋ฐ์ดํธ
โ 43~60% ์ฑ๋ฅ โ 90% ์ฑ๋ฅ (Non-FT + QnA RAG)
๊ถ๊ณ : ๋๋ฉ์ธ ํนํ ์๋ต ์ฑ๋ฅ ๊ฐ์ ์ด ๋ชฉํ๋ผ๋ฉด, ํ์ธํ๋์ ์์ ๊ณ ํ์ง QnA ๋ฐ์ดํฐ์ ์ RAG ๋ฒกํฐ DB์ ํจ๊ป ์๋ฒ ๋ฉํ๋ ๋ฐฉ์์ ์ฐ์ ๊ฒํ ํ ๊ฒ์ ๊ถ์ฅํ๋ค.
5. ์ข ํฉ ๋ชจ๋ธ ๋น๊ต ๋งคํธ๋ฆญ์ค
| ํ๊ฐ ์ถ | FT-8B(Q4) | FT-8B(Q8/CoT) | Non-FT 8B | Non-FT 14B |
|---|---|---|---|---|
| ์ ๋ต๋ฅ | 43% | 60% | 90% | 90% |
| ๊ฐ๋ ๊ตฌ๋ถ ๋ฅ๋ ฅ | โ ํผ๋ ๋น๋ฐ | โ ๏ธ ๋ถ๋ถ ๊ฐ์ | โ ์ํธ | โ ์ํธ |
| ๊ธ์ /๋ถ์ ์ผ๊ด์ฑ | โ 3๊ฑด ๋ชจ์ | โ ๏ธ 1๊ฑด ๋ชจ์ | โ ์ผ๊ด | โ ์ผ๊ด |
| RAG ๋ฌธ๋งฅ ํ์ฉ | โ ๋ฌด์ ๊ฒฝํฅ | โ ๏ธ ๋ถ๋ถ ํ์ฉ | โ ์ถฉ๋ถ | โ ์ถฉ๋ถ |
| ์์ฑ ์์ ์ฑ | โ ๏ธ ๊ฐํ์ | โ ๋ฐ๋ณต ๋ฃจํ | โ ์์ | โ ์์ |
| ๊ณ ๋๋ ๋ฒ์ ํด์ | โ ๏ธ | โ Q8 ์ ์ผ ์ ๋ต | โ | โ |
| VRAM ์๊ตฌ๋ | ~6 GB | ~8 GB | ~6 GB | ~12 GB |
6. ๊ณ ์ฐฐ (Discussion)
6.1 ์ ํ์ธํ๋์ด ์์ ๋ชจ๋ธ๋ณด๋ค ๋๋นด๋๊ฐ
RAG ๊ธฐ๋ฐ ์์คํ ์์์ ํ์ธํ๋ ์ญํจ๊ณผ:
| ๊ธฐ๋ ํจ๊ณผ | ์ค์ ๊ฒฐ๊ณผ |
|---|---|
| ๋๋ฉ์ธ ์ง์ ๋ด์ฌํ | RAG๊ฐ ์ด๋ฏธ ๊ณ ํ์ง ์ปจํ ์คํธ ์ ๊ณต โ ํ์ธํ๋ ์ง์์ด ์ค๋ณตยท์ถฉ๋ |
| ์ผ๊ด๋ ์ถ๋ ฅ ํ์ | ํน์ "์๋๋๋ค + ์ค๋ช " ํจํด์ผ๋ก ๊ณผ์ ํฉ โ ํ์ ๊ณ ์ , ๋ด์ฉ ์ค๋ฅ |
| ์ ๋ฌธ๊ฐ ์์ค ์ถ๋ก | ์ผ๋ถ ๊ฐ์ (+17%p CoT), ๊ทธ๋ฌ๋ ์ผ๋ฐํ ๋ฅ๋ ฅ ๋์ ์์ค |
| RAG ๋ฌธ์ ์ ํ ํ์ฉ | ํ์ต๋ ํจํด์ด ์ฐ์ ๋์ด ์คํ๋ ค RAG ํ์ฉ ๊ฐ์ |
๊ทผ๋ณธ ์์ธ: 750๊ฐ์ QnA๊ฐ 5์ํฌํฌ ๋ฐ๋ณต ํ์ต๋๋ฉด์ ํน์ ์ง๋ฌธ-์๋ต ํจํด์ ๊ณผ์ ํฉ์ด ๋ฐ์ํ๋ค. ๋ชจ๋ธ์ ์ง๋ฌธ์ ๋ ผ๋ฆฌ์ ๊ตฌ์กฐ๋ฅผ ์ดํดํ๊ธฐ๋ณด๋ค "์ด๋ฐ ํค์๋๊ฐ ๋์ค๋ฉด โ ์ด๋ฐ ํจํด์ผ๋ก ์๋ต"์ด๋ผ๋ ์ฐ๊ด ๋งคํ์ ํ์ตํ ๊ฒ์ผ๋ก ๋ณด์ธ๋ค.
6.2 ์์ 8B์ 14B๊ฐ ๋์ผํ ์ด์
๋นํ์ธํ๋ 8B์ 14B๊ฐ ๋์ผํ 90%๋ฅผ ๊ธฐ๋กํ๋ค๋ ์ ์, ํ์ฌ RAG ํ์ดํ๋ผ์ธ์ ํ์ง์ด ์ถฉ๋ถํ ๋์์ ๋ชจ๋ธ ํฌ๊ธฐ ์ฐจ์ด๊ฐ ์๋ต ํ์ง์ ํฐ ์ํฅ์ ์ฃผ์ง ์๋ ์๊ณ์ ์ ๋๋ฌํ์์ ์์ฌํ๋ค. BGE-M3์ ๋์ ์๋ฒ ๋ฉ ํ์ง๊ณผ MMR ๊ธฐ๋ฐ ๋ค์์ฑ ๊ฒ์์ด ์ด ๊ฒฐ๊ณผ์ ๊ธฐ์ฌํ ๊ฒ์ผ๋ก ํด์๋๋ค.
6.3 CoT ํ์ธํ๋์ ์ ์ฌ์ ๊ฐ์น์ ํ๊ณ
CoT ๋ฐ์ดํฐ(v5)๋ ๊ธ์ ์ ์ ํธ๋ฅผ ๋ณด์๋ค(Q8 ๋จ๋ ์ฐ์). ๊ทธ๋ฌ๋ ์๊ท๋ชจ ๋ชจ๋ธ(8B)์์ CoT๋ฅผ ์ ์ฉํ ๋์ ๊ณ ์ ํ ์ํ์ด ํ์ธ๋์๋ค: EOS(์ข ๋ฃ) ํ ํฐ ํ๋ฅ ์ด ๋ฎ์์ ธ ๋ฐ๋ณต ๋ฃจํ๊ฐ ๋ฐ์ํ๋ฉฐ, reasoning chain์ด ํ๋ฉด์ ํค์๋์ ์์กดํ์ฌ ๊ต์ฐจ ์ค์ผ์ด ์ผ์ด๋๋ค. ์ถฉ๋ถํ ๋ฐ์ดํฐ(3,000๊ฐ ์ด์)์ ๋ค์ํ ํ๋ ์ด๋ฐ, ๊ทธ๋ฆฌ๊ณ ๋ฐ๋ณต ์ต์ ํจํด์ ํ์ต ์์ด๋ ์ ํจํ ๊ฐ์ ์ผ๋ก ์ด์ด์ง๊ธฐ ์ด๋ ต๋ค.
6.4 ๋ฐฉ๋ฒ๋ก ์ ์ค๋ฅ์ ์ํฅ๊ณผ ์ฌ๋ฐ ๋ฐฉ์ง
์ด๊ธฐ ๋น๊ต ์คํ์์ ๋ ๋ชจ๋ธ์ ์๋ต์ LLM ์ฑ์ ์ ์ญ์์ผ๋ก ์ ๋ ฅํ๋ ์ค๋ฅ๊ฐ ๋ฐ์ํ๋ค. ์ด๋ก ์ธํด ์ค์ ๋ก๋ ์ด์์ธ FT ๋ชจ๋ธ์ด ์ฐ์๋ก ์ฑ์ ๋์์ผ๋ฉฐ, FT ๋ชจ๋ธ ์ฐ์๋ผ๋ ์๋ชป๋ ๊ฒฐ๋ก ์ด ๊ณตํ๋์๋ค. ํฅํ ์คํ์์๋ ์๋๋ฅผ ์๋ฌดํํ๋ค:
- ๋ชจ๋ธ ํ๊ทธ๋ฅผ ์๋ต ๋ก๊ทธ์ ๊ธฐ๊ณ์ ์ผ๋ก ๊ธฐ๋ก
- ์ฑ์ ์ ๋ชจ๋ธ-์๋ต ๋งคํ ์ด์ค ๊ฒ์ฆ
- ๋์ผ ์ง๋ฌธ์ /๋์ผ ์ปจํ ์คํธ/๋์ผ ํ๋ผ๋ฏธํฐ ์ ์ง
- ์๋ณธ ์๋ตยท์ฑ์ ์๋ฌธ ์์นด์ด๋ธ ๋ณด๊ด
7. ๊ฒฐ๋ก
7.1 ๊ฐ์ค ๊ฒ์ฆ ๊ฒฐ๊ณผ
๊ฐ์ค H1 ๊ธฐ๊ฐ: ํ์ฌ ์คํ ์กฐ๊ฑด์์ QLoRA ํ์ธํ๋๋ 8B ๋ชจ๋ธ์ ์์ 14B ๋ชจ๋ธ์ ๋ฅ๊ฐํ์ง ๋ชปํ๋ค.
์ต์ ๊ฒฐ๊ณผ(FT-8B Q8/CoT) ๊ธฐ์ค์ผ๋ก๋ **Non-FT 8B/14B ๋๋น 30%p ๋ฎ์ ์ฑ๋ฅ(60% vs 90%)**์ด ์ธก์ ๋์์ผ๋ฉฐ, ์์ฑ ์์ ์ฑ ๋ฉด์์๋ ์ด์๋ฅผ ๋ณด์๋ค. ํ์ฌ์ ์คํ ์ค๊ณ(์๊ท๋ชจ ๋จ์ QnA ๋ฐ์ดํฐ์ + ๋ค์ ์ํฌํฌ)๋ก๋ RAG ๊ธฐ๋ฐ ์์คํ ์์ ํ์ธํ๋์ ํตํ ๊ฒฝ๋ํ ์ ๋ต์ด ์ ํจํ์ง ์์์ด ํ์ธ๋์๋ค.
7.2 ์ ํจํ ๋ฐ๊ฒฌ ์์ฝ
| ๊ตฌ๋ถ | ๋ฐ๊ฒฌ ๋ด์ฉ |
|---|---|
| ์ฃผ์ ๋ถ์ ์ ๋ฐ๊ฒฌ | RAG ๊ธฐ๋ฐ ์์คํ ์์ ์๊ท๋ชจ QLoRA ํ์ธํ๋์ ๋ชจ๋ธ์ RAG ํ์ฉ ๋ฅ๋ ฅ์ ์ ํ์ํฌ ์ ์๋ค |
| ์ฃผ์ ๊ธ์ ์ ๋ฐ๊ฒฌ | ๋๋ฉ์ธ QnA ๋ฐ์ดํฐ์ ์ RAG ๋ฒกํฐ DB์ ํจ๊ป ์๋ฒ ๋ฉํ๋ฉด ์๋ต ํ์ง์ด ํฅ์๋๋ค |
| ์ ํ์ FT ๊ฐ์น | CoT ํ์ธํ๋์ ๊ณ ๋๋ ๋ฒ์ ํด์ ์ง๋ฌธ์์ ์์ ๋ชจ๋ธ์ด ํ๋ฆฐ ๊ฒฝ์ฐ ๋ ์ ํํ ์ ์๋ค |
| ๋ฐฉ๋ฒ๋ก ๊ตํ | ์๊ท๋ชจ ๋ฐ์ดํฐ์ + ๋ค์ ์ํฌํฌ์ ํ์ธํ๋์ ์ง๋ฌธ ํ๋ ์ด๋ฐ ๋ณํ์ ์ทจ์ฝํ ๊ณผ์ ํฉ์ ์ ๋ฐํ๋ค |
7.3 ์ค์ฉ์ ๊ถ๊ณ
์ ํ์ฑ ์ฐ์ ์๋๋ฆฌ์ค (๋ฒ๋ น ํด์, ์๋ฌธ ๋ฑ):
1์์: Non-FT 8B + ๋๋ฉ์ธ QnA ์๋ฒ ๋ฉ RAG (90%, ~6 GB VRAM, ๋น์ฉ ์ต์ )
2์์: Non-FT 14B + ๋๋ฉ์ธ QnA ์๋ฒ ๋ฉ RAG (90%, ~12 GB VRAM, ๋ต๋ณ ์์ธํจ)
๋น๊ถ์ฅ: FT-8B Q8/CoT (60%, ์์ฑ ๋ถ์์ )
โ ๏ธ ๋ณธ ๋ชจ๋ธ(v3)์ ์์จ์ฃผํ ์์คํ ์ ์ค์ ํ๋จ ๋ก์ง, ๋ฒ๋ฅ ์๋ฌธ, ๋๋ ์์ ํฌ๋ฆฌํฐ์ปฌ ์ฉ๋๋ก ์ฌ์ฉํ๋ ๊ฒ์ ๊ถ๊ณ ํ์ง ์๋๋ค. ๋ณธ ์คํ์ ์ฐ๊ตฌยทํ์ต ๋ชฉ์ ์ ํ์์ ์คํ์ด๋ฉฐ ๋ฐฐํฌ ์ค๋น๋ ์์คํ ์ด ์๋๋ค.
7.4 ํฅํ ์ฐ๊ตฌ ๋ฐฉํฅ
ํ์ฌ ๊ฐ์ค์ด ๊ธฐ๊ฐ๋์๋๋ผ๋ ์๋์ ์กฐ๊ฑด ํ์์๋ ์ฌ๊ฒ์ฆ ๊ฐ์น๊ฐ ์๋ค:
| ์ฐ์ ์์ | ๊ฐ์ ๋ฐฉํฅ | ๊ทผ๊ฑฐ |
|---|---|---|
| 1 | RAG-Aware ํ์ธํ๋: ํ์ต ๋ฐ์ดํฐ์ RAG ๊ฒ์ ๊ฒฐ๊ณผ๋ฅผ ์ปจํ ์คํธ๋ก ํฌํจ | FT๊ฐ RAG๋ฅผ ๋ฌด์ํ๋ ๊ทผ๋ณธ ์์ธ ํด์ |
| 2 | ์ง๋ฌธ ํ๋ ์ด๋ฐ ๋ค์ํ: ๋์ผ ์ง๋ฌธ์ ๊ธ์ ํ/๋ถ์ ํ/์กฐ๊ฑดํ์ผ๋ก 3๋ฐฐ์ ์์ฑ | ํ ํ๋ฆฟ ๊ณผ์ ํฉ ๋ฐฉ์ง |
| 3 | ์ํฌํฌ ์ถ์ + ํ์ต๋ฅ ๊ฐ์ (5โ2์ํฌํฌ, 2e-4โ5e-5) | ๊ณผ์ ํฉ ์ต์ |
| 4 | ๋ฐ์ดํฐ์ ๊ท๋ชจ ํ๋ (750โ3,000+๊ฐ) | ์ผ๋ฐํ ๋ฅ๋ ฅ ํฅ์ |
| 5 | ๋ฐ๋ณต ์ต์ ํ์ต ๋ฐ์ดํฐ ํฌํจ | CoT์ ๋ฐ๋ณต ๋ฃจํ ๋ฐฉ์ง |
8. ์๋ ค์ง ํ๊ณ
| ํ๊ณ | ์ค๋ช |
|---|---|
| ํ๊ฐ ๊ท๋ชจ | 15๊ฐ ์ง๋ฌธ์ผ๋ก ํ๊ฐ โ ํต๊ณ์ ์ ์์ฑ ํ๋ณด๋ฅผ ์ํด 100๊ฐ ์ด์์ ๋ค์ํ ์ง๋ฌธ์ ํ์ |
| ๋จ์ผ ๋๋ฉ์ธ | ์์จ์ฃผํ ๋ฒ๋ น์ผ๋ก ํ์ โ ํ ๋๋ฉ์ธ์์ ์ผ๋ฐํ ๋ถ๊ฐ |
| ํ๋์จ์ด ์ ์ฝ | ๋จ์ผ RTX 3080 Ti 12GB์์ ์คํ โ ๋ ํฐ ๋ฐฐ์น/ํ์ต๋ฅ ํ์ ์ ํ |
| RAG ์ค๊ณ ๋ถ๋ฆฌ ๋ถ๊ฐ | QnA ์๋ฒ ๋ฉ ํจ๊ณผ๋ฅผ ํ์ธํ๋ ํจ๊ณผ์ ์์ ํ ๋ถ๋ฆฌํ ๋์กฐ ์คํ ๋ฏธ์ํ |
| ๋จ์ผ ๋ฒ ์ด์ค ๋ชจ๋ธ | dnotitia/Smoothie-Qwen3-8B๋ง ์ฌ์ฉ โ ํ 8B ๋ชจ๋ธ๋ก์ ์ผ๋ฐํ ๋ถ๋ช |
| ์ฑ์ ์ ์์กด | LLM ์ฑ์ ์ ์์กด โ ์ธ๊ฐ ์ ๋ฌธ๊ฐ(๋ฒ๋ฅ ๊ฐ) ๊ต์ฐจ ์ฑ์ ๋ฏธ์ํ |
๋ชจ๋ธ ์ ๋ณด
| ํญ๋ชฉ | ๋ด์ฉ |
|---|---|
| ๋ฒ ์ด์ค ๋ชจ๋ธ | dnotitia/Smoothie-Qwen3-8B |
| ํ์ธํ๋ ๋ฐฉ๋ฒ | QLoRA (r=16, alpha=32, 5 ์ํฌํฌ) |
| ํ์ต ๋ฐ์ดํฐ | ์์จ์ฃผํ์๋์ฐจ ๊ด๋ จ ๋ฒ๋ น QnA 750์ (DTRO ์คํ์ผ) |
| ์ธ์ด | ํ๊ตญ์ด |
| ๋ผ์ด์ ์ค | Apache 2.0 |
| ์คํ ๋ชฉ์ | ์ฐ๊ตฌยทํ์์ ์คํ (๋ฐฐํฌ์ฉ ์๋) |
๐ ๊ด๋ จ ๋ฆฌ์์ค
| ๋ฆฌ์์ค | ๋งํฌ |
|---|---|
| ์คํ์ฉ RAG ์ฑ๋ด (GitHub) | Legal_RAG_Chatbot_Qdrant_BGE โ Qdrant DB ์ฌ์ ๊ตฌ์ถ ํฌํจ, ์ฆ์ ์คํ ๊ฐ๋ฅ |
| ํ์ต ๋ฐ์ดํฐ์ v3 (DTRO) | HuggingFace Datasets |
| ํ์ต ๋ฐ์ดํฐ์ v5 (CoT) | HuggingFace Datasets |
๋ณธ ๋ณด๊ณ ์๋ 2026-02-24 ์ฌ๊ฒํ ๊ธฐ์ค์ผ๋ก ์์ฑ๋์์ผ๋ฉฐ, ์ด๊ธฐ README(2026-02-21)์ ๊ฒฐ๊ณผ ๋ ์ด๋ธ ์ค๋ฅ๋ฅผ ํฌํจํ ๋ชจ๋ ์ค๋ฅ๋ฅผ ์ ๋ฉด ์์ ํ ์ต์ข ํ์ ๋๋ค.
- Downloads last month
- 30