Smoothie-Qwen3-4B-Original (Private)
์์ Qwen3-4B ๋ฒ ์ด์ค ๋ชจ๋ธ - ํ์ธํ๋ ๋น๊ต์ฉ
Baseline model for fine-tuning comparison
๐ด ์ด ๋ชจ๋ธ์ Private ๋ ํฌ์งํ ๋ฆฌ์
๋๋ค.
ํ์ธํ๋ ํจ๊ณผ ๋น๊ต๋ฅผ ์ํ ๋ฒ ์ด์ค๋ผ์ธ ๋ชจ๋ธ์
๋๋ค.
๐ ๋ชจ๋ธ ๊ฐ์
๊ธฐ๋ณธ ์ ๋ณด
- ๋ฒ ์ด์ค ๋ชจ๋ธ: dnotitia/Smoothie-Qwen3-4B
- ํ์ธํ๋: ์์ (์์ ๋ฒ ์ด์ค ๋ชจ๋ธ)
- ๋ชจ๋ธ ํฌ๊ธฐ: ์ฝ 2.4GB (Q4_K_M ์์ํ)
- ์ฉ๋: ํ์ธํ๋ ๋ชจ๋ธ๊ณผ์ ์ฑ๋ฅ ๋น๊ต
๐ฏ ๋ชฉ์
์ด ๋ชจ๋ธ์ ํ์ธํ๋ ์ /ํ ๋น๊ต๋ฅผ ์ํ ๋ฒ ์ด์ค๋ผ์ธ์ ๋๋ค.
๋น๊ต ๋์:
- bluejude10/Smoothie-Qwen3-4B-DTRO-Edition (ํ์ธํ๋ ๋ชจ๋ธ)
๐ ์ฌ์ฉ ๋ฐฉ๋ฒ
1. Ollama ์ฌ์ฉ (๊ถ์ฅ)
Modelfile:
FROM ./Smoothie-Qwen3-4B-Original-Q4_K_M.gguf
PARAMETER temperature 0.7
PARAMETER top_p 0.8
PARAMETER repeat_penalty 1.1
PARAMETER num_ctx 8192
SYSTEM """๋น์ ์ ์น์ ํ๊ณ ์ ๋ฅํ AI ์ด์์คํดํธ์
๋๋ค."""
์คํ:
ollama create my-original-4b -f Modelfile
ollama run my-original-4b "์๋
ํ์ธ์!"
2. Python (Transformers)
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
"dnotitia/Smoothie-Qwen3-4B", # ์๋ณธ ๋ชจ๋ธ
device_map="auto",
torch_dtype="auto",
trust_remote_code=True
)
tokenizer = AutoTokenizer.from_pretrained(
"dnotitia/Smoothie-Qwen3-4B",
trust_remote_code=True
)
๐ ๋น๊ต ๋ชฉ์
| ๋ชจ๋ธ | ํ์ธํ๋ | ์ ๋ฌธ ์ง์ | ์ฉ๋ |
|---|---|---|---|
| Original | ์์ | ์ผ๋ฐ | ๋ฒ ์ด์ค๋ผ์ธ |
| DTRO-Edition | QLoRA (r=4) | ์ ๋ ฅ์ค๋น | ์ค๋ฌด ์ ์ฉ |
๐ ๋ ํฌ์งํ ๋ฆฌ ๊ตฌ์ฑ
.
โโโ README.md
โโโ Modelfile
โโโ Smoothie-Qwen3-4B-Original-Q4_K_M.gguf
๐ ๋ณด์ ๋ฐ ๋น๊ณต๊ฐ ์ ์ฑ
์ด ๋ชจ๋ธ์ Private ๋ ํฌ์งํ ๋ฆฌ๋ก ์ ์ง๋ฉ๋๋ค:
- ํ์ธํ๋ ๋ชจ๋ธ ๋น๊ต๋ฅผ ์ํ ๋ด๋ถ ์ฐธ์กฐ์ฉ
- ๊ณต๊ฐ ๋ฐฐํฌ ๋ชฉ์ ์์
๐ ๋ผ์ด์ ์ค
- ๋ชจ๋ธ: Apache 2.0 (Base Model ๋ผ์ด์ ์ค ์น๊ณ)
๐ค ์์ฑ์
- ์์ฑ์: ๊ฐ๋์ฐ (bluejude10)
- ์ฉ๋: ํ์ธํ๋ ํจ๊ณผ ๊ฒ์ฆ์ฉ ๋ฒ ์ด์ค๋ผ์ธ
๐ ์ฐธ๊ณ ์๋ฃ
๊ด๋ จ ๋ชจ๋ธ
- dnotitia/Smoothie-Qwen3-4B (์๋ณธ)
- bluejude10/Smoothie-Qwen3-4B-DTRO-Edition (ํ์ธํ๋ ๋ฒ์ )
โ ๏ธ ์ฃผ์์ฌํญ: ์ด ๋ชจ๋ธ์ ๋น๊ต ๋ชฉ์ ์ ์์ ๋ฒ ์ด์ค ๋ชจ๋ธ์ด๋ฉฐ, ์ ๋ฌธ ์ง์์ด ์์ต๋๋ค. ์ค๋ฌด ์ฉ๋๋ก๋ ํ์ธํ๋ ๋ฒ์ ์ ์ฌ์ฉํ์ญ์์ค.
- Downloads last month
- -
Hardware compatibility
Log In to add your hardware
4-bit