KoGemopus-4-26B-A4B-v2

KoGemopus-4-26B-A4B-v2 — Gemma4-26B-A4B 기반 한국어 SFT 모델

모델 정보

항목	내용
Base Model	google/gemma-4-26B-A4B-it
학습 방법	LoRA SFT (Unsloth + TRL)
프레임워크	transformers, peft
라이센스	Apache 2.0

사용법

from transformers import AutoModelForCausalLM, AutoTokenizer

model = AutoModelForCausalLM.from_pretrained("jiwon9703/KoGemopus-4-26B-A4B-v2")
tokenizer = AutoTokenizer.from_pretrained("jiwon9703/KoGemopus-4-26B-A4B-v2")

vLLM 서빙

vllm serve jiwon9703/KoGemopus-4-26B-A4B-v2 --max-model-len 8192 --reasoning-parser gemma4