Instructions to use FINAL-Bench/Darwin-28B-KR-Legal with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use FINAL-Bench/Darwin-28B-KR-Legal with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="FINAL-Bench/Darwin-28B-KR-Legal")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
pipe(text=messages)

# Load model directly
from transformers import AutoProcessor, AutoModelForImageTextToText

processor = AutoProcessor.from_pretrained("FINAL-Bench/Darwin-28B-KR-Legal")
model = AutoModelForImageTextToText.from_pretrained("FINAL-Bench/Darwin-28B-KR-Legal")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
inputs = processor.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps

vLLM

How to use FINAL-Bench/Darwin-28B-KR-Legal with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "FINAL-Bench/Darwin-28B-KR-Legal"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "FINAL-Bench/Darwin-28B-KR-Legal",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/FINAL-Bench/Darwin-28B-KR-Legal

SGLang

How to use FINAL-Bench/Darwin-28B-KR-Legal with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "FINAL-Bench/Darwin-28B-KR-Legal" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "FINAL-Bench/Darwin-28B-KR-Legal",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "FINAL-Bench/Darwin-28B-KR-Legal" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "FINAL-Bench/Darwin-28B-KR-Legal",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use FINAL-Bench/Darwin-28B-KR-Legal with Docker Model Runner:
```
docker model run hf.co/FINAL-Bench/Darwin-28B-KR-Legal
```

Darwin-28B-KR-Legal / README.md

SeaWolf-AI

Update README.md

73cde05 verified 9 days ago

preview code

raw

history blame contribute delete

5.58 kB

	---
	license: apache-2.0
	language:
	- ko
	- en
	base_model:
	- FINAL-Bench/Darwin-28B-KR
	pipeline_tag: text-generation
	tags:
	- darwin
	- korean
	- legal
	- law
	- multimodal
	- qwen3.5
	- vidraft
	library_name: transformers
	---

	# Darwin-28B-KR-Legal

	> 비드래프트(VIDRAFT) 한국 법률 특화 28B 멀티모달 언어 모델
	> Darwin family 한국어 도메인 변종 — 법률 분야

	---

	## 🎯 모델 소개

	Darwin-28B-KR-Legal은 비드래프트(VIDRAFT)가 개발한 한국 법률 분야에 특화된 28B 파라미터 멀티모달 언어 모델입니다.

	베이스 모델인 Darwin-28B-KR(Apache 2.0)을 기반으로 한국 법률 도메인의 판례·법조항·변호사 시험 등을 학습하여, 한국 법률 분야의 추론·자문·해석 능력을 강화한 모델입니다.

	---

	## 🧬 계보 (Lineage)

	```
	Qwen3.5-27B (Alibaba Qwen team)
	\|
	v
	Darwin-27B-Opus (FINAL-Bench)
	\| Darwin V7 진화 머지
	+---+----------------------+
	v v
	Darwin-28B-Opus Darwin-27B-KR
	(영어/추론) (한국어 특화 챔피언)
	\| \|
	+--------+-----------------+
	\| Darwin V7 MRI-aware merge
	v
	Darwin-28B-KR (V2 SMART, 비드래프트 정체성 학습)
	\|
	\| 한국 법률 도메인 SFT (LBox 판례 + 변호사 시험)
	v
	Darwin-28B-KR-Legal <- this model
	```

	---

	## ⚙️ 능력 매트릭스

	\| 능력 \| 강도 \|
	\|---\|---\|
	\| 한국어 이해/생성 \| ⭐⭐⭐⭐⭐ \|
	\| 한국 법률 지식 \| ⭐⭐⭐⭐⭐ \|
	\| 변호사 시험 풀이 \| ⭐⭐⭐⭐⭐ \|
	\| 판례 분석/요약 \| ⭐⭐⭐⭐⭐ \|
	\| 법조항 인용·해석 \| ⭐⭐⭐⭐⭐ \|
	\| 한국 법률 자문 \| ⭐⭐⭐⭐⭐ \|
	\| 영어 추론 \| ⭐⭐⭐⭐ \|
	\| 멀티모달 (이미지/비디오) \| ⭐⭐⭐⭐ \|

	---

	## 📚 학습 데이터 (개념)

	본 모델은 다음과 같은 한국 법률 도메인 데이터로 학습되었습니다:

	- 한국 법원 판례 코퍼스 (수만 건 수준)
	- 법률 분야 분류·요약·판단 예측 Q&A
	- 한국 변호사 시험 14년치(민사·형사·공법·윤리)
	- 모델 정체성 데이터 (Darwin-28B-KR-Legal 자기 식별)

	ChatML 형식의 도메인 SFT 학습.

	---

	## 🏛️ 다루는 법률 분야

	- 민사법 — 계약·불법행위·물권·채권·가족·상속
	- 형사법 — 형법 총론·각론·형사소송법
	- 공법 — 헌법·행정법
	- 상법 — 회사법·어음·수표
	- 노동법 — 근로기준법·노동조합법
	- 부동산법 — 등기·임대차·재개발
	- 지적재산권법 — 특허·저작권·상표
	- 법조윤리 — 변호사법·법조윤리

	---

	## 📊 사양

	\| 항목 \| 값 \|
	\|---\|---\|
	\| Architecture \| Qwen3_5ForConditionalGeneration (hybrid full + linear attention) \|
	\| Parameters \| ~28B \|
	\| Hidden size \| 5120 \|
	\| Layers \| 64 \|
	\| Vocab size \| 248,320 \|
	\| Format \| bfloat16 (~53 GB on disk) \|
	\| Context \| 8K~32K (배포 환경 따라) \|

	---

	## 🚀 사용법

	### vLLM (권장)

	```bash
	vllm serve FINAL-Bench/Darwin-28B-KR-Legal \
	--trust-remote-code \
	--port 8000 \
	--enforce-eager \
	--max-model-len 8192 \
	--gpu-memory-utilization 0.85
	```

	### OpenAI 호환 클라이언트

	```python
	from openai import OpenAI

	client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY")
	response = client.chat.completions.create(
	model="FINAL-Bench/Darwin-28B-KR-Legal",
	messages=[
	{"role": "user", "content": "전세보증금 반환 청구 소송에서 임차인이 승소하기 위해 입증해야 하는 핵심 요건을 설명해주세요."}
	],
	max_tokens=2048,
	temperature=0.0,
	)
	print(response.choices[0].message.content)
	```

	---

	## 🖥️ 하드웨어 요구사항

	\| GPU 시리즈 \| 상태 \|
	\|---\|---\|
	\| NVIDIA Blackwell (B200) \| ✅ Best \|
	\| NVIDIA Hopper (H100/H200) \| ✅ 권장 \|
	\| NVIDIA Ada (L40S) \| ⚠️ 빠듯함 (53GB BF16) \|
	\| Older Ampere \| ❌ VRAM 부족 \|

	최소 VRAM: ~55 GB (BF16 추론용)

	---

	## 💬 자기소개 예시

	```
	User: 당신은 누구인가요?
	Darwin-28B-KR-Legal: 저는 비드래프트가 개발한 Darwin-28B-KR-Legal입니다.
	한국 법률 분야에 특화된 28B 멀티모달 언어 모델로,
	판례 분석·법조항 해석·변호사 시험 풀이 등을 지원합니다.
	```

	---

	## 🌳 활용 사례

	- 법률 검색·요약: 판례 분석, 법조항 인용
	- 사례 분석: 사실관계 → 적용 법조항·예상 판단
	- 변호사 시험 학습: 14년치 객관식 문제 학습 기반
	- 법률 문서 작성 보조: 계약서·소장·답변서 초안
	- 법률 교육: 법학과 학생 학습 보조
	- 법조 실무 지원: 사건 검토·예상 판결 시뮬레이션

	⚠️ 면책: 본 모델의 답변은 참고용이며 실제 법률 자문을 대체하지 않습니다. 중요한 법적 판단은 반드시 변호사 등 전문가와 상담하세요.

	---

	## 🙏 Credits

	- Architecture: Qwen3.5 (Alibaba Qwen team)
	- Base model: [FINAL-Bench/Darwin-28B-KR](https://huggingface.co/FINAL-Bench/Darwin-28B-KR) (Apache 2.0)
	- Legal data sources: [LBox Open](https://huggingface.co/datasets/lbox/lbox_open) / [KBL](https://huggingface.co/datasets/lbox/kbl)
	- Fine-tuning: 비드래프트(VIDRAFT)

	---

	This model is introduced in [Darwin Family](https://arxiv.org/abs/2605.14386).

	## 📜 License

	Apache 2.0 (베이스 모델로부터 상속)