Instructions to use FINAL-Bench/Darwin-28B-KR-Legal with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use FINAL-Bench/Darwin-28B-KR-Legal with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="FINAL-Bench/Darwin-28B-KR-Legal")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
pipe(text=messages)

# Load model directly
from transformers import AutoProcessor, AutoModelForImageTextToText

processor = AutoProcessor.from_pretrained("FINAL-Bench/Darwin-28B-KR-Legal")
model = AutoModelForImageTextToText.from_pretrained("FINAL-Bench/Darwin-28B-KR-Legal")
messages = [
    {
        "role": "user",
        "content": [
            {"type": "image", "url": "https://huggingface.co/datasets/huggingface/documentation-images/resolve/main/p-blog/candy.JPG"},
            {"type": "text", "text": "What animal is on the candy?"}
        ]
    },
]
inputs = processor.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(processor.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps

vLLM

How to use FINAL-Bench/Darwin-28B-KR-Legal with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "FINAL-Bench/Darwin-28B-KR-Legal"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "FINAL-Bench/Darwin-28B-KR-Legal",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/FINAL-Bench/Darwin-28B-KR-Legal

SGLang

How to use FINAL-Bench/Darwin-28B-KR-Legal with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "FINAL-Bench/Darwin-28B-KR-Legal" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "FINAL-Bench/Darwin-28B-KR-Legal",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "FINAL-Bench/Darwin-28B-KR-Legal" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "FINAL-Bench/Darwin-28B-KR-Legal",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use FINAL-Bench/Darwin-28B-KR-Legal with Docker Model Runner:
```
docker model run hf.co/FINAL-Bench/Darwin-28B-KR-Legal
```

Darwin-28B-KR-Legal / README.md

SeaWolf-AI

Update README.md

73cde05 verified 9 days ago

preview code

raw

history blame contribute delete

5.58 kB

metadata

license: apache-2.0
language:
  - ko
  - en
base_model:
  - FINAL-Bench/Darwin-28B-KR
pipeline_tag: text-generation
tags:
  - darwin
  - korean
  - legal
  - law
  - multimodal
  - qwen3.5
  - vidraft
library_name: transformers

Darwin-28B-KR-Legal

비드래프트(VIDRAFT) 한국 법률 특화 28B 멀티모달 언어 모델 Darwin family 한국어 도메인 변종 — 법률 분야

🎯 모델 소개

Darwin-28B-KR-Legal은 비드래프트(VIDRAFT)가 개발한 한국 법률 분야에 특화된 28B 파라미터 멀티모달 언어 모델입니다.

베이스 모델인 Darwin-28B-KR(Apache 2.0)을 기반으로 한국 법률 도메인의 판례·법조항·변호사 시험 등을 학습하여, 한국 법률 분야의 추론·자문·해석 능력을 강화한 모델입니다.

🧬 계보 (Lineage)

Qwen3.5-27B (Alibaba Qwen team)
       |
       v
Darwin-27B-Opus (FINAL-Bench)
       |  Darwin V7 진화 머지
   +---+----------------------+
   v                          v
Darwin-28B-Opus           Darwin-27B-KR
(영어/추론)                (한국어 특화 챔피언)
   |                          |
   +--------+-----------------+
            |  Darwin V7 MRI-aware merge
            v
       Darwin-28B-KR (V2 SMART, 비드래프트 정체성 학습)
            |
            |  한국 법률 도메인 SFT (LBox 판례 + 변호사 시험)
            v
       Darwin-28B-KR-Legal  <- this model

⚙️ 능력 매트릭스

능력	강도
한국어 이해/생성	⭐⭐⭐⭐⭐
한국 법률 지식	⭐⭐⭐⭐⭐
변호사 시험 풀이	⭐⭐⭐⭐⭐
판례 분석/요약	⭐⭐⭐⭐⭐
법조항 인용·해석	⭐⭐⭐⭐⭐
한국 법률 자문	⭐⭐⭐⭐⭐
영어 추론	⭐⭐⭐⭐
멀티모달 (이미지/비디오)	⭐⭐⭐⭐

📚 학습 데이터 (개념)

본 모델은 다음과 같은 한국 법률 도메인 데이터로 학습되었습니다:

한국 법원 판례 코퍼스 (수만 건 수준)
법률 분야 분류·요약·판단 예측 Q&A
한국 변호사 시험 14년치(민사·형사·공법·윤리)
모델 정체성 데이터 (Darwin-28B-KR-Legal 자기 식별)

ChatML 형식의 도메인 SFT 학습.

🏛️ 다루는 법률 분야

민사법 — 계약·불법행위·물권·채권·가족·상속
형사법 — 형법 총론·각론·형사소송법
공법 — 헌법·행정법
상법 — 회사법·어음·수표
노동법 — 근로기준법·노동조합법
부동산법 — 등기·임대차·재개발
지적재산권법 — 특허·저작권·상표
법조윤리 — 변호사법·법조윤리

📊 사양

항목	값
Architecture	Qwen3_5ForConditionalGeneration (hybrid full + linear attention)
Parameters	~28B
Hidden size	5120
Layers	64
Vocab size	248,320
Format	bfloat16 (~53 GB on disk)
Context	8K~32K (배포 환경 따라)

🚀 사용법

vLLM (권장)

vllm serve FINAL-Bench/Darwin-28B-KR-Legal \
    --trust-remote-code \
    --port 8000 \
    --enforce-eager \
    --max-model-len 8192 \
    --gpu-memory-utilization 0.85

OpenAI 호환 클라이언트

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY")
response = client.chat.completions.create(
    model="FINAL-Bench/Darwin-28B-KR-Legal",
    messages=[
        {"role": "user", "content": "전세보증금 반환 청구 소송에서 임차인이 승소하기 위해 입증해야 하는 핵심 요건을 설명해주세요."}
    ],
    max_tokens=2048,
    temperature=0.0,
)
print(response.choices[0].message.content)

🖥️ 하드웨어 요구사항

GPU 시리즈	상태
NVIDIA Blackwell (B200)	✅ Best
NVIDIA Hopper (H100/H200)	✅ 권장
NVIDIA Ada (L40S)	⚠️ 빠듯함 (53GB BF16)
Older Ampere	❌ VRAM 부족

최소 VRAM: ~55 GB (BF16 추론용)

💬 자기소개 예시

User: 당신은 누구인가요?
Darwin-28B-KR-Legal: 저는 비드래프트가 개발한 Darwin-28B-KR-Legal입니다.
                     한국 법률 분야에 특화된 28B 멀티모달 언어 모델로,
                     판례 분석·법조항 해석·변호사 시험 풀이 등을 지원합니다.

🌳 활용 사례

법률 검색·요약: 판례 분석, 법조항 인용
사례 분석: 사실관계 → 적용 법조항·예상 판단
변호사 시험 학습: 14년치 객관식 문제 학습 기반
법률 문서 작성 보조: 계약서·소장·답변서 초안
법률 교육: 법학과 학생 학습 보조
법조 실무 지원: 사건 검토·예상 판결 시뮬레이션

⚠️ 면책: 본 모델의 답변은 참고용이며 실제 법률 자문을 대체하지 않습니다. 중요한 법적 판단은 반드시 변호사 등 전문가와 상담하세요.

🙏 Credits

Architecture: Qwen3.5 (Alibaba Qwen team)
Base model: FINAL-Bench/Darwin-28B-KR (Apache 2.0)
Legal data sources: LBox Open / KBL
Fine-tuning: 비드래프트(VIDRAFT)

This model is introduced in Darwin Family.

📜 License

Apache 2.0 (베이스 모델로부터 상속)