--- license: apache-2.0 language: - en - ko base_model: - FINAL-Bench/Darwin-28B-Opus - FINAL-Bench/Darwin-27B-KR pipeline_tag: text-generation tags: - darwin - korean - reasoning - multimodal - qwen3.5 - evolutionary-merge library_name: transformers --- # Darwin-28B-KR > **Darwin family 한국어 특화 2세대 모체 모델** > 28B 영어 추론력과 27B 한국어 능력을 통합한 Darwin V7 진화 머지 결과물. ## 🎯 모델 포지셔닝 Darwin-28B-KR은 Darwin family에서 **한국어 특화 2세대 모델 개발의 모체(母體)** 로 설계되었습니다. 이 모델 자체로 사용 가능하며, 향후 다양한 한국어 도메인 특화 모델(법률·의료·금융·학술 등)의 **공통 출발점**이 됩니다. ## 🧬 Lineage ``` Qwen3.5-27B (Alibaba Qwen team) │ ▼ Darwin-27B-Opus (FINAL-Bench) │ Darwin V7 evolutionary merge │ ┌───┴────────────────────────┐ ▼ ▼ Darwin-28B-Opus Darwin-27B-KR (English/reasoning (Korean-specialized + multimodal) champion) │ │ └────────┬───────────────────┘ │ Darwin V7 MRI-aware merge ▼ Darwin-28B-KR ← this model (2nd-gen mother) ``` ## ⚙️ 구성 능력 | 능력 | 출처 | 강도 | |---|---|---| | 한국어 이해/생성 | Darwin-27B-KR 계열 | ⭐⭐⭐⭐⭐ | | 영어 추론 | Darwin-28B-Opus 계열 | ⭐⭐⭐⭐ | | 멀티모달 (이미지/비디오) | Darwin-28B-Opus 보존 | ⭐⭐⭐⭐ | | 한국어 추론 (CSAT/PSAT) | 통합 효과 | ⭐⭐⭐⭐⭐ | | 영한 코드스위칭 | 통합 효과 | ⭐⭐⭐⭐ | ## 📊 Specs | | | |---|---| | Architecture | Qwen3_5ForConditionalGeneration (hybrid full + linear attention) | | Parameters | ~28B | | Hidden size | 5120 | | Layers | 64 | | Vocab size | 248,320 | | Format | bfloat16 (52 GB on disk) | | Context | 8K~32K (deployment dependent) | ## 🚀 Usage ### vLLM (recommended) ```bash vllm serve FINAL-Bench/Darwin-28B-KR \ --trust-remote-code \ --port 8000 \ --enforce-eager \ --max-model-len 8192 \ --gpu-memory-utilization 0.85 ``` ### OpenAI-compatible client ```python from openai import OpenAI client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY") response = client.chat.completions.create( model="FINAL-Bench/Darwin-28B-KR", messages=[{"role": "user", "content": "한국의 광복절은 무엇을 기념하는 날인가요?"}], max_tokens=2048, temperature=0.0, ) ``` ## 🖥️ Hardware | GPU family | Status | |---|---| | NVIDIA Blackwell (B200) | ✅ Best | | NVIDIA Hopper (H100/H200) | ✅ Recommended | | NVIDIA Ada (L40S) | ⚠️ Marginal (52 GB BF16) | | Older Ampere | ❌ Insufficient VRAM | **Minimum VRAM**: ~55 GB for inference at BF16. ## 🌳 2세대 도메인 특화 모델 개발 (예정) 이 모체에서 파생될 예정인 한국어 특화 변종들: - **Darwin-28B-KR-Legal** — 법률 도메인 SFT - **Darwin-28B-KR-Medical** — 의료 도메인 SFT - **Darwin-28B-KR-Finance** — 금융 도메인 SFT - **Darwin-28B-KR-Code** — 한국어 주석 코드 생성 - **Darwin-28B-KR-MFP4** — 메모리 효율 양자화 버전 각 변종은 이 모델을 base로 하여 도메인 데이터로 미세조정/머지됩니다. ## 🙏 Credits - Architecture lineage: Qwen3.5 (Alibaba Qwen team) - Father: [FINAL-Bench/Darwin-28B-Opus](https://huggingface.co/FINAL-Bench/Darwin-28B-Opus) - Mother: [FINAL-Bench/Darwin-27B-KR](https://huggingface.co/FINAL-Bench/Darwin-27B-KR) - Merge methodology: Darwin V7 MRI-aware evolutionary merge ## 📜 License Apache 2.0 (inherited from base models).