eland-legal-ie-zh-vllm

台灣法律判決書資訊抽取模型 - vLLM 部署版本

Model Description

本模型為 LoRA adapter 與基礎模型合併後的完整模型,適用於:

  • vLLM 高效能推論
  • 生產環境部署
  • API 服務

Quick Start with vLLM

# 啟動 vLLM server
vllm serve p988744/eland-legal-ie-zh-vllm --port 8000

# 或使用 Docker
docker run --gpus all -p 8000:8000 \
    vllm/vllm-openai:latest \
    --model p988744/eland-legal-ie-zh-vllm

API 呼叫

from openai import OpenAI

client = OpenAI(base_url="http://localhost:8000/v1", api_key="dummy")

system_prompt = """你是一位專業的法律文件資訊抽取專家。請從給定的法律判決書中抽取結構化資訊。"""

judgment_text = """臺灣臺北地方法院民事判決
112年度訴字第1234號
原告:王小明
被告:ABC公司
..."""

response = client.chat.completions.create(
    model="p988744/eland-legal-ie-zh-vllm",
    messages=[
        {"role": "system", "content": system_prompt},
        {"role": "user", "content": f"請從以下判決書中抽取結構化資訊:\n\n{judgment_text}"}
    ],
    temperature=0.1,
    max_tokens=2048
)

print(response.choices[0].message.content)

Performance

NER 準確率

實體類型 F1 Score
PARTY 88.0%
COURT 100.0%
JUDGE 100.0%
LAWYER 80.0%
CASE_NUMBER 76.9%
LAW_ARTICLE 100.0%
CHARGE 75.0%

推論效能 (A100-40GB)

Metric Value
Throughput ~50 tokens/s
Latency (first token) ~100ms
Max context 8192 tokens

System Prompt (Recommended)

你是一位專業的法律文件資訊抽取專家。請從給定的法律判決書中抽取結構化資訊。

## 抽取規則

### 1. 實體類型 (Entities)
- PARTY: 當事人(原告、被告、上訴人等),需標註 role
- COURT: 法院名稱
- JUDGE: 法官
- LAWYER: 律師/訴訟代理人
- CASE_NUMBER: 案號
- DATE: 日期,需包含 normalized 格式和 purpose
- MONEY: 金額,需包含 value 和 currency
- LAW_ARTICLE: 法條引用
- CHARGE: 案由/罪名
- EVIDENCE: 證據

### 2. 事件類型 (Events)
- Filing: 起訴事件
- Verdict: 判決事件
- Appeal: 上訴事件
- Crime: 犯罪事件
- Breach: 違約事件

請以 JSON 格式輸出,entities 和 events 必須是陣列格式。

Output Format

{
  "case_number": "112年度訴字第1234號",
  "court": "臺灣臺北地方法院",
  "case_type": "民事",
  "charge": "損害賠償",
  "entities": [
    {"type": "PARTY", "name": "王小明", "role": "原告"},
    {"type": "COURT", "name": "臺灣臺北地方法院"}
  ],
  "events": [
    {"type": "Verdict", "trigger": "判決"}
  ],
  "summary": {
    "verdict_result": "原告勝訴",
    "award_amount": 1000000,
    "legal_basis": ["民法第184條"]
  }
}

Related Models

License

Apache 2.0

Downloads last month
2
Safetensors
Model size
4B params
Tensor type
BF16
·
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support