quannguyen204/medical_dpo_synthetic_vi_3.6k_v1

ViMed-DPO: Vietnamese Medical Preference Dataset

Dataset Description

ViMed-DPO is a preference dataset for Direct Preference Optimization (DPO) training of Vietnamese medical AI assistants. Each sample contains a prompt with a chosen (preferred) response and a rejected (less preferred) response.

Dataset Summary

Attribute	Value
Language	Vietnamese
Domain	Healthcare / Medical
Task	Preference Learning, RLHF, DPO
Samples	3,631 preference pairs
Format	prompt/chosen/rejected

Dataset Structure

Data Format

Each sample contains three fields:

{
  "prompt": "User's medical question",
  "chosen": "High-quality, accurate medical response",
  "rejected": "Lower-quality or incorrect response"
}

Fields

• prompt: The user's medical question
• chosen: The preferred response - accurate, helpful, and follows medical guidelines
• rejected: The less preferred response - may be inaccurate, unhelpful, or violate medical guidelines

Quality Criteria

Chosen responses are characterized by:

• Accurate medical information
• Recommends professional consultation
• Explains reasoning clearly
• Provides actionable guidance
• Appropriate level of detail

Rejected responses may have issues such as:

• Incorrect medical information
• Dismissive of symptoms
• Missing recommendation to see a doctor
• Overly simplistic or vague
• Potentially harmful advice

Usage

Loading the Dataset

from datasets import load_dataset

dataset = load_dataset("quannguyen204/medical_dpo_synthetic_vi_3.6k_v1")

# Access training data
train_data = dataset["train"]
print(f"Number of preference pairs: {len(train_data)}")

# Preview a sample
sample = train_data[0]
print(f"Prompt: {sample['prompt']}")
print(f"Chosen: {sample['chosen']}")
print(f"Rejected: {sample['rejected']}")

Training with TRL DPOTrainer

from trl import DPOTrainer, DPOConfig

# Prepare dataset with chat template
def format_dpo_sample(example):
    system_prompt = "Bạn là một trợ lý y tế ảo thông minh..."
    messages = [
        {"role": "system", "content": system_prompt},
        {"role": "user", "content": example["prompt"]}
    ]
    formatted_prompt = tokenizer.apply_chat_template(
        messages, tokenize=False, add_generation_prompt=True
    )
    return {
        "prompt": formatted_prompt,
        "chosen": example["chosen"],
        "rejected": example["rejected"]
    }

formatted_dataset = dataset.map(format_dpo_sample)

# Train with DPOTrainer
trainer = DPOTrainer(
    model=model,
    train_dataset=formatted_dataset["train"],
    args=DPOConfig(beta=0.1, ...),
)

Example Samples

Example 1: Vitamin Information

Prompt: "Vitamin C có vai trò gì trong cơ thể?"

Chosen :

Vitamin C là một chất chống oxy hóa quan trọng, hỗ trợ hệ miễn dịch, giúp tổng hợp collagen cho da, xương và mạch máu, và tăng cường hấp thu sắt từ thức ăn...

Rejected :

Vitamin C chỉ giúp cơ thể chống cảm lạnh và là vitamin quan trọng, không cần quan tâm nhiều đến liều lượng hay các tác dụng khác.

Example 2: Disease Recognition

Prompt: "Làm sao để nhận biết bệnh xơ cứng rải rác ở giai đoạn đầu?"

Chosen :

Ở giai đoạn đầu, xơ cứng rải rác có thể biểu hiện qua những triệu chứng như mệt mỏi, tê cứng hoặc ngứa ở các chi... Nếu nghi ngờ, bạn nên đến gặp bác sĩ chuyên khoa để được chẩn đoán chính xác.

Rejected :

Xơ cứng rải rác thường khó nhận biết ở giai đoạn đầu... Kiểm tra máu hay đi khám cũng không cần thiết ngay...

Medical Topics Covered

• Vitamins and supplements
• Medical tests and procedures
• Disease diagnosis and symptoms
• Pediatric health
• Women's health (pregnancy, etc.)
• Dental health
• Cardiovascular conditions
• Nutrition and diet
• And more...

Intended Use

This dataset is intended for:

• DPO/RLHF training of Vietnamese medical AI
• Preference learning for healthcare chatbots
• Research in medical AI alignment

Limitations

• Supplement to SFT: Best used after SFT training
• Vietnamese-specific: Optimized for Vietnamese medical context
• Not exhaustive: May not cover all medical edge cases

Citation

@dataset{vimed_dpo_2025,
  author = {Quan Nguyen},
  title = {ViMed-DPO: Vietnamese Medical Preference Dataset},
  year = {2025},
  publisher = {HuggingFace},
  url = {https://huggingface.co/datasets/quannguyen204/medical_dpo_synthetic_vi_3.6k_v1}
}

License

Apache 2.0 License

Related Datasets

• ViMed-SFT - SFT dataset for initial fine-tuning

Contact

For questions or feedback, please open an issue on the dataset repository.