---
dataset_info:
  features:
  - name: index
    dtype: int64
  - name: image
    dtype: image
  - name: image_path
    dtype: string
  - name: question
    dtype: string
  - name: answer
    dtype: string
  splits:
  - name: test
    num_bytes: 204206564
    num_examples: 2055
  download_size: 193374166
  dataset_size: 204206564
configs:
- config_name: default
  data_files:
  - split: test
    path: data/test-*
---

## KMMR-VisMath 
**Evaluation toolkit**   
[![GitHub](https://img.shields.io/badge/GitHub-Repo-181717?logo=github)](https://github.com/TutorusResearch/VLMEvalkit.git)

- **구성**: 수학 문제 해결에 필요한 핵심 정보(가격, 수량, 측정값 등)가 이미지로 제시되고, 이를 활용하여 풀어야 하는 한국어 질의문 및 단계별 추론 과정으로 구성.
- **데이터 수량**: 복합추론 데이터 167개, 단순추론 데이터 1,888개
- **특징**: 이미지 내 시각정보를 정확히 인식하고 질의문에서 요구하는 수학적 연산을 수행해야 답변 가능한 복합 추론 문제
- **목적**: 시각-언어 모델의 시각 정보 추출 능력, 한국어 이해 능력, 수학적 추론 능력을 통합적으로 평가하기 위한 벤치마크 데이터셋

## Evaluation Results
| Scale | Model | Complex | Simple | overall |
| :--- | :--- | :---: | :---: | :---: |
| **2B ~ 3B** | Qwen2-VL-2B | 1.19 | 6.99 | 6.52 |
| | Qwen2.5-VL-3B | 5.98 | **47.56** | **44.2** |
| | InternVL3-2B | **7.18** | 28.44 | 26.74 |
| | InternVL3.5-2B | 6.58 | 34.85 | 32.57 |
| **7B ~ 8B** | Qwen2-VL-7B | 9.58 | 61.54 | 57.32 |
| | Qwen2.5-VL-7B | 16.16 | 71.34 | 66.87 |
| | InternVL3-8B | 8.98 | 47.19 | 44.09 |
| | InternVL3.5-8B | 13.77 | 61.86 | 57.96 |
| | InternVL3.5-8B (Fast Thinking) | 16.76 | **74.25** | 69.59 |
| | InternVL3.5-8B (Long Thinking) | **43.71** | 70.07 | **67.93** |
| **11B ~ 14B** | Llama-Vision-11B | 2.4 | 7.73 | 7.3 |
| | Gemma3-12B | 7.18 | 41.04 | 38.28 |
| | InternVL3-14B | 22.15 | 68.85 | 65.07 |
| | InternVL3.5-14B | 20.35 | 66.84 | 63.09 |
| | InternVL3.5-14B (Fast thinking) | 29.94 | 77.17 | 73.34 |
| | InternVL3.5-14B (Long thinking) | **40.71** | **79.87** | **76.69** |
| **Commercial** | Gemini2.5-Flash | **65.26** | **87.71** | **85.87** |
| | GPT-4.1 | 31.73 | 61.12 | 58.75 |

## Acknowledgements
본 데이터셋은 2023년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임
(과제번호: RS-2023-00216011, 사람처럼 개념적으로 이해/추론이 가능한 복합인공지능 원천기술 연구)

This work was supported by Institute of Information & Communications Technology Planning & Evaluation (IITP) grant funded by the Korea government (MSIT)
(RS-2023-00216011, Development of artificial complex intelligence for conceptually understanding and inferring like human)