Polygl0t/bengali-edu-qwen-annotations

Annotations for the Bengali-Edu classifier 📚

Dataset Summary

This dataset contains the annotations used for training an educational classifier (Polygl0t/bengali-banglabert-edu-classifier). These annotations were generated by Qwen/Qwen2.5-32B-Instruct.

Supported Tasks and Leaderboards

This dataset can be used for the task of text classification, specifically for educational quality assessment in Bengali text.

Languages

Bengali.

Dataset Structure

Data Instances

• id: a unique identifier for each sample (md5 hash).
• text: a string of text in Bengali.
• source: the source where that string originated.
• subset: a short string indicating the name of the subset (referring to the original dataset or crawl).
• score: the score assigned by Qwen/Qwen2.5-32B-Instruct.

Data Fields

{
  "text": "বাংলা ভাষা বিশ্বের ষষ্ঠ বৃহত্তম ভাষা। এটি প্রধানত বাংলাদেশ এবং ভারতের পশ্চিমবঙ্গ রাজ্যে প্রচলিত। বাংলা ভাষার সমৃদ্ধ সাহিত্য ও সংস্কৃতি রয়েছে।",
  "source": "https://data.commoncrawl.org/crawl-data/CC-MAIN-2025-30/index.html",
  "subset": "CC-MAIN-2025-30",
  "id": "a1b2c3d4e5f67890123456789abcdef",
  "score": 4
}

Subsets and Splits

This dataset contains a single split: train, which includes all 320,000 samples.

from datasets import load_dataset

# Load the main dataset
ds = load_dataset("Polygl0t/bengali-edu-qwen-annotations", split="train")

# If you don't want to download the entire dataset, set streaming to `True`
ds = load_dataset("Polygl0t/bengali-edu-qwen-annotations", split="train", streaming=True)

Dataset Creation

Source Data

All data was sourced from Polygl0t/gigakriya-v1. The id field corresponds to the md5 hash of the text.

Annotations

The dataset was created to provide high-quality educational annotations for Bengali text, leveraging the capabilities of Qwen2.5 to generate consistent and scalable annotations.

The score distribution of this dataset is the following:

Edu Score	N samples
1	120333
2	136788
3	48484
4	14382
5	13

Annotation Process

The initial annotation was performed on a random sample of 320,000 documents from Polygl0t/gigakriya-v1, where we tried to sample equally from all the subsets that form this corpus. In terms of infrastructure, we used 4 x NVIDIA A100-SXM4-80GB GPUs and the vLLM library as our inference engine with 4-fold tensor parallelism.

Below is the prompt used for annotation:

আপনি বাংলা ভাষার একটি টেক্সট মান মূল্যায়নকারী। আপনার কাজ হল একটি নির্দিষ্ট টেক্সট নমুনা কতটুকু তথ্যপূর্ণ এবং শিক্ষামূলক, তা ১ থেকে ৫ পর্যন্ত স্কেলে মূল্যায়ন করা। আপনাকে অবশ্যই আপনার স্কোরটি JSON ফরম্যাটে আউটপুট দিতে হবে।

### মূল্যায়ন মানদণ্ড:

-   যদি টেক্সটটি তথ্যপূর্ণ বা শিক্ষামূলক না হয় তবে ১ দিন। এছাড়া, যদি টেক্সটটি অতিরিক্ত সহজ, ছোট, ভুলভাবে ফরম্যাট করা, অসংলগ্ন, বা NSFW বিষয়বস্তু ধারণ করে, তবে ১ দিন।
-   যদি টেক্সটটি কিছুটা তথ্যপূর্ণ তবে শিক্ষামূলক মান নেই, তবে ২ দিন দিন। উদাহরণস্বরূপ, এটি শিক্ষামূলক বিষয়বস্তু মিশ্রিত করতে পারে যা শিক্ষামূলক নয়, সম্ভাব্যভাবে উপকারী বিষয়গুলির সার্বিক রিভিউ প্রদান করতে পারে।
-   যদি টেক্সটটি তথ্যপূর্ণ এবং শিক্ষামূলক ব্যবহারের জন্য উপযুক্ত হয় এবং স্কুল পাঠক্রমের জন্য প্রাসঙ্গিক মূল ধারণা উপস্থাপন করে, তবে ৩ দিন দিন। উদাহরণস্বরূপ, যদি টেক্সটটি একটি বৈজ্ঞানিক বিষয়বস্তু নিয়ে একটি ভাল লেখা নিবন্ধ হয়, তবে এটি সম্ভবত পূর্ণাঙ্গ না হতে পারে অথবা কিছু অপ্রাসঙ্গিক তথ্য থাকতে পারে, অতিরিক্ত জটিল বা খুব সহজ হতে পারে।
-   যদি টেক্সটটি শিক্ষামূলক এবং তথ্যপূর্ণ হয়, এবং একটি প্রাথমিক বিদ্যালয় বা গ্রেড স্কুল স্তরের জন্য অত্যন্ত প্রাসঙ্গিক এবং উপকারী হয়, তবে ৪ দিন দিন। উদাহরণস্বরূপ, এটি একটি পাঠ্যপুস্তক থেকে একটি অধ্যায়ের মতো হতে পারে বা একটি টিউটোরিয়ালের মতো হতে পারে, যা ব্যাপক শিক্ষামূলক বিষয়বস্তু অফার করে, অনুশীলন এবং সমাধান সহ, এবং সর্বনিম্ন অপ্রাসঙ্গিক তথ্য থাকে।
-   যদি টেক্সটটি অত্যন্ত শিক্ষামূলক এবং তথ্যপূর্ণ হয়, তবে ৫ দিন দিন। ৫ স্কোরের জন্য, টেক্সটটি তার শিক্ষামূলক মানে অসাধারণ হতে হবে, যা প্রাথমিক বিদ্যালয় বা গ্রেড স্কুলে পড়ানোর জন্য সম্পূর্ণ উপযুক্ত। এটি বিস্তারিত যুক্তি অনুসরণ করে, লেখার ধরন সহজভাবে অনুসরণযোগ্য এবং বিষয়বস্তুর গভীর এবং পূর্ণাঙ্গ অন্তর্দৃষ্টি প্রদান করে।
    

### আউটপুট প্রয়োজনীয়তা:

-   আপনার আউটপুট একটি বৈধ JSON অবজেক্ট হতে হবে।
-   JSON-এ কেবল একটি কী-মূল্য জোড়া থাকতে হবে।
-   কীটি 'score' হতে হবে।
-   মূল্যটি ১ এবং ৫ এর মধ্যে একটি পূর্ণসংখ্যা হতে হবে।
-   মূল্যটি উপরের মানদণ্ডের একটি সত্যিকারের প্রতিফলন হতে হবে।

### আউটপুট উদাহরণ:

{'score': 2}

নিশ্চিত করুন যে আপনার প্রতিক্রিয়া এই ফরম্যাটটি কঠোরভাবে অনুসরণ করে এবং প্রদত্ত মানদণ্ডের ভিত্তিতে টেক্সটটি সঠিকভাবে মূল্যায়ন করুন।

এখানে একটি ওয়েব পৃষ্ঠার অংশ দেওয়া হল। মূল্যায়ন করুন যে পৃষ্ঠাটি উচ্চ শিক্ষামূলক মূল্য রাখে এবং এটি প্রাথমিক বিদ্যালয় থেকে গ্রেড স্কুলের স্তরের শিক্ষা দেওয়ার জন্য উপকারী হতে পারে কিনা। নমুনাটি ১ থেকে ৫ এর মধ্যে স্কোর করুন। আপনার স্কোরটি কতটুকু তথ্যপূর্ণ এবং শিক্ষামূলক তা প্রতিফলিত করে। টেক্সটটি বাংলা ভাষায় প্রদান করা হবে।

টেক্সট: <<মূল্যায়ন করতে হবে এমন টেক্সট>>

আপনার স্কোর একটি পূর্ণসংখ্যা হিসেবে ১ থেকে ৫ এর মধ্যে প্রদান করুন। শুধুমাত্র JSON ফরম্যাটে উত্তর দিন।

Considerations for Using the Data

Social Impact of Dataset

The dataset aims to provide a valuable resource for understanding and improving educational content in Bengali text. By offering high-quality annotations, it can help researchers and developers create more effective educational tools, promote better learning outcomes, and contribute to the broader field of NLP for low-resource languages.

Additional Information

Dataset Maintainers

• Shiza Fatimah.
• Nicholas Kluge Corrêa.
• Aniket Sen.

Licensing Information

The dataset is licensed under the Apache-2.0 License.

Citation Information

@misc{fatimah2026liltii,
  title={{LilTii: A 0.6B Bengali Language Model that Outperforms Qwen}},
  author={Shiza Fatimah and Aniket Sen and Sophia Falk and Florian Mai and Lucie Flek and Nicholas Kluge Corr{\^e}a},
  year={2026},
  howpublished={\url{https://hf.co/blog/Polygl0t/liltii}}
}

Acknowledgments

Polyglot is a project funded by the Federal Ministry of Education and Research (BMBF) and the Ministry of Culture and Science of the State of North Rhine-Westphalia (MWK) as part of TRA Sustainable Futures (University of Bonn) and the Excellence Strategy of the federal and state governments.

We also gratefully acknowledge the granted access to the Marvin cluster hosted by University of Bonn along with the support provided by its High Performance Computing & Analytics Lab.

Contributions

If you want to contribute, contact us at polyglot@uni-bonn.de!