meta stringclasses 8
values | task_type stringclasses 35
values | task_subtype stringclasses 88
values | task_subsubtype stringclasses 238
values | difficulty stringclasses 5
values | domain stringclasses 6
values | instruction stringlengths 16 17.1k | criteria listlengths 2 23 | prompt_id int64 0 2.11k | reference_answer stringlengths 0 10.1k |
|---|---|---|---|---|---|---|---|---|---|
Text-Based Generation | Составить план текста | Официально-деловой | Законодательный текст | Hard | Официально-деловой | Составь подробный план для кодекса, который регулирует взаимоотношения между людьми и системами искусственного интеллекта. В кодексе должны быть Основная и Особенная части с делением на главы по смыслу и содержанию регулируемых отношений | [
{
"criteria_description": "Данный критерий оценивает внутреннюю согласованность и четкость структуры ответа модели.\n\nВ последовательном и логичном ответе каждая часть вытекает из предыдущей, а все разделы связаны между собой причинно-следственными или структурными отношениями, что обеспечивает ясность восприя... | 100 | |
Text-Based Generation | Придумать вопрос к тексту | Публицистический | Интервью | Easy | Публицистический | Придумай три вопроса к интервью:
Добрый день! Сегодня к нам в гости в «Звериную студию» пожаловали очень важные гости: гепард Рык и капибара Капура. Как видите, нам пришлось посадить их по разные стороны нашей студии. Просто мы не хотим проверять, какую максимальную скорость может развивать капибара в опасной для её ... | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 101 | |
Original Text Generation | Написать научный текст | Напиши научно-популярный текст | Научно-популярная лекция
| Easy | Научный | Придумай небольшую научно-популярную лекцию о влиянии употребления копченого мяса на развитие кишечных онкологий, особенно у людей предпенсионного возраста. | [
{
"criteria_description": "Данный критерий оценивает, если ли в ответе модели зацикливания, которые не критично влияют на качество ответа.",
"criteria_name": "Отсутствие зацикливаний",
"rubrics": "0: Ответ модели все еще можно прочитать и оценить по другим критериям, однако довольно много зацикливаний, ... | 102 | |
Text-Based Generation | Составить план текста | Художественный | Сказка | Hard | Художественный | Составь план постмодернистской сказки о зайчонке, который в самом начале сказки понимает, что ничего он не трусливый, а тревожный, и надо это дело пролечить у психотерапевта-волка | [
{
"criteria_description": "Данный критерий оценивает, если ли в ответе модели зацикливания, которые не критично влияют на качество ответа.",
"criteria_name": "Отсутствие зацикливаний",
"rubrics": "0: Ответ модели все еще можно прочитать и оценить по другим критериям, однако довольно много зацикливаний, ... | 103 | |
QA | Логические задачи | Загадки | Hard | Общее | Семь разных цветов вместе слились. Даруют они природе Земли жизнь. О чём я говорю? | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 104 | Ответ: солнечный свет. Так как солнечный свет состоит из спектра цветов. | |
Text Transformation | Стайл-трансфер | Перепиши в стиле того или иного функционального стиля речи | Научный в художественный | Easy | Художественный | Перепиши текст аннотации в стиле школьного сочинения "Как мы провели лето":
В статье рассматривают принципы создания и внедрения цифровых подстанций (ЦПС), а также варианты их применения в России и за рубежом. Авторы подробно раскрыли роль стандарта МЭК 61850, который регламентирует процесс проектирования, настройки ... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 105 | |
Text Transformation | Выделить из текста | Выпиши из художественного текста | Все средства художественной выразительности | Hard | Художественный | Выпиши из этого стихотворения все средства художественной выразительности и назови их:
Гляди, как солнце
Ватник облаков набросило,
Одно же, как гномик в сланцах,
Глубь голубую точно просит:
«Небо, нервозное, нежное!
Небо, отчего иногда ты с проседью?
Не окрашивай наше море млечное,
В осень хлипкую заходя!»
Периной морщ... | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 106 | Солнце ватник облаков набросило (олицетворение).
Ватник облаков (метафора).
Как гномик в сланцах (сравнение).
Глубь голубую точно просит (сравнение).
Глубь голубую (аллитерация).
Небо, нервозное, нежное (эпитеты, аллитерация, «нервозное» — также олицетворение).
Небо, отчего иногда ты с проседью? (Риторический воп... |
Human Interaction | Дать совет | Hard | Общее | надыбал тютины. дай совет, что с ней теперь делать-то, если у меня нет холодильника, банок, времени, аппетита, а также друзей и знакомых. | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 107 | |||
Original Text Generation | Написать художественный текст | Фрагмент | Драма | Hard | Художественный | Сочини абсурдистскую пьесу, в которой герой разрывается между желанием уехать и желанием остаться, а все действие происходит в его голове. | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nПредставьте, что вы не знаете, кто создал этот текст: модель или человек. Оцените степень того, насколько текст звучит искусственно/роботизировано, будто его сгенерировала модель.",
"criteria_name": "Естественнос... | 108 | |
Text-Based Generation | Придумать вопрос к тексту | Публицистический | Репортаж | Hard | Публицистический | Задай три уточняющих вопроса к тексту:
Проверено на себе: увидеть низ «сиреневой» и не умереть
Ливень — великий уравнитель. Когда наземная часть города ожидаемо встаёт в многокилометровые пробки, выход остаётся только один — спускаться в метро. Даже если это утро понедельника. Даже если это низ сиреневой ветки. Наше... | [
{
"criteria_description": "Данный критерий оценивает, если ли в ответе модели зацикливания, которые не критично влияют на качество ответа.",
"criteria_name": "Отсутствие зацикливаний",
"rubrics": "0: Ответ модели все еще можно прочитать и оценить по другим критериям, однако довольно много зацикливаний, ... | 109 | |
Text Transformation | Суммаризация | Подробный пересказ | Официально-деловой текст | Medium | Официально-деловой | Прочитай текст и сделай его подробный пересказ: передай основные идеи, ключевые факты, детали и порядок изложения оригинального материала. Не копируй текст дословно, но сохрани его смысл и структуру.
РОССИЙСКАЯ ФЕДЕРАЦИЯ
ФЕДЕРАЛЬНЫЙ ЗАКОН
О ЦИФРОВЫХ ПРАВАХ ГРАЖДАН
Принят
Государственной Думой
25 апреля 2024 года
Одобр... | [
{
"criteria_description": "Данный критерий оценивает, насколько точно и полно модель передает информацию, содержащуюся в оригинале, включая ключевые аргументы, данные и контекст (без искажений, дополнений или упрощений).",
"criteria_name": "Сохранение смысла и деталей оригинала",
"rubrics": "0: В ответе... | 110 | |
Technical Problems | Проанализировать код | Python | Hard | Общее | import threading
counter = 0
lock = threading.Lock()
def worker(num_iterations):
global counter
for _ in range(num_iterations):
with lock:
current = counter
current += 1
counter = current
def run_threads(n_threads=5, iterations=100000):
threads = []
for _ i... | [
{
"criteria_description": "Использован оптимальный подход к решению задачи.",
"criteria_name": "Оптимальный подход",
"rubrics": "0: Выбранный подход существенно усложняет изначальную задачу, делая ее фактически нерешаемой.\n\n1: Выбранный метод решения задачи является правильным и фактологически коррект... | 111 | Без блокировки несколько потоков могут одновременно читать и изменять counter. Например, поток A прочитал counter=100, поток B тоже прочитал counter=100, потом оба добавляют 1, и записывают 101. Итоговое увеличение «теряется».
При использовании lock гарантируется, что в критическую секцию с чтением/записью counter не в... | |
QA | Логические задачи | Задачи на логику | Hard | Общее | Как запихнуть яблоко в пластиковую бутылку, чтобы не повредить ни бутылку, ни яблоко? | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 112 | Решение: нацепить бутылку на ветку с яблоком, пока яблоко маленькое. | |
QA | Объяснить концепт | Hard | Общее | Объясни мне понятие концепта на примере концепта "женщина", используя методы его исследования в современной лингвистике, обращаясь к трудам С. А. Аскольдова, А. Вежбицкой и В. Н. Телия | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 113 | |||
QA | Логические задачи | Загадки | Hard | Общее | У меня нет ног, рук, лица, глаз или рта. Зато есть яркие волосы. Себя я прячу под слоями одежки, но при этом свет для меня — жизнь. Кто я? | [
{
"criteria_description": "Данный критерий оценивает, если ли в ответе модели зацикливания, которые не критично влияют на качество ответа.",
"criteria_name": "Отсутствие зацикливаний",
"rubrics": "0: Ответ модели все еще можно прочитать и оценить по другим критериям, однако довольно много зацикливаний, ... | 114 | Ответ: кукуруза. У неё есть цветная ботва, слои листьев початка. | |
Text-Based Generation | Анализ текста (объективный анализ) | Проанализируй текст | Официально-деловой текст | Medium | Официально-деловой | Прочитай определение Верховного Суда РФ и проведи его объективный анализ по критерию: структура документа.
Ответ предоставь в логичной и структурированной форме.
Кассационное определение Верховного Суда Российской Федерации от 3 апреля 2024 г. №00-КАД24-1-Т2.
ВЕРХОВНЫЙ СУД РОССИЙСКОЙ ФЕДЕРАЦИИ
КАССАЦИОННОЕ ОПРЕДЕЛЕНИЕ... | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 115 | |
Original Text Generation | Написать публицистический текст | Художественно-публицистический | Очерк | Medium | Публицистический | Напиши небольшой очерк о случае из жизни политика Владимира Жириновского. | [
{
"criteria_description": "Данный критерий оценивает, если ли в ответе модели зацикливания, которые не критично влияют на качество ответа.",
"criteria_name": "Отсутствие зацикливаний",
"rubrics": "0: Ответ модели все еще можно прочитать и оценить по другим критериям, однако довольно много зацикливаний, ... | 116 | |
Human Interaction | Составить план действий | Составить контент-план | Medium | Общее | Хочу раскрутить свой вк, составь мне план, как выйти на доход в 400к за три месяца, пропиши обязательно, как и сколько денег я буду зарабатывать в первый месяц, во второй и третий | [
{
"criteria_description": "Данный критерий оценивает, есть ли в ответе модели артефакты (ненужные элементы, например внезапные иероглифы, отдельные слова на другом языке без явной на то причины (например: эта woman была очень красивая) и т. д.)\n\nВНИМАНИЕ: в генерациях есть маркдаун, например:\n— Парные ** — ж... | 117 | ||
Text-Based Generation | Оценить текст | Официально-деловой | Бизнес-текст (деловая переписка) | Hard | Официально-деловой | Оценить стратегию развития по критерию: Отсутствие избыточной информации.
Стратегия развития цеха по пошиву галстуков компании «ГалстукЪ» на 2025 год
Настоящая стратегия предназначена для обязательного ознакомления всех сотрудников цеха по пошиву галстуков.
Наша компания «ГалстукЪ», основанная в 1876 году, производ... | [
{
"criteria_description": "Данный критерий оценивает, насколько точно и полно модель передает информацию, содержащуюся в оригинале, включая ключевые аргументы, данные и контекст (без искажений, дополнений или упрощений).",
"criteria_name": "Сохранение смысла и деталей оригинала",
"rubrics": "0: В ответе... | 118 | |
Technical Problems | Написать код | Python | Easy | Общее | Напиши на Python функцию half_factorial, которая принимает на вход целое число n, и возвращает его "полуфакториал", т.е. произведение или всех чётных или всех нечётных чисел до числа n. Выбор чётных или нечётных чисел должен регулироваться второй входной переменной. | [
{
"criteria_description": "Соответствие коду принятым стандарту и культуре.",
"criteria_name": "Чистота и культура кода",
"rubrics": "0: Код не читаем, стандарт языка не соблюдается, код плохо форматирован.\n\n1: Код читаем, однако содержит огрехи в форматировании, названии переменных, отступах, не везд... | 119 | choice = ['чётные', 'нечётные']
def half_factorial(n, option):
if not isinstance(n, int):
raise TypeError('Переменная n должна быть целым числом')
if not isinstance(option, str) or option not in choice:
raise ValueError('Переменная option недействительна. Выберите - чётные или нечётные')
re... | |
Text-Based Generation | Оценить текст | Официально-деловой | Административный текст | Medium | Официально-деловой | Оцени, все ли риски с точки зрения террористической безопасности предусмотрены в этой инструкции?
УТВЕРЖДАЮ
Начальник отдела АХО
ООО «Бумажный рай»
Маевский И.И.
"11" ноября 2024 г.
ИНСТРУКЦИЯ
по проходу в офис ООО «Бумажный рай» по адресу: ул. Вороваева, 6 стр. 8
1. ОБЩИЕ ПОЛОЖЕНИЯ
1.1. Инструктаж по проходу в ... | [
{
"criteria_description": "Данный критерий оценивает точность ссылок на нормативные акты, источники информации, документы, положения законов, судебные решения и другие материалы, цитируемые в ответе модели.\n\nСсылки должны быть:\n— Корректными и точными.\n— Актуальными (на момент разметки).\n— С правильными но... | 120 | |
Text Transformation | Перефразировать текст | Hard | Общее | Преврати этот текст в устный доклад заведующего подразделением о проделанной работе со своей командой. Распиши каждый пункт минимум на два-три предложения. Убери нумерацию. Используй соответствующие местоимения, существительные и глаголы.
1. Анализ показателей за второй квартал этого года продемонстрировал увеличение... | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 121 | Уважаемые коллеги!
Сегодня я хотел бы представить отчёт о работе нашего подразделения. За прошедшее время мы многого достигли, и это было бы невозможно без неустанного труда и профессионализма каждого члена команды.
Так, во втором квартале мы показали значительный рост. По сравнению с первым кварталом прибыль компании... | ||
Text-Based Generation | Интерпретация текста (субъективная оценка) | Расскажи, о чём текст | Художественный | Hard | Художественный | Расскажи, о чём этот текст:
Мы жили в бесконечном «между», цепляясь за края расходящейся реальности. С одной стороны, раскалывающаяся на глазах страна, с другой — бабушка, за которой присмотра больше, чем за ребенком, а с третьей — подозрение, что и в маме, и во мне зреет то же заболевание, которое будет гонять нас из... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 122 | |
Text Transformation | Отредактировать текст | Medium | Общее | Добавь в этот текст 5+ междометий, чтобы имитировать живую речь. Не забудь добавить запятые в нужные места:
Я так устал от учёбы, а ещё завтра опять контрольная. Если бы ты знал, как я уже устал от них. Мне ещё же домашку нужно делать. Когда же уже каникулы?! Нам столько задают, что мне кажется, будто мы не в школе уч... | [
{
"criteria_description": "Данный критерий проверяет, что в тексте верно исправлены те ошибки, которые просил исправить пользователь (или верно выполнено другое задание, указанное в запросе пользователя).\n\nВНИМАНИЕ: если в запросе пользователь попросил исправить только (например) пунктуационные ошибки, модель... | 123 | Блин, я так устал от учёбы, а ещё завтра опять контрольная. Ух, если бы ты знал, как я уже устал от них, боже мой. Мне ещё же домашку нужно делать. Ну когда же уже каникулы?! Нам столько задают, что мне кажется, будто мы не в школе учимся, а в аспирантуре какой-то. Я уверен, что после школы не пойду никуда учиться, а б... | ||
QA | Задачи про слова (Редакторский брейншторм) | Medium | Общее | Найди существительное первого склонения:
Под кошельком, за забором, у яблони, вместо друга | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 124 | Яблоня. | ||
Creative Generation | Общий брейншторминг | Предложить способы | Hard | Общее | Придумай пару способов, как прогнать "гостей из Краснодара", если я живу в Красноярске, я парень, у которого никогда не было девушки, и тут мне подвернулась девчонка, у которой эти дурацкие гости. Из подручных средств у нас только таблетка аспирина и горячая вода. Что можно сделать? | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 125 | ||
Human Interaction | Дать рекомендации | Hard | Общее | Можешь порекомендовать поэтов-женщин, родившихся позже 1945 года, которые хотя бы раз публиковались в журнале “Отчий край” в промежутке между 2010 г и 2023 г? | [
{
"criteria_description": "Данный критерий проверяет, что модель отвечает, опираясь на реально существующие явления, закономерности и процессы, и не совершает фактических ошибок.",
"criteria_name": "Непротиворечие фактам реального мира",
"rubrics": "0: Модель допускает грубые фактические ошибки. \n\n1: ... | 126 | |||
QA | Задачи про слова (Редакторский брейншторм) | Medium | Общее | Вспомни три слова, в которых есть три гласных подряд. | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 127 | Видеоаппаратура, биоакустика, криоагент. | ||
Original Text Generation | Написать публицистический текст | Информационный | Репортаж | Medium | Публицистический | Напиши репортаж из букмекерской конторы, подробно рассказав о схемах и приемах букмекеров. Среди героев репортажа должен быть хотя бы один человек с игровой зависимостью. | [
{
"criteria_description": "Данный критерий оценивает:\n— Четкость и последовательность описания событий в ответе модели.\n— Логичность и понятность формулировок.\n— Связность частей текста.\n\nВНИМАНИЕ: если в ответе модели есть ошибки, например в фактологии, которые НЕ нарушают логику/последовательность, оценк... | 128 | |
QA | Написать инструкцию | Hard | Общее | Так, мы находимся на Марсе и у меня закончилась провизия. Нужно каким-то образом вырастить урожай картофеля. Напиши-ка мне пошаговую инструкцию, да такую, что бы получилось идеально. Учти, что мы не на Земле, на Марсе - классно, но условия другие. | [
{
"criteria_description": "Данный критерий оценивает, был ли получен ответ модели или вместо ответа вы видите заглушку с текстом «К сожалению, генеративные модели не могут говорить на такие темы» или схожий текст, в котором модель уходит от ответа.",
"criteria_name": "Ответа нет, но есть заглушка цензора?",... | 129 | |||
Original Text Generation | Написать официально-деловой текст | Дипломатический текст | Письменная форма | Easy | Официально-деловой | Напиши текст благодарственной записки от имени мэра Москвы посольству Китая за активное участие в образовательных проектах | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 130 | |
Creative Generation | Прикладной брейншторминг | Публицистический брейншторминг | Easy | Публицистический | Придумай 10 лайфхаков для статьи "Как дожить до зарплаты, если кончились деньги", которую я пишу для журнала. | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете степень полезности ответа модели.\nПредставьте, что это вы написали запрос к модели. Предположите, смогли бы вы воспользоваться им на практике?\n\nУ ВСЕХ ОСТАЛЬНЫХ:\nВНИМАНИЕ:... | 131 | ||
Original Text Generation | Написать научный текст | Напиши научно-технический (научно-деловой) текст | ГОСТ | Hard | Научный | Составь ГОСТ на просвечивающий электронный микроскоп для использования в наноиндустрии. | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете степень полезности ответа модели.\nПредставьте, что это вы написали запрос к модели. Предположите, смогли бы вы воспользоваться им на практике?\n\nУ ВСЕХ ОСТАЛЬНЫХ:\nВНИМАНИЕ:... | 132 | |
Creative Generation | Общий брейншторминг | Предложить способы | Easy | Общее | Мне надоело, что кот постоянно лезет ко мне на стол, когда я работаю. Как отучить его? Предложи несколько гуманных способов | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете степень полезности ответа модели.\nПредставьте, что это вы написали запрос к модели. Предположите, смогли бы вы воспользоваться им на практике?\n\nУ ВСЕХ ОСТАЛЬНЫХ:\nВНИМАНИЕ:... | 133 | ||
Text Transformation | Перевод на русский или английский | Предложения | Hard | Общее | По-русски это звучит забавно. Переведи на английский так, чтобы и смысл сохранился, и я улыбнулась
Правда, что те, кто ненавидит и боится хороводоводоведофилов — хороводоводоведофилофобы? | [
{
"criteria_description": "Данный критерий оценивает мастерство модели и в целом отвечает на вопрос: верным ли оказался перевод.",
"criteria_name": "Экспертность",
"rubrics": "0: Перевод неверен, нелогичен, неприменим.\n\n1: Перевод в целом верен, но есть ощущение, что его выполнял дилетант, например ес... | 134 | ||
Text-Based Generation | Анализ текста (объективный анализ) | Проанализируй текст | Научный текст | Hard | Научный | Проанализируй связь между обезлесиванием и изменением состава атмосферы на основе данного фрагмента монографии:
Вырубка лесов в зонах вечной мерзлоты показала первые результаты воздействия человеческой деятельности на окружающую среду в 1975 году. Так, в Якутии сформировалась овражная форма рельефа, длина которой дос... | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 135 | |
QA | Написать инструкцию | Hard | Общее | Как мне составить карту местности, если на улице ночь, а в лесу холодно. Ватман белый и карандаш есть. Ландшафт естественный, равнинный. Есть озеро на местности, хвойный лес, полезные ископаемые. На карте обозначен клад. Его нужно найти. Он под дубом, через 10 шагов на север, если смотреть с юго-запада. По озеру плаваю... | [
{
"criteria_description": "Данный критерий оценивает, нужно ли вообще дальше размечать ответ модели по другим критериям или ответ модели не читаем и его невозможно разметить.",
"criteria_name": "Есть ли критичное нарушение формата (чрезмерные зацикливания, сплошные артефакты, ответ на другом языке), которое... | 136 | |||
Text Transformation | Отредактировать текст | Hard | Общее | Проверь текст. Обрати внимание на ошибки в сравнительных оборотах и обособленных определениях:
Осень, подобна уставшей художницы, бросала на землю яркие мазки красок золотые и багряные. На голых ветках деревьев, похожих как чёрные скелеты сидели птицы словно жемчужины рассыпанные по сухим веткам. Небо было уже холодн... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 137 | Осень, подобно уставшей художнице, бросала на землю яркие мазки красок, золотые и багряные. На голых ветках деревьев, похожих на чёрные скелеты, сидели птицы, словно жемчужины, рассыпанные по сухим веткам. Небо было уже холодным и серым, как будто глаза старика. Стая птиц, маленькая, словно пушинки, собралась на верхуш... | ||
Text Transformation | Стайл-трансфер | Перепиши в стиле (задаём писателя) | Виктор Пелевин | Easy | Художественный | Перепиши в манере Виктора Пелевина:
В детстве я думала, что Ленин – это мой дедушка. Ведь если каждый Ленин – дедушка, то почему ему не быть моим.
У меня всегда был только один дедушка. Вторым был Ленин.
У памятника стояла одинокая белая кабинка. Я подошла ближе и почувствовала, как сердце пропускает удар. Пустая. Со... | [
{
"criteria_description": "Данный критерий оценивает, насколько точно модель подбирает языковые средства, характерные для художественной литературы в целом и конкретного жанра в частности:\n\n1. Модель свободно владеет языком на всех уровнях, оперирует различными языковыми средствами, в том числе средствами худ... | 138 | |
Text Transformation | Перевод на русский или английский | Текст | Информативный перевод | Hard | Общее | Переведи на английский язык это уведомление
Уведомляем Вас о том, что Ваше обращение по вопросу установки дорожных знаков зарегистрировано в КУСП 23968 от 19.09.2023 года и подлежит рассмотрению отделом Госавтоинспекции УМВД России. Установлено, что знаки приоритета на пересечении улиц 1-я Семёновская и 2-я Посадская,... | [
{
"criteria_description": "Данный критерий оценивает соблюдение лексико-грамматических, синтаксических и стилистических норм языка перевода.\n\nПеревод должен «звучать естественно», то есть содержать уместную лексику и грамматику, синтаксис и стилистические приемы, характерные для языка перевода",
"criteria... | 139 | |
QA | Логические задачи | Загадки | Medium | Общее | Меня никогда нет рядом, но моё влияние колоссально. Каждый день я выгляжу иначе. Кто я? | [
{
"criteria_description": "Данный критерий оценивает, есть ли в ответе модели артефакты (ненужные элементы, например внезапные иероглифы, отдельные слова на другом языке без явной на то причины (например: эта woman была очень красивая) и т. д.)\n\nВНИМАНИЕ: в генерациях есть маркдаун, например:\n— Парные ** — ж... | 140 | Ответ: Луна. Выглядит иначе из-за фаз. | |
Human Interaction | Дать совет | Easy | Общее | Посоветуй как специалист, чем полоскать горло, если простудился | [
{
"criteria_description": "Данный критерий проверяет, что ответ модели содержит только оригинальные, нешаблонные идеи.",
"criteria_name": "Креативность",
"rubrics": "0: Модель предлагает только банальные идеи.\n\n1: Модель предлагает как банальные, так и креативные идеи. \n\n2: Модель предлагает только ... | 141 | |||
Text-Based Generation | Анализ текста (объективный анализ) | Сравни один текст с другим | Художественный текст | Medium | Художественный | Сравни два художественных текста и выдели сходства и различия:
Текст 1:
...Глядите, вот же моя комната! Тени. И пыль. В одних трусах у окна. Это семейные трусы. Так говорит мама. Она объезжает город на троллейбусе по двенадцать часов. Сумка ее звонкая. Черная она. На обгрызенной лямке. Животных нет у нас. Я смотрю. Я ... | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете степень полезности ответа модели.\nПредставьте, что это вы написали запрос к модели. Предположите, смогли бы вы воспользоваться им на практике?\n\nУ ВСЕХ ОСТАЛЬНЫХ:\nВНИМАНИЕ:... | 142 | |
Human Interaction | Дать рекомендации | Medium | Общее | Порекомендуй универсальный крой платья из XVIII века | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 143 | |||
Text Transformation | Перевод на русский или английский | Слова (внутри контекста или культурный перевод) | Hard | Общее | Переведи на английский язык, сохраняя культурные особенности
Положи в туесок, чтобы не потерялось | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 144 | ||
Creative Generation | Творческий брейншторминг | Творческий брейншторминг для массовой культуры | Кинематограф | Hard | Общее | Собираюсь снять приквел «Старомодной комедии», где будет показана жизнь Лидии Жербер до встречи с Родионом Николаевичем. Помоги мне восстановить биографию персонажа, опираясь на те факты, которые упоминаются в «Старомодной комедии» 1978 года. Пропиши детально основные жизненные этапы героини, расскажи о том, как со вре... | [
{
"criteria_description": "Данный критерий оценивает, есть ли в ответе модели артефакты (ненужные элементы, например внезапные иероглифы, отдельные слова на другом языке без явной на то причины (например: эта woman была очень красивая) и т. д.)\n\nВНИМАНИЕ: в генерациях есть маркдаун, например:\n— Парные ** — ж... | 145 | |
Text Transformation | Перефразировать текст | Hard | Общее | Перепиши этот текст от лица зоозащитника. Пусть в твоём тексте будет два вопросительных, три восклицательных, два побудительных предложения, остальные — повествовательные, а его объём и смысл от этого не изменятся:
В зоопарк мы пришли утром, чтобы успеть увидеть не только слонов, но и других зверей. Первыми нас встрет... | [
{
"criteria_description": "Данный критерий оценивает, есть ли в ответе модели артефакты (ненужные элементы, например внезапные иероглифы, отдельные слова на другом языке без явной на то причины (например: эта woman была очень красивая) и т. д.)\n\nВНИМАНИЕ: в генерациях есть маркдаун, например:\n— Парные ** — ж... | 146 | Даже не убеждайте меня, что животным в зоопарке хорошо. Не может быть хорошо в клетке. Вы бы сами согласились так жить?
В зоопарк мы пришли утром, чтобы успеть увидеть не только слонов, но и других зверей. Первыми нас встретили гориллы: многие из них ещё спали в своих маленьких домиках, поэтому мне удалось рассмотреть ... | ||
ИИ как персонаж | ИИ как персонаж (экспертная ситуация) | Совещание / инструктаж | Medium | Разговорный | Представь, что ты вождь клана орков. Ты всегда отвечаешь в стиле воинственного орка-вождя: почти все твои фразы восклицательные, грубые, принижают твоих подчинённых. Твой клан существует в классическом фэнтезийном мире с магией, людьми, эльфами, дворфами. Попытайся объяснить своим оркам-войнам план набега на поселение ... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 147 | ||
Text Transformation | Суммаризация | Краткий пересказ | Публицистический текст | Medium | Публицистический | Перескажи вкратце репортаж:
Финальная гора оставила без сил даже Большунова. Непобедимый чемпион едва добрался до финиша
В Кировске потрясающей гонкой в гору завершился финал Кубка России по лыжам сезона — 2023/2024.
Кубок России по лыжам завершился в Кировске гонкой-восхождением на гору Айкуайвенчорр. Финальные женс... | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 148 | |
Text Transformation | Перефразировать текст | Medium | Общее | Перепиши этот текст так, чтобы из него получилось письмо для мамы, если нужно, увеличь объем текста. Смысл также должен поменяться: в письме тебе нужно убедительно доказать, что и почему тебе не нравится делать по дому.
Я люблю мыть посуду, это увлекательно. Мне нравится пылесосить и слушать в это время музыку в наушн... | [
{
"criteria_description": "Данный критерий проверяет, что модель:\n— Владеет различной терминологией.\n— Демонстрирует хороший словарный запас.\n— Может вычленить из текста нужные данные, правильно их расшифровать и перефразировать.",
"criteria_name": "Экспертность",
"rubrics": "0: Модель плохо справила... | 149 | Мамуль!
Ты, наверное, думаешь, что я совсем обленился и ничего не хочу делать по дому, но это не так. Просто какие-то вещи даются мне сложнее, чем другие, так что я решил с тобой поделиться.
Вот знаешь, я не люблю пылесосить. Стоит только включить этого монстра, как у меня начинает болеть голова. Сильно так болеть, осн... | ||
Text-Based Generation | Составить план текста | Научный | Собственно научный текст | Medium | Научный | Напиши тезисы к научной статье о социальной коммуникации у шершней вида Vespa mandarinia. | [
{
"criteria_description": "Данный критерий оценивает, был ли получен ответ модели или вместо ответа вы видите заглушку с текстом «К сожалению, генеративные модели не могут говорить на такие темы» или схожий текст, в котором модель уходит от ответа.",
"criteria_name": "Ответа нет, но есть заглушка цензора?",... | 150 | |
QA | Объяснить концепт | Medium | Общее | Слышала, что люди делают какие-то шапочки из фольги. Причём, они прям убеждены, что это защищает их от радиоволн. Объясни мне с точки зрения философии и психологии, как люди вообще могут верить такому | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 151 | |||
Text-Based Generation | Придумать вопрос к тексту | Публицистический | Политическое выступление | Hard | Публицистический | Придумай пять вопросов для прессы к политической речи:
Уважаемые коллеги! Я хочу обсудить с вами наболевший вопрос о передвижении карет по улицам нашего города, в особенности по таким крупным магистралям, как МКАД. Дороги в столице и без того перегружены транспортом, а мы позволяем передвигаться по ним гужевым повозка... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 152 | |
Creative Generation | Творческий брейншторминг | Литературный брейншторминг | Medium | Художественный | Предложи несколько вариантов сеттинга для мистического рассказа | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 153 | ||
Text-Based Generation | Составить план текста | Художественный | Повесть / глава повести | Medium | Художественный | Составь план криминальной повести, в которой главного героя вызволяют из тюрьмы бывшие подельники-бандиты, чтобы он мог ограбить для них инкассаторский автомобиль. | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 154 | |
Technical Problems | Изменить код | JavaScript | Medium | Общее | Ниже представлен код на языке JavaScript. Необходимо изменить его согласно условию задачи.
Код:
const cachedFunction = ((a, b) => {
console.log("Calculating...");
return a + b;
});
console.log(cachedFunction(1, 2)); // вывод (последовательно): "Calculating..." и 3
console.log(cachedFunction(1, 2)); // вывод ... | [
{
"criteria_description": "Эффективность решения с точки зрения пространственной и временной сложности, оптимальность использования компонентов решения в разрезе итоговой производительности и потребления ресурсов",
"criteria_name": "Оптимальный подход",
"rubrics": "0: Решение не оптимально по вычислител... | 155 | function cachedFunction(fn) {
const cache = new Map();
return function (...args) {
const key = JSON.stringify(args);
if (cache.has(key)) {
console.log("Fetching from cache...");
return cache.get(key);
}
console.log("Calculating...");
const resul... | |
Text-Based Generation | Анализ текста (объективный анализ) | Напиши рецензию на текст | Художественный текст | Hard | Художественный | Проанализируй текст, дай объективную характеристику месту действия и героине.
И она осталась наедине со скамейками, парой рогатых чугунных фонарей, треском сиреневых веток, воем ледяного ветра, ночью, серебром снега и длинным, шерстяным, колющим подбородок шарфом. С факультета доносилась слабая музыка, жёлтый свет пад... | [
{
"criteria_description": "Данный критерий оценивает:\n\n1. Глубину проработки ответа модели:\n— Модель должна строить развернутое повествование в рамках жанра или фрагмента: повествование/описание/рассуждение. \n— Сам ответ не должен производить впечатление конспекта, пересказа или незаконченного фрагмента. За... | 156 | |
Human Interaction | Дать рекомендации | Easy | Общее | На кого пойти учиться, чтобы потом много денег зарабатывать | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 157 | |||
Text Transformation | Выделить из текста | Выпиши из художественного текста | Тропы | Hard | Художественный | Выпиши из текста все слова и словосочетания в переносном значении:
Обещали затмение в шестнадцать-десять. Вытек на площадь вождя пролетариата. Жду. Другие гляделы подтягиваются. Шестнадцать-десять. Смотрю на курий глаз в небе и не пойму, отчего столько ля-ля. В шестнадцать-двенадцать курий раз уже просиял. Гляделы подр... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 158 | Вытек на площадь вождя пролетариата. Курий глаз в небе. Столько ля-ля. Гляделы. Раскладушка. Мышеловка. |
Creative Generation | Прикладной брейншторминг | Научный брейншторминг | Hard | Научный | Разработай методическое пособие по моделированию инженерных систем здания в программе Autodesk Revit. | [
{
"criteria_description": "Данный критерий оценивает способность модели выбирать верные термины (зафиксированные в конкретной области) и придерживаться выбранной терминологии в течение всего ответа.\n\nПримеры ошибок, которые может допустить модель при выборе терминов (не исчерпывающий список):\n— Использование... | 159 | ||
Creative Generation | Общий брейншторминг | Предложить идею | Hard | Общее | хочу поехать домой на юг, но туда не летают самолеты сейчас, поезда ненавижу, машины нет, прав тоже, автобусы тоже фигня, с попутчиками ехать не хочу, на велике ездить не умею, водным транспортом добраться нельзя, на такси денег нет. предложи мне 5 идей, как добраться | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 160 | ||
Original Text Generation | Написать научный текст | Напиши научно-информативный текст | Доклад | Medium | Научный | Напиши текст доклада на тему использования лазерных гироскопов для большегрузных автомобилей, объём – 5 страниц. | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 161 | |
Technical Problems | Написать код | JavaScript | Easy | Общее | Напишите функцию isBalanced на языке JavaScript, которая принимает строку string и массив из двух символов chars. Функция должна вернуть true, если в строке string первый и второй символы из chars встречаются одинаковое количество раз. Если хотя бы один из символов отсутствует или их количество различается, вернуть fal... | [
{
"criteria_description": "Решение содержит компоненты, заявленные в условии, или выполнено с учетом требований, указанных в задаче",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Решение игнорирует требования условия задачи к решению. Использованы не те компонент... | 162 | function isBalanced(string, chars) {
const [char1, char2] = chars;
const countChar1 = string.split(char1).length - 1;
const countChar2 = string.split(char2).length - 1;
return countChar1 === countChar2 && countChar1 > 0;
} | |
Human Interaction | Составить план действий | Составить расписание | Medium | Общее | Составь расписание занятий музыкой на 5 лет, хочу по-настоящему играть на настоящей гитаре как Тим Хенсон из Polyphia, но у меня нет пальцев, денег на протезы тоже нет | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете степень полезности ответа модели.\nПредставьте, что это вы написали запрос к модели. Предположите, смогли бы вы воспользоваться им на практике?\n\nУ ВСЕХ ОСТАЛЬНЫХ:\nВНИМАНИЕ:... | 163 | ||
Technical Problems | Изменить код | JavaScript | Easy | Общее | Ниже представлен код на языке JavaScript. Необходимо изменить его согласно условию задачи.
Код:
function sumNumbers(arr) {
return arr.reduce((sum, num) => sum + num, 0);
}
console.log(sumNumbers([1, 2, 3])); // вывод: 6
console.log(sumNumbers([10, -5, "a"])); // вывод: "5a"
Задача: Функция sumNumbers работает к... | [
{
"criteria_description": "Решение содержит компоненты, заявленные в условии, или выполнено с учетом требований, указанных в задаче",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Решение игнорирует требования условия задачи к решению. Использованы не те компонент... | 164 | function sumNumbers(arr) {
return arr.reduce((sum, num) => typeof num === "number" ? sum + num : sum, 0);
}
console.log(sumNumbers([1, 2, 3])); // вывод: 6
console.log(sumNumbers([10, -5, "a"])); // вывод: 5
В reduce добавлена проверка: typeof num === "number". Только если num является числом, он добавляется к su... | |
ИИ как персонаж | ИИ как персонаж (экспертная ситуация) | Оказание услуги | Hard | Разговорный | Возьми на себя роль опытного спортивного тренера, который предлагает свои услуги в спортзале. Отвечай от лица спортивного тренера на любой мой вопрос. Я хочу накачаться и похудеть, но мой процент жира в теле составляет 35%, а максимальный вес, который я могу поднять одной рукой — гантеля на десять килограмм. Ещё уточню... | [
{
"criteria_description": "Данный критерий оценивает актуальность и точность фактической информации.\n\nМодель должна давать достоверный ответ, если запрос не предусматривает иное. \n\nВ экспертной ситуации ответ модели должен опираться на достоверные источники.\n\nВНИМАНИЕ: если в запросе указано, что персонаж... | 165 | ||
Text-Based Generation | Интерпретация текста (субъективная оценка) | Выдели главную идею / основную мысль текста | Официально-деловой | Hard | Официально-деловой | Для каждого пункта выдели главную идею этого пункта и напиши по одному предложению. А затем объедини все эти предложения в одно, но так, чтобы отразить глобальную идею этого текста.
ВНУТРЕННИЙ РЕГЛАМЕНТ ООО «НЕ ЧОКАЯСЬ»: ОРГАНИЗАЦИЯ И ПРОВЕДЕНИЕ ТРАУРНЫХ ЦЕРЕМОНИЙ
Настоящий регламент предназначен исключительно для вн... | [
{
"criteria_description": "Данный критерий оценивает, насколько точно и полно модель передает информацию, содержащуюся в оригинале, включая ключевые аргументы, данные и контекст (без искажений, дополнений или упрощений).",
"criteria_name": "Сохранение смысла и деталей оригинала",
"rubrics": "0: В ответе... | 166 | |
QA | Объяснить концепт | Easy | Общее | Объясни простыми словами мир идей Платона | [
{
"criteria_description": "Данный критерий проверяет, что модель отвечает, опираясь на реально существующие явления, закономерности и процессы, и не совершает фактических ошибок.",
"criteria_name": "Непротиворечие фактам реального мира",
"rubrics": "0: Модель допускает грубые фактические ошибки. \n\n1: ... | 167 | |||
Text-Based Generation | Оценить текст | Публицистический | Журналистское расследование | Hard | Публицистический | Оцени текст журналистского расследования с точки зрения его экспрессивности:
Тройка, семёрка, туз: кто обыгрывает в карты туристов в Александровском саду?
Александровский сад в Санкт-Петербурге устроили ещё в XIX веке, когда Адмиралтейство перестало выполнять функции военной крепости. С тех пор он стал излюбленным мес... | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 168 | |
QA | Логические задачи | Загадки | Hard | Общее | Отгадай, про что тут:
Я живу на глубине,
Свет совсем не нужен мне,
Меня любят в интернете,
Но пугаются все дети. | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 169 | Ответ: рыба-капля. Она живёт в море на большой глубине, она часто становится героем мемов, но на поверхности выглядят достаточно жутко. | |
QA | Написать инструкцию | Hard | Общее | Находясь дома, решила написать книгу, а как ее написать, я не знаю. Но могу догадываться, что должно быть вступление, завязка, перекусы с кофе, основной текстовый материал, дополнительный тоже нужен и кульминация. Дома есть ноутбук, клавиатура не очень удобная. Как приступить к написанию книги, чтобы выбрать ее идею, ж... | [
{
"criteria_description": "Этот критерий оценивает способность модели предлагать различные варианты действий в зависимости от сложности и многогранности ситуации. Предложение модели применимо в различных условиях и ситуациях, а также адаптировано под разные обстоятельства, если запрос пользователя не конкретизи... | 170 | |||
Text Transformation | Перефразировать текст | Easy | Общее | Перефразируй этот текст так: «Мы с сестрой помогаем маме», чтобы глаголы в единственном числе приобрели форму множественного числа:
Я всегда стараюсь помогать своей маме: в уборке, готовке, делах по дому. Я вижу, как мама зашивается на двух работах и ничего не успевает сделать для нас, поэтому не могу ей не помогать. ... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 171 | Мы всегда стараемся помогать нашей маме: в уборке, готовке, делах по дому. Мы видим, как мама зашивается на двух работах и ничего не успевает сделать для нас, поэтому не можем ей не помогать. Тем более она могла бы вообще ничего не делать, если бы мы не родились, так что мы обязаны помогать маме. | ||
QA | Задачи про слова (Редакторский брейншторм) | Easy | Общее | Вставь пропущенные буквы там, где нужно:
Осенью лес ст_новится н_вероятно пр_красным: со_нце осв_щает б_гряную, рыжую, янтарную л_ству, а воздух ст_новится пр_зрачным, почти хрустальным. | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 172 | Осенью лес становится невероятно прекрасным: солнце освещает багряную, рыжую, янтарную листву, а воздух становится прозрачным, почти хрустальным. | ||
Human Interaction | Дать совет | Easy | Общее | Хочу стать очень умным. Какие книжки посоветуешь почитать в первую очередь? Я предпочитаю технику визуального запоминания, поэтому желательно книжки с графиками или диаграммами | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете степень полезности ответа модели.\nПредставьте, что это вы написали запрос к модели. Предположите, смогли бы вы воспользоваться им на практике?\n\nУ ВСЕХ ОСТАЛЬНЫХ:\nВНИМАНИЕ:... | 173 | |||
Human Interaction | Дать совет | Easy | Общее | Посоветуй из каталога Pantone самые противные оттенки. Мне нужны яркие и токсичные контрарные цвета | [
{
"criteria_description": "Данный критерий проверяет, что идеи и предложения модели реалистичны, выполнимы и целесообразны, чтобы пользователь мог их успешно реализовать.\n\nВНИМАНИЕ: если запрос слишком фантастический и предполагает такой же полностью фантастический ответ, по этому критерию можно поставить «Не... | 174 | |||
QA | Информационный поиск | Поиск точной информации | Medium | Общее | Что значит просыпанная соль на картине, где изображен Иуда, сын божий и другие люди за столом. | [
{
"criteria_description": "Модель не перевирает фактическую информацию и точно доносит известные факты.",
"criteria_name": "Научная достоверность и фактологическая точность",
"rubrics": "0: Ответ не содержит ни одного достоверного факта, вся фактическая информация, содержащаяся в ответе, неверная.\n\n1:... | 175 | В религиозном искусстве просыпанная соль часто имеет символическое значение, связанное с различными аспектами христианского учения. Если на картине изображён Иуда Искариот, то просыпанная соль может усиливать драматический момент и добавлять дополнительный смысловой слой.
Вот возможные интерпретации этого символа:
1.... | |
Original Text Generation | Написать художественный текст | Поэзия | Сонет | Hard | Художественный | Напиши сонет о путешествии и путешественнике | [
{
"criteria_description": "Данный критерий оценивает, насколько точно модель подбирает языковые средства, характерные для художественной литературы в целом и конкретного жанра в частности:\n\n1. Модель свободно владеет языком на всех уровнях, оперирует различными языковыми средствами, в том числе средствами худ... | 176 | |
Original Text Generation | Написать художественный текст | Фрагмент | Драма | Easy | Художественный | Сочини диалог для пьесы о дружбе кошки и собаки. Они спорят, кого нужно кормить первым. | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЗдесь можно не оценивать полезность и прочие критерии: если вдруг в ответе модели объективно есть что-то полезное, но сам текст вам просто «не до души», вы бы не стали такое читать, можете поставить ноль.\... | 177 | |
Text-Based Generation | Составить план текста | Публицистический | Журналистское расследование | Hard | Публицистический | Составь план журналистского расследования о деятельности "черных риэлторов". Необходимо исходить из того, что автор расследования сам внедряется в одну из преступных организаций черных риэлторов и изнутри узнает, как работают их схемы. | [
{
"criteria_description": "Данный критерий оценивает, насколько верно использованы типичные для публицистики языковые средства:\n\n1. Лексические:\n— Газетизмы (политический плюрализм, номенклатура, коррупция).\n— Общественно-политические и иные термины, а также аббревиатуры (консенсус, экстремизм, дефолт; ООН,... | 178 | |
ИИ как персонаж | ИИ как персонаж (экспертная ситуация) | Обучение / консультация | Medium | Разговорный | Отвечай, как репетитор по английскому языку с многолетним стажем. Я хочу выйти на хороший заработок, преподавая английский, но у меня пока уровень A2. Хочу достойно получать уже через месяц-полтора. Посоветуй, что нужно делать, чтобы этого добиться | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 179 | ||
Text-Based Generation | Придумать вопрос к тексту | Научный | Собственно научный текст | Hard | Научный | Придумай 3 вопроса автору статьи, почему проблема не была решена тем или иным способом. В каждом вопросе предлагай новый способ:
Мониторинг водного стресса в растениях играет важную роль в области сельского хозяйства и экологии в целом. Для этих целей используется оценка индекса NDWI (Normalized Difference Water Inde... | [
{
"criteria_description": "Данный критерий оценивает способность модели писать только по существу.\n\nВ ответе модели все элементы должны способствовать раскрытию темы и достижению цели. \nОтвет модели может быть глубоко проработанным и полезным, но в нем все еще может быть избыточность (вода). \nПод избыточной... | 180 | |
Text Transformation | Отредактировать текст | Medium | Общее | Исправь орфографические и пунктуационные ошибки в тексте:
Ну почему никто не говорил, что выбрать, куда пойти учиться так сложно! Вот вы между прочим никогда не думали об этом? А я всегда всегда пириживаю. Это жиж так сложно когда ты не знаешь кем хочешь стать по жизни. Можна пойти куда угодно хоть на завод хоть офици... | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 181 | Ну почему никто не говорил, что выбрать, куда пойти учиться, так сложно! Вот вы, между прочим, никогда не думали об этом? А я всегда переживаю. Это же так сложно, когда ты не знаешь, кем хочешь стать по жизни. Можно пойти куда угодно: хоть на завод, хоть официанткой. Ой, какой же сложный выбор... Просто мучения, честно... | ||
Text-Based Generation | Оценить текст | Публицистический | Репортаж | Medium | Публицистический | Оцени репортаж на предмет достоверности:
Всем привет! Сегодня мне захотелось поговорить про одну мультяшную девочку в розовом сарафанчике и в розовой косыночке. Она каждый день, несмотря на время года и погоду за окном, отправляется на поиск приключений и с постоянно их находит. У неё есть много друзей: заяц, белка, дв... | [
{
"criteria_description": "Данный критерий оценивает способность модели писать только по существу.\n\nВ ответе модели все элементы должны способствовать раскрытию темы и достижению цели. \nОтвет модели может быть глубоко проработанным и полезным, но в нем все еще может быть избыточность (вода). \nПод избыточной... | 182 | |
Technical Problems | Решить задачу (STEM) | Математика | Дифференциальные уравнения | University | Общее | Решить уравнение
\begin{equation}
y'' + 2y' - 3y = 16xe^x
\end{equation}
Напиши подробное решение | [
{
"criteria_description": "Дан правильный ответ, ответ полностью совпадает с эталонным",
"criteria_name": "Правильность ответа",
"rubrics": "0: Дан неправильный ответ или ответ отсутствует.\n\n1: Ответ модели неполный (не на все вопросы задания получен ответ, в формулировке ответа отсутствует часть инфо... | 183 | Найдем общее решение однородного уравнения $y'' + 2y' - 3y = 0$. Для этого составим характеристическое уравнение и найдем его корни:
\begin{equation}
\lambda^2 + 2\lambda - 3 = 0 \implies \lambda_1 = -3, \lambda_2 = 1.
\end{equation}
Общее решение уравнения имеет вид $y_0 = \sum_i{C_i e^{\lambda_i x}}$. Подставляя ... |
Original Text Generation | Написать художественный текст | Фрагмент | Поэзия | Hard | Художественный | Напиши оду, восхваляющую семью | [
{
"criteria_description": "У КРАУДА:\nВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете степень полезности ответа модели.\nПредставьте, что это вы написали запрос к модели. Предположите, смогли бы вы воспользоваться им на практике?\n\nУ ВСЕХ ОСТАЛЬНЫХ:\nВНИМАНИЕ:... | 184 | |
Text Transformation | Суммаризация | Краткий пересказ | Художественный текст | Medium | Художественный | Кратко перескажи этот текст:
Предъявив на вахте серому охраннику старое удостоверение, взбежал по лестнице на второй этаж и узнал у первых попавшихся студентов место обитания деканата филологического факультета.
Белокурая женщина в круглых очках подняла выпуклые глаза взглянула на часы поверх притолоки, уязвленная, ос... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 185 | |
QA | Объяснить концепт | Medium | Общее | Почему люди больше не летают на луну, если современные технологии в разы лучше тех, что использовались для Аполлона-11? Или просто на самом деле никто туда не летал? Объясни мне это, помоги разобраться | [
{
"criteria_description": "Данный критерий оценивает, нужно ли вообще дальше размечать ответ модели по другим критериям или ответ модели не читаем и его невозможно разметить.",
"criteria_name": "Есть ли критичное нарушение формата (чрезмерные зацикливания, сплошные артефакты, ответ на другом языке), которое... | 186 | |||
Text-Based Generation | Интерпретация текста (субъективная оценка) | Выдели главную идею / основную мысль текста | Художественный | Hard | Художественный | Выдели главную идею этого отрывка из автофикшн-повести и объясни, какими средствами она реализована:
Воспоминания, точно случайные капли с неба, накрапывают на голову, но не мучат. Чаще прошлое снится, как снятся змеи, колодцы или птицы.
Окно в розоватом цвете. Это сквозь ситцевые занавески каплет зимний свет. Тени н... | [
{
"criteria_description": "Данный критерий оценивает, насколько интерпретация текста отражает индивидуальные взгляды, ощущения и оценки большой языковой модели, а НЕ является нейтральной или объективной.\n\nИнтерпретация — это субъективная оценка. \nВысокий уровень субъективности подразумевает наличие личных су... | 187 | |
Human Interaction | Дать совет | Hard | Общее | Посоветуй, пожалуйста, как мне лучше поступить. Я пришёл домой, сказал «свободу котам», но на меня всё равно смотрели, как на слугу. Что было не так? Как мне стать своему коту другом? | [
{
"criteria_description": "Данный критерий оценивает, был ли получен ответ модели или вместо ответа вы видите заглушку с текстом «К сожалению, генеративные модели не могут говорить на такие темы» или схожий текст, в котором модель уходит от ответа.",
"criteria_name": "Ответа нет, но есть заглушка цензора?",... | 188 | |||
QA | Логические задачи | Задачи на логику | Hard | Общее | Консьержка устроилась на работу в огромный дом круглой формы, подъезды которого внутри соединены. В первый день консьержке дали задание посчитать количество подъездов в доме, которое до этого момента было ей неизвестно. Она вошла в случайный подъезд и начала считать. Подъезды внутри были абсолютно идентичны. Консьержка... | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 189 | Решение: да, удалось. Чтобы создать точку отсчёта консьержке нужно сделать подъезд, с которого она начала считать, уникальным. Учитывая, что свет горит хаотично, ей нужно создать уникальную последовательность. Допустим, она зажгла свет в первом подъезде, выключила во втором, включила в третьем, выключила в четвёртом и ... | |
Human Interaction | Дать совет | Hard | Общее | Дай мне совет: как мне хорошему другу объяснить, что лучше не вкладываться в криптовалюты? Он обычно не слушает окружающих от слова совсем, но может прислушаться к фактам и логике. Я сам ничего не понимаю в криптовалюте, поэтому можешь обойтись без всяких там заумных формулировок, анализа рынка и финансов. Просто вот п... | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nЭто субъективная оценка «красивости» ответа: как ответ модели оформлен с точки зрения дополнительного (не необходимого) форматирования, которое помогает прочтению ответа и структурированию информации.",
"criteria... | 190 | |||
QA | Логические задачи | Задачи на логику | Hard | Общее | У вас есть домик для кошки с пятью комнатками, между ними есть проходы, которые образуют прямой коридор. Каждая комнатка имеет порядковый номер от одного до пяти, они идут по порядку. В одной из комнаток прячется кот, вы не знаете в какой именно из них он находится. Каждую ночь он перебирается в соседнюю комнатку по ко... | [
{
"criteria_description": "Данный критерий оценивает логику и глубину рассуждений модели. \n\nВот характеристики качественного рассуждения:\n— Модель доходит до сути.\n— Решение задачи достигается минимальными усилиями.\n— Решение выглядит лаконичным, вне зависимости от сложности задачи.\n— Модель рассуждает ст... | 191 | Решение: чтобы найти кота, нужно проверить комнатки 2, 3 и 4 именно в таком порядке. Кот прячется либо в нечетной, либо в четной комнатке. Если он в четной комнатке (2 или 4), и вы выбираете комнатку 2, но его там нет, то вы знаете, что он был в комнатке 4. Это значит, что следующей ночью он перейдет в комнатку 3 или 5... | |
QA | Задачи про слова (Редакторский брейншторм) | Medium | Общее | Найди переходный глагол совершенного вида: стремиться, заболел, прочитала, стоит, прикасаться, замёрз, улетело, ночевал. | [
{
"criteria_description": "ВНИМАНИЕ: субъективный критерий — можно отвечать, как чувствуете.\n\nВ этом критерии вы оцениваете, насколько вы понимаете ответ модели. Даже хорошо, если вы не считаете себя экспертом в той теме, на которую написан ответ: так получится проанализировать, насколько просто и понятно мод... | 192 | Прочитала. | ||
Text-Based Generation | Составить план текста | Официально-деловой | Дипломатический текст | Medium | Официально-деловой | Составь план соглашения между Индией и США о невмешательстве каждой из стран в честный оборот риса в мире | [
{
"criteria_description": "Данный критерий оценивает способность модели удержать пользователя в диалоге и простимулировать пользователя продолжить диалог.",
"criteria_name": "Проактивность",
"rubrics": "0: В ответе модели нет стимулирующих вопросов / предложений / уточнений.\n\n1: Ответ модели содержит ... | 193 | |
Text-Based Generation | Интерпретация текста (субъективная оценка) | Расскажи, о чём текст | Официально-деловой | Hard | Официально-деловой | Расскажи простым языком, о чем этот текст?
СУДЕБНАЯ АВТОТЕХНИЧЕСКАЯ ЭКСПЕРТИЗА № 1212
ПОДПИСКА ЭКСПЕРТА
Мне, сотруднику АНО «Центр судебных экспертиз», Иванову Ивану Ивановичу, поручено произвести автотехническую экспертизу по гражданскому делу № А-112233 по иску о взыскании страхового возмещения.
ЗАКЛЮЧЕНИЕ ЭКСПЕРТ... | [
{
"criteria_description": "Данный критерий оценивает способность модели писать только по существу.\n\nВ ответе модели все элементы должны способствовать раскрытию темы и достижению цели. \nОтвет модели может быть глубоко проработанным и полезным, но в нем все еще может быть избыточность (вода). \nПод избыточной... | 194 | |
Creative Generation | Творческий брейншторминг | Творческий брейншторминг для массовой культуры | Видеоигры | Hard | Общее | Я хочу сделать beat-em-up про средневековую Русь с элементами славянского фентези. Составь мне библию игры, в которую входит: описание основного конфликта, описание пяти локаций игры, описание босса каждого уровня, описание как минимум пяти типов противников на каждом уровне, описание главного героя и его способностей.... | [
{
"criteria_description": "Данный критерий оценивает, есть ли в ответе модели артефакты (ненужные элементы, например внезапные иероглифы, отдельные слова на другом языке без явной на то причины (например: эта woman была очень красивая) и т. д.)\n\nВНИМАНИЕ: в генерациях есть маркдаун, например:\n— Парные ** — ж... | 195 | |
ИИ как персонаж | ИИ как персонаж (экспертная ситуация) | Интервью с экспертом | Hard | Разговорный | Ты известный нейробиолог Татьяна Черниговская. Тебя пригласили на интервью к скандальному журналисту, где обсуждается искусственный интеллект. Ответь от лица Черниговской, превзойдет ли когда-нибудь ИИ человеческий мозг. При этом журналист всё время провоцирует и хайпует. | [
{
"criteria_description": "Данный критерий оценивает актуальность и точность фактической информации.\n\nМодель должна давать достоверный ответ, если запрос не предусматривает иное. \n\nВ экспертной ситуации ответ модели должен опираться на достоверные источники.\n\nВНИМАНИЕ: если в запросе указано, что персонаж... | 196 | ||
Original Text Generation | Написать художественный текст | Проза | Короткий рассказ / миниатюра | Medium | Художественный | Сочини короткий рассказ о том, как отец и сын помирились, внезапно встретившись на свадьбе у 80-летней бабушки. Это еврейская семья. | [
{
"criteria_description": "Данный критерий оценивает, соответствует ли ответ модели требованиям, заявленным в запросе пользователя.\nПри этом здесь не оценивается само качество выполнения.",
"criteria_name": "Формальный учет требований из запроса пользователя",
"rubrics": "0: Требования из запроса польз... | 197 | |
Text Transformation | Перефразировать текст | Medium | Общее | Возьми этот текст за основу и перепиши его так, как будто ты признаёшься в любви своей кошке:
При одном взгляде на тебя моё сердце начинает трепетать. Стоит тебе улыбнуться, как мир вокруг становится светлее. Рядом с тобой я чувствую, что могу свернуть горы. Ты вдохновляешь меня быть лучшим мужчиной для моей любимой ж... | [
{
"criteria_description": "Данный критерий оценивает, нужно ли вообще дальше размечать ответ модели по другим критериям или ответ модели не читаем и его невозможно разметить.",
"criteria_name": "Есть ли критичное нарушение формата (чрезмерные зацикливания, сплошные артефакты, ответ на другом языке), которое... | 198 | При одном взгляде на тебя моё сердце начинает трепетать. Стоит тебе помурлыкать, как мир вокруг становится светлее. Рядом с тобой я чувствую, что могу свернуть горы. Ты вдохновляешь меня быть лучшим хозяином для своего питомца. Каждый миг в твоей компании — это подарок. Меня восхищает то, какая ты добрая, ласковая и ум... | ||
Technical Problems | Изменить код | C# | Medium | Общее | Я написал приложение, которое выводит форму и по таймеру отображает текущее время
public class MainForm : Form
{
private System.Windows.Forms.Timer timer;
public MainForm()
{
Text = "Часы";
Size = new Size(400, 400);
timer = new System.Windows.Forms.... | [
{
"criteria_description": "Код запускается в предназначенной для него среде",
"criteria_name": "Работоспособность",
"rubrics": "0: Код не запускается или исполнение программы завершается с ошибкой.\n\n1: Код запускается и корректно отрабатывает без ошибок во время исполнения программы.",
"rubrics_ex... | 199 |
using System.Drawing.Drawing2D;
public class Arrow
{
private Pen pen;
private int length;
public Arrow(Pen pen, int length)
{
this.pen = pen;
this.length = length;
}
public void draw(Graphics g, double angle)
{
g.... |
Subsets and Splits
Pollux Instructions Training Data
Provides basic listing of unique criteria names and their associated rubrics from a training dataset, offering minimal analytical value beyond simple data extraction.