diff --git "a/AIR-Bench_24.05/0606_q3_dev/NoReranker/results_20250606023948-783876a70b4b417e878e5a3d0b69c791.json" "b/AIR-Bench_24.05/0606_q3_dev/NoReranker/results_20250606023948-783876a70b4b417e878e5a3d0b69c791.json" new file mode 100644--- /dev/null +++ "b/AIR-Bench_24.05/0606_q3_dev/NoReranker/results_20250606023948-783876a70b4b417e878e5a3d0b69c791.json" @@ -0,0 +1,11657 @@ +[ + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70435 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74172 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77976 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70576 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80882 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69173 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72865 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71841 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71882 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65527 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74928 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69553 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76693 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63743 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6322 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61173 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63624 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63247 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62837 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60176 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62095 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65994 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63059 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62463 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55588 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52872 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62907 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48569 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.63462 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55108 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60569 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58238 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58234 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.60055 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56531 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59735 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.74938 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.62821 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63982 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58773 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22669 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26718 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22793 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.77135 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48061 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62832 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.597 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48511 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_3", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.66617 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.63518 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.67802 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.67626 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71368 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61368 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69977 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62572 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.63298 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.62872 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.64505 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62649 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.68737 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57748 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.57696 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54913 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57926 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.58916 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.5864 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57353 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.56872 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60333 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.56282 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59483 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.59117 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57533 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.50168 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.42429 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4816 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.55957 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.41146 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54761 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53287 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62678 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50884 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.52738 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.54107 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.51444 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.52773 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.64295 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47898 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.53253 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.59253 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5431 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.5151 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2113 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24821 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.19275 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66622 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.41968 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.55159 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.60038 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.49821 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_5", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.67922 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.62501 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.68683 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.68544 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.71092 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.61475 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.71913 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.62821 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.62559 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.64705 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.64255 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.63078 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.6846 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.57253 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.56309 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.54322 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.57292 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.59119 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.57874 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.58315 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.57562 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.60483 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.55585 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.60069 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.5935 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.57196 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.48864 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.39538 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.47052 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.54305 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.39427 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.52758 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.53854 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.64429 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.48442 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.5142 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.51768 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.49673 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.50284 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.62722 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44958 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.50222 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60215 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.55151 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.51999 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.21272 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25957 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.18991 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.64174 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.40446 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.52353 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.61167 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.51755 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_10", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70503 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.65206 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.71914 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.71222 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.7371 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.64027 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.7504 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.65831 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.65042 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67401 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.67424 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.65866 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.71074 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.59923 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.59496 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.57292 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.60426 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.62111 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.60664 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.61257 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.60386 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.63576 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.58387 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63644 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.62667 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.60253 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.51301 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.40813 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.49998 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5628 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.40988 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.54717 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.56422 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.67299 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.50402 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.53554 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.52812 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.52389 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.51452 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.65686 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.47079 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51009 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63622 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.59251 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.55482 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.23115 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.28007 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.21167 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.66891 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.43376 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.53477 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.64005 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.54939 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_50", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.74327 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.70947 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76196 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.74904 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.77927 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69411 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.77923 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70643 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.70309 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71048 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.72692 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70638 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.75738 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.66765 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.66875 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.63971 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.67165 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67743 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.67714 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.66908 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.66151 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6958 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.65779 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69332 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68567 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.67658 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.59411 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.50879 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.58027 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.64276 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.49962 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.63189 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.62604 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.70702 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.59667 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.61266 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.63111 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.60796 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.61477 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.7232 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.57451 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.60321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.68682 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65093 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.61989 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2904 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33653 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.2699 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.74239 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.51548 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.63873 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6716 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.59156 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_100", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.75028 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.71983 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76875 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.75536 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.78717 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.70381 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78351 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71611 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71334 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.71797 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.73742 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.715 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76482 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.67951 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.68096 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.65296 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.68389 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.68844 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.69006 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.67773 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.67315 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.70577 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.67058 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.70214 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.69545 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.68903 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.61114 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.53403 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.59655 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.65762 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.52292 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.6483 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63951 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.71502 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.61476 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.62886 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.64869 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.62468 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.63482 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.73481 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.59574 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.62578 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.69681 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65978 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.63218 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30718 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.35128 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28792 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.7544 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.53206 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.65789 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.67888 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.60291 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "ndcg_at_1000", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76053 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.73414 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77856 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.76454 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.79763 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.71813 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.78937 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.73044 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.72854 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.72937 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74985 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.72787 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.77398 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.69551 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.69603 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.66855 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.69844 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.7016 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70501 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69025 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68994 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.71878 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.68648 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71519 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.70888 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.70369 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.63461 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5706 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.62033 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.67781 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.5566 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.67126 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.65582 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.72375 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.64019 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.64933 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67082 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64618 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.66078 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.74887 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.62208 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.65321 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.71042 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.67199 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.6485 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.34358 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.38682 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.32798 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.76752 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.55833 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.6807 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.69251 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.6225 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.43567 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.33949 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41364 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.45691 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42947 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34514 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42396 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37806 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.36077 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39979 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.33478 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.35541 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.41407 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.2733 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23147 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.24521 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.26636 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28635 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.27127 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28841 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.30832 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2799 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.27439 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.30987 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.29538 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.24726 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.19853 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11955 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.16433 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.24239 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.15014 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20159 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24847 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.43101 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16938 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.20684 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15707 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.16764 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1569 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30781 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.11617 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16816 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29813 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.23809 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26965 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07007 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1075 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.062 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28246 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13353 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.15844 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3843 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26105 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_3", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.56073 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.46577 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.55111 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.58139 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.57514 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.47405 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.59499 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.49677 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.48113 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.53052 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.47718 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.48556 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.54898 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.39683 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36838 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.3735 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.39843 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.42774 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.40249 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.41846 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.4298 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.42392 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.38601 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.44928 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42915 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.37932 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.30664 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.20342 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.29067 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.35929 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.22813 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.31864 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.38317 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.55306 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.28329 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33359 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28305 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.2914 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27712 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.44069 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.22903 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.28005 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.46833 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.38444 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.3834 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.11654 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16724 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10648 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.43157 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.23027 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.28282 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.51944 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.41737 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_5", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.59616 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50837 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59467 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.61092 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.61563 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.51256 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.64464 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.53432 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.52104 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.56482 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52773 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.52668 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.58842 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44738 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42257 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42251 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44973 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47935 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45141 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.4741 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47349 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.48334 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.43123 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.49887 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.47652 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.43557 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.35061 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.24186 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.34359 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.40513 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26155 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.37118 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43436 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.58269 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.33291 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.38406 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.34437 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3494 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.33246 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.49161 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.28379 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.33308 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.51165 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44184 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4216 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14012 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19575 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12635 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.49202 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.27595 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.34655 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.55254 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.45692 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_10", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.62406 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.54737 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.62716 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.63551 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.64879 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.54315 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.67797 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.5655 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.55695 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.58859 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.56931 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.55959 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.62294 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.49519 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.47826 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.46952 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.49966 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.52442 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.50231 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.51721 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.51366 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.53404 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.4782 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.54175 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.52186 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.49122 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39948 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.2882 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.39435 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4567 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.29822 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.42902 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.48205 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60527 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.38964 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.43278 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40858 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.4121 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.39302 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.545 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.34422 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.38774 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.54481 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.49479 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.45695 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.16602 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2187 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.14879 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.55101 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.32464 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41659 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.58253 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48722 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_50", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64248 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57599 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64785 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65206 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.66993 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.568 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69066 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58754 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58323 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60395 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59569 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64713 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53071 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51786 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50292 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.5347 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55236 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53926 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54523 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54091 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56494 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51537 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.5685 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55193 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53042 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.43958 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.33563 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4336 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.49737 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33845 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47408 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51366 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.6183 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43836 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47141 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.4663 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.45717 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.44661 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58037 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.39747 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.43545 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56768 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.52435 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48521 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18974 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.24102 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17004 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.59235 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36233 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.47561 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59636 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50455 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_100", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64381 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.5781 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.64927 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65323 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67136 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.56994 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69139 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.58927 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58518 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60533 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59774 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58462 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64863 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53317 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.52043 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50555 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53718 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55446 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54203 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.54686 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54302 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56701 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51805 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.57019 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55397 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53313 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.44332 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34116 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4368 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.50067 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.3432 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47781 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51609 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61939 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44252 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47481 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47041 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46066 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.45124 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58283 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40232 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44069 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.56949 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.52594 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48752 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19242 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2432 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17284 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.59528 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36555 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.4802 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59735 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50602 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "map_at_1000", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.64462 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.57938 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.65002 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.65388 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.67216 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.57106 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.69179 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.59038 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.58642 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60615 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.59877 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.58561 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.64932 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.53453 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.5218 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50681 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53845 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.55548 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.54338 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.5478 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.54431 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.56799 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51942 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.5712 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.55505 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.53451 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.4455 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.34466 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.4387 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.5025 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.34614 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.47997 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51721 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.61996 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.44483 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.47664 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47261 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.46252 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.45391 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.58414 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.40492 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.44347 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.57049 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5268 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.48877 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19461 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.2451 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.17523 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.59659 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36765 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48262 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.59792 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.50704 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.43567 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.33949 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.41364 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.45691 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.42947 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.34514 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.42396 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.37806 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.36077 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.39979 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.33478 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.35541 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.41407 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.2733 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.23147 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.24521 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.26636 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.28635 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.27127 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.28841 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.30832 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.2799 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.27439 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.30987 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.29538 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.24726 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.19853 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.11955 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.16433 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.24239 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.15014 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.20159 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.24847 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.43101 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.16938 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.20684 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.15707 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.16764 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.1569 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.30781 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.11617 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.16816 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.29813 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.23809 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.26965 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.07007 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.1075 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.062 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.28246 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.13353 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.15844 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.3843 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.26105 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_3", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.6182 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.50731 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.59461 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.64393 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.6158 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.52521 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.6504 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.54237 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.5227 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.60413 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.52057 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.54559 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.59778 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.44208 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.42022 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.42107 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.44478 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.47799 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.45012 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.47526 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.47236 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.47262 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.42985 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.50292 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.48964 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.42784 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.34928 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.2297 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.3302 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.39532 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.26249 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.35125 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.43004 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.62568 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.31158 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.37343 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.31478 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.3264 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.30976 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47485 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.26436 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.30604 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.52127 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.44838 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.4305 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.14305 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19817 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.12551 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.46742 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.26749 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.3079 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.57229 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.47388 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_5", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.69051 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.58347 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.67562 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70612 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.68719 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.60385 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.73819 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.61374 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.59202 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.67877 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.60854 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.62334 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.66451 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.5296 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.51275 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.50384 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.53097 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.56905 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.53431 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.57667 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.55483 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.57346 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.51019 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.59187 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.57861 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.52794 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.42905 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.29842 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.42021 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.47263 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.32723 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44047 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.51644 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69153 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.39199 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.45677 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40788 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.42078 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.39823 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.56029 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.35425 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.39189 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.60678 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.552 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.50701 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.19157 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.25827 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16561 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.5601 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.34514 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.40009 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.63431 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5481 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_10", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.76645 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.68151 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.76142 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77759 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.76642 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.68517 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.81924 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.70003 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.68046 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74941 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.71149 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.70992 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.74742 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.64096 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.63919 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61499 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.6481 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.67729 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.64926 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.68059 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.65319 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.6879 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.6208 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.69828 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.68751 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.65308 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.54732 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.41175 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.53679 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.58475 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.42226 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.56318 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.61748 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.76755 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.5162 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.56545 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.5363 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.55435 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.52702 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.67798 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.48634 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.51013 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.69864 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.67879 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.60743 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.2599 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32352 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.23577 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.68671 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.45791 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.5347 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.71702 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.63063 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_50", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.87721 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.83925 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.88522 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.88465 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.88681 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.8398 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.91159 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.84166 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.82762 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.85954 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.86077 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.8455 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.8755 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.82297 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.83547 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.79956 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.8271 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.84115 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.8359 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.84121 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.81888 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.85499 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.81913 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.86037 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.8472 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.8458 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.75653 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.66137 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.75177 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.79088 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.65201 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.77338 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.7891 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.88237 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.74767 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.76629 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.79106 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.7679 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.77363 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.85758 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.74682 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.73692 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.84883 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.84996 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.80285 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.41959 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.49223 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.39626 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.87381 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.67996 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.78409 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.82138 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.76868 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_100", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.90648 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.88095 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.91213 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.91074 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.92 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.87797 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.93138 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.88292 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.86872 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.891 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.90362 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.87894 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.9052 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.86882 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.88341 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.85288 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.87511 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.88821 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.88542 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.87747 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.86751 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.89464 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.86847 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.8954 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.88493 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.89323 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.81643 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.74748 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.81397 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.84406 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.73484 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.83168 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.84563 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.92285 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.81102 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.82552 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.85282 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.83055 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.84425 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.90407 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.82318 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.81339 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.89141 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.88986 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.85517 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.48432 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.55835 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.46542 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.91759 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.74366 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.84942 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.85931 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.8266 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "recall_at_1000", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.96264 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.95338 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.96707 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.96147 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.97796 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.95576 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.96761 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.96084 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.94643 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.95585 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.96825 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.95035 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.95423 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.95208 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.96267 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.93905 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.95119 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.96648 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.96221 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.94856 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.96183 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.96847 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.95066 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.96635 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.95582 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.9662 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.92711 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.91553 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.94012 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.94132 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.89387 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.94253 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.94268 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.97953 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.9333 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.92444 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.95675 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.93695 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.96236 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.97597 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.95181 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.93668 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.9705 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.96571 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.95169 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.67811 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.78265 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.68093 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.98156 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.88318 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.95598 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.96287 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.9645 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70435 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74172 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77976 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70576 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80882 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69173 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72865 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71841 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71882 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65527 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74928 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69553 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76693 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63743 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6322 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61173 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63624 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63247 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62837 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60176 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62095 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65994 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63059 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62463 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55588 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52872 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62907 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48569 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.63462 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55108 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60569 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58238 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58234 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.60055 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56531 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59735 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.74938 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.62821 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63982 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58773 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22669 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26718 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22793 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.77135 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48061 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62832 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.597 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48511 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_3", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.39227 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.44302 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.43849 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.38155 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.46495 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.41126 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.44814 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.40224 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.42189 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.37227 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.46363 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.41667 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.44064 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.42714 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.45864 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.4197 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.43537 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.43195 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.43973 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.40947 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.38939 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.45291 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.40992 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.41839 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.42202 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.44248 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.39773 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.37278 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.41286 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.4283 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.33548 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.44896 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.39216 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.33678 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.43099 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.42186 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.47708 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.44146 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.46214 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.47988 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.44089 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.45701 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.4285 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.41013 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.36318 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.18077 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.19107 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.16763 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.52315 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.36588 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.48914 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.35515 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.33986 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_5", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.28406 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.32892 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.31845 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.26924 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.33324 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.30157 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.32779 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.29327 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.31321 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.26724 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.34827 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.30782 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.3209 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.33728 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.36381 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.32814 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.34303 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.33591 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.34603 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.32548 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.3031 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.35949 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.32249 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.32284 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.32529 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.35767 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.32021 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.3062 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.33432 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.33811 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.27268 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.36612 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.31409 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.23865 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.35287 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.33754 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.40069 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.36299 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.38009 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.37152 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.36987 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.37345 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.31581 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.32783 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.27711 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.15552 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.16031 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.13878 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.40912 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.30152 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.41078 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.25568 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.25481 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_10", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.17225 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.20873 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.19219 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.16018 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.19963 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.1853 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.19414 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.1807 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.19661 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.15869 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.21763 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.19043 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.19701 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.22566 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.24712 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.21849 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.22917 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.21665 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.23269 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.2093 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.19731 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.23318 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.21795 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.20657 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.21276 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.24425 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.2242 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.22453 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.2282 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.23312 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.19349 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.25666 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.21262 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.1409 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.25136 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.2293 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.28404 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.25776 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.27109 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.24563 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.265 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.26011 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.19334 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.21985 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.17769 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.1137 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.10874 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.10304 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.27221 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.21177 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.29775 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.15647 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.15753 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_50", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.04336 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.05607 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.04804 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.04031 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.04979 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.05028 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.0444 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.04695 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.05268 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.03981 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.056 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.04955 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.05078 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.06352 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.0691 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.06099 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.06334 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.0567 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.06546 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.05511 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.05362 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.06181 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.06303 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.05491 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.05726 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.06953 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.06848 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.07648 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.06719 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.06973 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.06542 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.07722 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.05867 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.03434 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.0783 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.06788 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.0882 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.07582 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.0856 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.06664 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.08371 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.08163 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.04993 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.05743 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.04998 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.03914 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.03546 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.03618 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.07501 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.06392 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.09313 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.03748 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.03959 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_100", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.02275 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.02972 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.02511 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.02114 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.0261 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.02677 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.02276 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.02494 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.02802 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.02105 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.02964 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.02626 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.02661 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.03382 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.03662 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.03263 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.03375 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.03 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.03498 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.02888 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.02861 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.03255 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.03374 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.02891 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.03032 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.03701 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.03763 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.04356 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.03644 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.0378 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.03736 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.04183 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.03142 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.01802 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.04279 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.03705 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.04766 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.04096 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.04692 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.03525 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.0459 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.04564 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.02643 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.02993 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.02682 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.02253 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.01982 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.02129 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.03977 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.03484 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.05062 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.0195 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.02104 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "precision_at_1000", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.00247 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.00327 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.00269 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.00229 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.00281 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.00296 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.00237 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.00277 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.00313 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.00231 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.00322 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.00287 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.00284 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.00372 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.00397 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.00355 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.00367 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.00323 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.00382 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.00311 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.00318 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.00349 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.00371 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.00315 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.00331 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.00403 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.00434 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.0053 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.00413 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.00427 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.00458 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.00473 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.00342 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.00192 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.00489 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.0042 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.00531 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.00458 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.00535 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.00383 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.00519 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.0053 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.00288 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.00317 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.00296 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.00306 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.00258 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.00299 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.00428 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.00402 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.00562 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.00209 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.00234 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.70435 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.74172 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.77976 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.70576 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.80882 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.69173 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.72865 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.71841 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.71882 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.65527 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.74928 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.69553 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.76693 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.63743 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.6322 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.61173 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.63624 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.63247 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.62837 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.60176 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.62095 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.65994 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.63059 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.63713 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.63573 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.62463 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.55588 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.5 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.52872 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.62907 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.48569 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.63462 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.55108 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.60569 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.58238 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.58234 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.60055 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.56531 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.59735 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.74938 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.53333 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.62821 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.63982 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.5517 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.58773 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.22669 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.26718 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.22865 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.77135 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.48061 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.62832 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.597 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.48596 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_3", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.77452 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.80058 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.83247 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.77212 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.85968 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.75518 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79137 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.77392 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.77675 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74003 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.80961 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77211 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.82241 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.71077 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.72021 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.68894 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.71208 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.70251 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.70997 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.68082 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.68642 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.73393 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.70449 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.71492 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.72467 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.7103 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.64397 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.58069 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.60567 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.70065 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.56843 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.705 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.62139 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.68364 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.65079 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.65665 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.67888 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.64417 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.6749 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.81044 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.62467 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.6991 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.70974 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.64203 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.65343 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.28778 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.32003 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.27521 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.83249 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.56683 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.69563 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.6505 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.55376 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_5", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78343 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.80702 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.83912 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78114 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86406 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76516 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.79846 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7822 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78376 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.74858 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.81629 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.77899 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.82802 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72093 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73085 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.69766 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72224 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.71424 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72165 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69363 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.69952 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74316 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.71745 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.72524 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.73561 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72258 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.65888 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.59725 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.62165 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.7133 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.58449 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.71898 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.63462 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69261 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.66526 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.66808 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.6917 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.65778 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.68851 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.81918 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.64137 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.71154 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72262 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.65418 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.66657 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.30127 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33249 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.28653 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.83824 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.57877 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.70689 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.65858 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56257 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_10", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78713 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81177 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84278 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78551 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86605 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.76934 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80158 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78702 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.78776 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75281 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.82085 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78323 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83136 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.72837 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73598 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70416 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.72891 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72001 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.72772 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.69996 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70503 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.74889 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72268 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.7313 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.74044 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.72807 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.66621 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.60899 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.62934 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.71898 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59458 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.72545 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64008 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.69901 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67392 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67513 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.69871 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66585 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.69662 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82304 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65038 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.71899 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.72925 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66098 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.6734 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31076 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.33921 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.29791 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.84131 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.58733 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.71471 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66372 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.56787 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_50", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78886 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81335 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84395 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78782 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86715 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77143 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80354 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78892 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.79037 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75496 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.82219 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78443 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83271 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73086 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7381 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70717 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73169 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72289 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73017 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.7035 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70862 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.75137 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72577 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73421 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.74313 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.73077 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67035 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61427 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.63396 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72286 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.59974 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.72832 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64487 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.70241 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67772 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67908 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.70261 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.66966 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.7008 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82437 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65415 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.72203 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.73173 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66385 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.67723 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31799 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34578 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30607 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.84275 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59298 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.71828 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66668 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57276 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_100", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78898 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.81345 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84396 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.78793 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.86723 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77162 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80366 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.78912 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.79052 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75511 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.82233 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78453 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83282 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73103 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.73832 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70744 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73189 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72314 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73034 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70368 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70888 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.75155 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72594 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73431 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.74324 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.73093 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67053 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.61456 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.6343 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72302 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60013 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.72846 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64524 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.70281 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67791 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67933 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.70281 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.67 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70097 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82452 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65437 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.7222 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.73198 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66416 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.67752 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31872 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34644 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.30693 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.84285 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59324 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.71848 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66707 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.57343 + } + ] + }, + { + "config": { + "retrieval_model": "0606_q3_dev", + "retrieval_model_link": null, + "reranking_model": "NoReranker", + "reranking_model_link": null, + "task": "qa", + "metric": "mrr_at_1000", + "timestamp": "2025-06-06T02:39:48Z", + "is_anonymous": true, + "revision": "783876a70b4b417e878e5a3d0b69c791" + }, + "results": [ + { + "domain": "wiki", + "lang": "es", + "dataset": "default", + "value": 0.78907 + }, + { + "domain": "wiki", + "lang": "fa", + "dataset": "default", + "value": 0.8135 + }, + { + "domain": "wiki", + "lang": "zh", + "dataset": "default", + "value": 0.84404 + }, + { + "domain": "wiki", + "lang": "fr", + "dataset": "default", + "value": 0.788 + }, + { + "domain": "wiki", + "lang": "hi", + "dataset": "default", + "value": 0.8673 + }, + { + "domain": "wiki", + "lang": "ru", + "dataset": "default", + "value": 0.77173 + }, + { + "domain": "wiki", + "lang": "en", + "dataset": "default", + "value": 0.80372 + }, + { + "domain": "wiki", + "lang": "bn", + "dataset": "default", + "value": 0.7892 + }, + { + "domain": "wiki", + "lang": "ar", + "dataset": "default", + "value": 0.79059 + }, + { + "domain": "wiki", + "lang": "de", + "dataset": "default", + "value": 0.75521 + }, + { + "domain": "wiki", + "lang": "ko", + "dataset": "default", + "value": 0.82238 + }, + { + "domain": "wiki", + "lang": "ja", + "dataset": "default", + "value": 0.78461 + }, + { + "domain": "wiki", + "lang": "id", + "dataset": "default", + "value": 0.83288 + }, + { + "domain": "web", + "lang": "es", + "dataset": "default", + "value": 0.73114 + }, + { + "domain": "web", + "lang": "fa", + "dataset": "default", + "value": 0.7384 + }, + { + "domain": "web", + "lang": "zh", + "dataset": "default", + "value": 0.70759 + }, + { + "domain": "web", + "lang": "fr", + "dataset": "default", + "value": 0.73199 + }, + { + "domain": "web", + "lang": "hi", + "dataset": "default", + "value": 0.72324 + }, + { + "domain": "web", + "lang": "ru", + "dataset": "default", + "value": 0.73043 + }, + { + "domain": "web", + "lang": "en", + "dataset": "default", + "value": 0.70377 + }, + { + "domain": "web", + "lang": "bn", + "dataset": "default", + "value": 0.70899 + }, + { + "domain": "web", + "lang": "ar", + "dataset": "default", + "value": 0.75166 + }, + { + "domain": "web", + "lang": "de", + "dataset": "default", + "value": 0.72605 + }, + { + "domain": "web", + "lang": "ko", + "dataset": "default", + "value": 0.73441 + }, + { + "domain": "web", + "lang": "ja", + "dataset": "default", + "value": 0.74333 + }, + { + "domain": "web", + "lang": "id", + "dataset": "default", + "value": 0.73101 + }, + { + "domain": "news", + "lang": "es", + "dataset": "default", + "value": 0.67063 + }, + { + "domain": "news", + "lang": "fa", + "dataset": "default", + "value": 0.6147 + }, + { + "domain": "news", + "lang": "zh", + "dataset": "default", + "value": 0.6345 + }, + { + "domain": "news", + "lang": "fr", + "dataset": "default", + "value": 0.72311 + }, + { + "domain": "news", + "lang": "hi", + "dataset": "default", + "value": 0.60027 + }, + { + "domain": "news", + "lang": "ru", + "dataset": "default", + "value": 0.72857 + }, + { + "domain": "news", + "lang": "en", + "dataset": "default", + "value": 0.64547 + }, + { + "domain": "news", + "lang": "bn", + "dataset": "default", + "value": 0.70293 + }, + { + "domain": "news", + "lang": "ar", + "dataset": "default", + "value": 0.67803 + }, + { + "domain": "news", + "lang": "de", + "dataset": "default", + "value": 0.67944 + }, + { + "domain": "news", + "lang": "ko", + "dataset": "default", + "value": 0.70288 + }, + { + "domain": "news", + "lang": "ja", + "dataset": "default", + "value": 0.6701 + }, + { + "domain": "news", + "lang": "id", + "dataset": "default", + "value": 0.70107 + }, + { + "domain": "healthcare", + "lang": "es", + "dataset": "default", + "value": 0.82455 + }, + { + "domain": "healthcare", + "lang": "zh", + "dataset": "default", + "value": 0.65448 + }, + { + "domain": "healthcare", + "lang": "fr", + "dataset": "default", + "value": 0.72232 + }, + { + "domain": "healthcare", + "lang": "en", + "dataset": "default", + "value": 0.73209 + }, + { + "domain": "healthcare", + "lang": "de", + "dataset": "default", + "value": 0.66437 + }, + { + "domain": "arxiv", + "lang": "en", + "dataset": "default", + "value": 0.67767 + }, + { + "domain": "law", + "lang": "fr", + "dataset": "default", + "value": 0.31923 + }, + { + "domain": "law", + "lang": "en", + "dataset": "default", + "value": 0.34707 + }, + { + "domain": "law", + "lang": "de", + "dataset": "default", + "value": 0.3076 + }, + { + "domain": "science", + "lang": "ru", + "dataset": "default", + "value": 0.84291 + }, + { + "domain": "finance", + "lang": "zh", + "dataset": "default", + "value": 0.59345 + }, + { + "domain": "finance", + "lang": "fr", + "dataset": "default", + "value": 0.71857 + }, + { + "domain": "finance", + "lang": "en", + "dataset": "default", + "value": 0.66741 + }, + { + "domain": "finance", + "lang": "ar", + "dataset": "default", + "value": 0.5739 + } + ] + } +] \ No newline at end of file