Hugging Face's logo

Datasets:
quickmt
/
quickmt-train.fr-en

Tasks:
Translation
Modalities:
Text
Formats:
parquet
Languages:
French
English
Size:
100M - 1B
Libraries:
Datasets
Dask
Polars
Dataset card Data Studio Files
xet
 Community
1
radinplaid commited on
Commit
8fb2322
·
verified ·
1 Parent(s): f3a2a3c

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +185 -115
README.md CHANGED
@@ -27,119 +27,189 @@ language:
27
 
28
  # `quickmt` fr-en Training Corpus
29
 
30
- Contains the following datasets downloaded with mtdata after deduplication and basic filtering with quickmt:
31
 
32
- * Statmt-news_commentary-14-eng-fra
33
- * Statmt-news_commentary-15-eng-fra
34
- * Statmt-news_commentary-16-eng-fra
35
- * Statmt-news_commentary-17-eng-fra
36
- * Statmt-news_commentary-18-eng-fra
37
- * Statmt-news_commentary-18.1-eng-fra
38
- * Statmt-europarl-10-fra-eng
39
- * ParaCrawl-paracrawl-9-eng-fra
40
- * Tilde-eesc-2017-eng-fra
41
- * Tilde-ema-2016-eng-fra
42
- * Tilde-czechtourism-1-eng-fra
43
- * Tilde-ecb-2017-eng-fra
44
- * Tilde-rapid-2016-eng-fra
45
- * Tilde-worldbank-1-eng-fra
46
- * UN-un_dev-1-eng-fra
47
- * Neulab-tedtalks_train-1-eng-fra
48
- * Neulab-tedtalks_dev-1-eng-fra
49
- * OPUS-elrc_2481_constituio_da_repbli-v1-eng-fra
50
- * OPUS-elrc_2612_artigos_visitportuga-v1-eng-fra
51
- * OPUS-elrc_2614_localidades_2007-v1-eng-fra
52
- * OPUS-elrc_2616_museus_2007-v1-eng-fra
53
- * OPUS-elrc_2622_arquitectura_2007-v1-eng-fra
54
- * OPUS-elrc_2623_patrimnio_aores_2006-v1-eng-fra
55
- * OPUS-elrc_2638_monumentos_2007-v1-eng-fra
56
- * OPUS-elrc_2639_parques_e_reservas-v1-eng-fra
57
- * OPUS-elrc_2641_praias_2007-v1-eng-fra
58
- * OPUS-elrc_2720_emea-v1-eng-fra
59
- * OPUS-elrc_2732_vaccination-v1-eng-fra
60
- * OPUS-elrc_2879_eu_publications_medi-v1-eng-fra
61
- * OPUS-elrc_3074_wikipedia_health-v1-eng-fra
62
- * OPUS-elrc_3208_antibiotic-v1-eng-fra
63
- * OPUS-elrc_3297_europarl_covid-v1-eng-fra
64
- * OPUS-elrc_3468_ec_europa_covid-v1-eng-fra
65
- * OPUS-elrc_3569_eur_lex_covid-v1-eng-fra
66
- * OPUS-elrc_3610_presscorner_covid-v1-eng-fra
67
- * OPUS-elrc_3852_development_funds_re-v1-eng-fra
68
- * OPUS-elrc_401_swedish_labour_part2-v1-eng-fra
69
- * OPUS-elrc_403_rights_arrested-v1-eng-fra
70
- * OPUS-elrc_406_swedish_labour_part1-v1-eng-fra
71
- * OPUS-elrc_416_swedish_social_secur-v1-eng-fra
72
- * OPUS-elrc_417_swedish_work_environ-v1-eng-fra
73
- * OPUS-elrc_422_portuguese_legislati-v1-eng-fra
74
- * OPUS-elrc_4329_principle_mvep_legal-v1-eng-fra
75
- * OPUS-elrc_436_swedish_food-v1-eng-fra
76
- * OPUS-elrc_5067_scipar-v1-eng-fra
77
- * OPUS-elrc_5220_information_crime_vi-v1-eng-fra
78
- * OPUS-elrc_637_sip-v1-eng-fra
79
- * OPUS-elrc_638_luxembourg.lu-v1-eng-fra
80
- * OPUS-elrc_646_international_judici-v1-eng-fra
81
- * OPUS-elrc_648_letter_rights_person-v1-eng-fra
82
- * OPUS-elrc_745_convention_against_t-v1-eng-fra
83
- * OPUS-elrc_816_anr_containing_major-v1-eng-fra
84
- * OPUS-elrc_832_charter_values_citiz-v1-eng-fra
85
- * OPUS-elrc_837_legal-v1-eng-fra
86
- * OPUS-elrc_844_paesi__administratio-v1-eng-fra
87
- * OPUS-elrc_arquitectura_2007-v1-eng-fra
88
- * OPUS-elrc_artigos_visitportuga-v1-eng-fra
89
- * OPUS-elrc_cordis_news-v1-eng-fra
90
- * OPUS-elrc_cordis_results-v1-eng-fra
91
- * OPUS-elrc_ec_europa-v1-eng-fra
92
- * OPUS-elrc_emea-v1-eng-fra
93
- * OPUS-elrc_euipo_2017-v1-eng-fra
94
- * OPUS-elrc_euipo_law-v1-eng-fra
95
- * OPUS-elrc_euipo_list-v1-eng-fra
96
- * OPUS-elrc_europarl_covid-v1-eng-fra
97
- * OPUS-elrc_eur_lex-v1-eng-fra
98
- * OPUS-elrc_eu_publications-v1-eng-fra
99
- * OPUS-elrc_localidades_2007-v1-eng-fra
100
- * OPUS-elrc_museus_2007-v1-eng-fra
101
- * OPUS-elrc_parques_e-v1-eng-fra
102
- * OPUS-elrc_patrimnio_aores-v1-eng-fra
103
- * OPUS-elrc_portuguese_legislati-v1-eng-fra
104
- * OPUS-elrc_praias_2007-v1-eng-fra
105
- * OPUS-elrc_swedish_labour-v1-eng-fra
106
- * OPUS-elrc_antibiotic-v1-eng-fra
107
- * OPUS-elrc_presscorner_covid-v1-eng-fra
108
- * OPUS-elrc_vaccination-v1-eng-fra
109
- * OPUS-elrc_wikipedia_health-v1-eng-fra
110
- * OPUS-elrc_2922-v1-eng-fra
111
- * OPUS-elrc_2923-v1-eng-fra
112
- * OPUS-elrc_3382-v1-eng-fra
113
- * OPUS-emea-v3-eng-fra
114
- * OPUS-euconst-v1-eng-fra
115
- * OPUS-europat-v3-eng-fra
116
- * OPUS-europarl-v8-eng-fra
117
- * OPUS-mdn_web_docs-v20230925-eng-fra
118
- * OPUS-news_commentary-v11-eng-fra
119
- * OPUS-news_commentary-v14-eng-fra
120
- * OPUS-news_commentary-v16-eng-fra
121
- * OPUS-news_commentary-v9.0-eng-fra
122
- * OPUS-news_commentary-v9.1-eng-fra
123
- * OPUS-rf-v1-eng-fra
124
- * OPUS-salome-v1-eng-fra
125
- * OPUS-ted2013-v1.1-eng-fra
126
- * OPUS-ted2020-v1-eng-fra
127
- * OPUS-ted2020-v1-eng-fra_CA
128
- * OPUS-tatoeba-v2-eng-fra
129
- * OPUS-tatoeba-v20190709-eng-fra
130
- * OPUS-tatoeba-v20200531-eng-fra
131
- * OPUS-tatoeba-v20201109-eng-fra
132
- * OPUS-tatoeba-v20210310-eng-fra
133
- * OPUS-tatoeba-v20210722-eng-fra
134
- * OPUS-tatoeba-v20220303-eng-fra
135
- * OPUS-tatoeba-v20230412-eng-fra
136
- * OPUS-tildemodel-v2018-eng-fra
137
- * OPUS-unpc-v1.0-eng-fra
138
- * OPUS-wmt_news-v2014-eng-fra
139
- * OPUS-wmt_news-v2019-eng-fra
140
- * OPUS-wikimatrix-v1-eng-fra
141
- * OPUS-bible_uedin-v1-eng-fra
142
- * OPUS-giga_fren-v2-eng-fra
143
- * OPUS-infopankki-v1-eng-fra
144
- * OPUS-tico_19-v20201028-eng-fra
145
- * OPUS-tldr_pages-v20230829-eng-fra
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
27
 
28
  # `quickmt` fr-en Training Corpus
29
 
30
+ Contains the following datasets downloaded with mtdata after deduplication, and basic filtering with quickmt:
31
 
32
+ * Statmt-commoncrawl_wmt13-1-fra-eng
33
+ * Statmt-europarl_wmt13-7-fra-eng
34
+ * Statmt-europarl-7-fra-eng
35
+ * Statmt-news_commentary-14-eng-fra
36
+ * Statmt-news_commentary-15-eng-fra
37
+ * Statmt-news_commentary-16-eng-fra
38
+ * Statmt-news_commentary-17-eng-fra
39
+ * Statmt-news_commentary-18-eng-fra
40
+ * Statmt-news_commentary-18.1-eng-fra
41
+ * Statmt-newstest_fren-2014-fra-eng
42
+ * Statmt-newstest-2009-eng-fra
43
+ * Statmt-newstest-2010-eng-fra
44
+ * Statmt-newstest-2011-eng-fra
45
+ * Statmt-newstest-2012-eng-fra
46
+ * Statmt-newstest-2013-eng-fra
47
+ * Statmt-europarl-10-fra-eng
48
+ * Tilde-eesc-2017-eng-fra
49
+ * Tilde-ema-2016-eng-fra
50
+ * Tilde-czechtourism-1-eng-fra
51
+ * Tilde-ecb-2017-eng-fra
52
+ * Tilde-rapid-2016-eng-fra
53
+ * Tilde-worldbank-1-eng-fra
54
+ * Lindat-khresmoi_summary_test-2-eng-fra
55
+ * Lindat-khresmoi_summary_dev-2-eng-fra
56
+ * Neulab-tedtalks_train-1-eng-fra
57
+ * Neulab-tedtalks_test-1-eng-fra
58
+ * Neulab-tedtalks_dev-1-eng-fra
59
+ * EU-ecdc-1-eng-fra
60
+ * EU-eac_forms-1-eng-fra
61
+ * EU-eac_reference-1-eng-fra
62
+ * EU-dcep-1-eng-fra
63
+ * LinguaTools-wikititles-2014-eng-fra
64
+ * OPUS-books-v1-eng-fra
65
+ * OPUS-ccaligned-v1-eng-fra
66
+ * OPUS-dgt-v2019-eng-fra
67
+ * OPUS-dgt-v4-eng-fra
68
+ * OPUS-ecb-v1-eng-fra
69
+ * OPUS-ecdc-v20160316-eng-fra
70
+ * OPUS-elitr_eca-v1-eng-fra
71
+ * OPUS-elra_w0138-v1-eng-fra
72
+ * OPUS-elra_w0149-v1-eng-fra
73
+ * OPUS-elra_w0201-v1-eng-fra
74
+ * OPUS-elra_w0301-v1-eng-fra
75
+ * OPUS-elra_w0305-v1-eng-fra
76
+ * OPUS-elra_w0307-v1-eng-fra
77
+ * OPUS-elra_w0308-v1-eng-fra
78
+ * OPUS-elra_w0309-v1-eng-fra
79
+ * OPUS-elrc_1075_euipo_law-v1-eng-fra
80
+ * OPUS-elrc_1100_euipo_list-v1-eng-fra
81
+ * OPUS-elrc_1118_cordis_news-v1-eng-fra
82
+ * OPUS-elrc_1122_cordis_results_brief-v1-eng-fra
83
+ * OPUS-elrc_2018_euipo_2017-v1-eng-fra
84
+ * OPUS-elrc_2410_portal_oficial_turis-v1-eng-fra
85
+ * OPUS-elrc_2480_estatuto_dos_deputad-v1-eng-fra
86
+ * OPUS-elrc_2481_constituio_da_repbli-v1-eng-fra
87
+ * OPUS-elrc_2612_artigos_visitportuga-v1-eng-fra
88
+ * OPUS-elrc_2614_localidades_2007-v1-eng-fra
89
+ * OPUS-elrc_2616_museus_2007-v1-eng-fra
90
+ * OPUS-elrc_2622_arquitectura_2007-v1-eng-fra
91
+ * OPUS-elrc_2623_patrimnio_aores_2006-v1-eng-fra
92
+ * OPUS-elrc_2638_monumentos_2007-v1-eng-fra
93
+ * OPUS-elrc_2639_parques_e_reservas-v1-eng-fra
94
+ * OPUS-elrc_2641_praias_2007-v1-eng-fra
95
+ * OPUS-elrc_2720_emea-v1-eng-fra
96
+ * OPUS-elrc_2732_vaccination-v1-eng-fra
97
+ * OPUS-elrc_2879_eu_publications_medi-v1-eng-fra
98
+ * OPUS-elrc_3074_wikipedia_health-v1-eng-fra
99
+ * OPUS-elrc_3208_antibiotic-v1-eng-fra
100
+ * OPUS-elrc_3297_europarl_covid-v1-eng-fra
101
+ * OPUS-elrc_3468_ec_europa_covid-v1-eng-fra
102
+ * OPUS-elrc_3569_eur_lex_covid-v1-eng-fra
103
+ * OPUS-elrc_3610_presscorner_covid-v1-eng-fra
104
+ * OPUS-elrc_3852_development_funds_re-v1-eng-fra
105
+ * OPUS-elrc_401_swedish_labour_part2-v1-eng-fra
106
+ * OPUS-elrc_403_rights_arrested-v1-eng-fra
107
+ * OPUS-elrc_406_swedish_labour_part1-v1-eng-fra
108
+ * OPUS-elrc_416_swedish_social_secur-v1-eng-fra
109
+ * OPUS-elrc_417_swedish_work_environ-v1-eng-fra
110
+ * OPUS-elrc_422_portuguese_legislati-v1-eng-fra
111
+ * OPUS-elrc_4329_principle_mvep_legal-v1-eng-fra
112
+ * OPUS-elrc_436_swedish_food-v1-eng-fra
113
+ * OPUS-elrc_5067_scipar-v1-eng-fra
114
+ * OPUS-elrc_5220_information_crime_vi-v1-eng-fra
115
+ * OPUS-elrc_637_sip-v1-eng-fra
116
+ * OPUS-elrc_638_luxembourg.lu-v1-eng-fra
117
+ * OPUS-elrc_646_international_judici-v1-eng-fra
118
+ * OPUS-elrc_648_letter_rights_person-v1-eng-fra
119
+ * OPUS-elrc_745_convention_against_t-v1-eng-fra
120
+ * OPUS-elrc_816_anr_containing_major-v1-eng-fra
121
+ * OPUS-elrc_832_charter_values_citiz-v1-eng-fra
122
+ * OPUS-elrc_837_legal-v1-eng-fra
123
+ * OPUS-elrc_844_paesi__administratio-v1-eng-fra
124
+ * OPUS-elrc_arquitectura_2007-v1-eng-fra
125
+ * OPUS-elrc_artigos_visitportuga-v1-eng-fra
126
+ * OPUS-elrc_cordis_news-v1-eng-fra
127
+ * OPUS-elrc_cordis_results-v1-eng-fra
128
+ * OPUS-elrc_ec_europa-v1-eng-fra
129
+ * OPUS-elrc_emea-v1-eng-fra
130
+ * OPUS-elrc_euipo_2017-v1-eng-fra
131
+ * OPUS-elrc_euipo_law-v1-eng-fra
132
+ * OPUS-elrc_euipo_list-v1-eng-fra
133
+ * OPUS-elrc_europarl_covid-v1-eng-fra
134
+ * OPUS-elrc_eur_lex-v1-eng-fra
135
+ * OPUS-elrc_eu_publications-v1-eng-fra
136
+ * OPUS-elrc_localidades_2007-v1-eng-fra
137
+ * OPUS-elrc_museus_2007-v1-eng-fra
138
+ * OPUS-elrc_parques_e-v1-eng-fra
139
+ * OPUS-elrc_patrimnio_aores-v1-eng-fra
140
+ * OPUS-elrc_portuguese_legislati-v1-eng-fra
141
+ * OPUS-elrc_praias_2007-v1-eng-fra
142
+ * OPUS-elrc_swedish_labour-v1-eng-fra
143
+ * OPUS-elrc_antibiotic-v1-eng-fra
144
+ * OPUS-elrc_presscorner_covid-v1-eng-fra
145
+ * OPUS-elrc_vaccination-v1-eng-fra
146
+ * OPUS-elrc_wikipedia_health-v1-eng-fra
147
+ * OPUS-elrc_2922-v1-eng-fra
148
+ * OPUS-elrc_2923-v1-eng-fra
149
+ * OPUS-elrc_3382-v1-eng-fra
150
+ * OPUS-emea-v3-eng-fra
151
+ * OPUS-eubookshop-v2-eng-fra
152
+ * OPUS-euconst-v1-eng-fra
153
+ * OPUS-europat-v1-eng-fra
154
+ * OPUS-europat-v2-eng-fra
155
+ * OPUS-europat-v3-eng-fra
156
+ * OPUS-europarl-v7-eng-fra
157
+ * OPUS-europarl-v8-eng-fra
158
+ * OPUS-gnome-v1-eng-fra
159
+ * OPUS-globalvoices-v2015-eng-fra
160
+ * OPUS-globalvoices-v2017q3-eng-fra
161
+ * OPUS-globalvoices-v2018q4-eng-fra
162
+ * OPUS-jrc_acquis-v3.0-eng-fra
163
+ * OPUS-kde4-v2-eng-fra
164
+ * OPUS-kdedoc-v1-eng_GB-fra
165
+ * OPUS-linguatools_wikititles-v2014-eng-fra
166
+ * OPUS-mdn_web_docs-v20230925-eng-fra
167
+ * OPUS-neulab_tedtalks-v1-eng-fra
168
+ * OPUS-neulab_tedtalks-v1-eng-fra_CA
169
+ * OPUS-news_commentary-v11-eng-fra
170
+ * OPUS-news_commentary-v14-eng-fra
171
+ * OPUS-news_commentary-v16-eng-fra
172
+ * OPUS-news_commentary-v9.0-eng-fra
173
+ * OPUS-news_commentary-v9.1-eng-fra
174
+ * OPUS-openoffice-v2-eng-fra
175
+ * OPUS-openoffice-v3-eng_GB-fra
176
+ * OPUS-opensubtitles-v1-eng-fra
177
+ * OPUS-opensubtitles-v2016-eng-fra
178
+ * OPUS-opensubtitles-v2018-eng-fra
179
+ * OPUS-opensubtitles-v2024-eng-fra
180
+ * OPUS-php-v1-eng-fra
181
+ * OPUS-paracrawl-v7.1-eng-fra
182
+ * OPUS-paracrawl-v8-eng-fra
183
+ * OPUS-paracrawl-v9-eng-fra
184
+ * OPUS-qed-v2.0a-eng-fra
185
+ * OPUS-rf-v1-eng-fra
186
+ * OPUS-salome-v1-eng-fra
187
+ * OPUS-ted2013-v1.1-eng-fra
188
+ * OPUS-ted2020-v1-eng-fra
189
+ * OPUS-ted2020-v1-eng-fra_CA
190
+ * OPUS-tanzil-v1-eng-fra
191
+ * OPUS-tatoeba-v2-eng-fra
192
+ * OPUS-tatoeba-v20190709-eng-fra
193
+ * OPUS-tatoeba-v20200531-eng-fra
194
+ * OPUS-tatoeba-v20201109-eng-fra
195
+ * OPUS-tatoeba-v20210310-eng-fra
196
+ * OPUS-tatoeba-v20210722-eng-fra
197
+ * OPUS-tatoeba-v20220303-eng-fra
198
+ * OPUS-tatoeba-v20230412-eng-fra
199
+ * OPUS-tildemodel-v2018-eng-fra
200
+ * OPUS-unpc-v1.0-eng-fra
201
+ * OPUS-ubuntu-v14.10-eng-fra
202
+ * OPUS-wmt_news-v2014-eng-fra
203
+ * OPUS-wmt_news-v2019-eng-fra
204
+ * OPUS-wikimatrix-v1-eng-fra
205
+ * OPUS-wikipedia-v1.0-eng-fra
206
+ * OPUS-xlent-v1-eng-fra
207
+ * OPUS-xlent-v1.1-eng-fra
208
+ * OPUS-xlent-v1.2-eng-fra
209
+ * OPUS-bible_uedin-v1-eng-fra
210
+ * OPUS-giga_fren-v2-eng-fra
211
+ * OPUS-infopankki-v1-eng-fra
212
+ * OPUS-tico_19-v20201028-eng-fra
213
+ * OPUS-tldr_pages-v20230829-eng-fra
214
+ * OPUS-wikimedia-v20210402-eng-fra
215
+ * OPUS-wikimedia-v20230407-eng-fra