han1823123123 commited on
Commit
8b5c439
·
verified ·
1 Parent(s): 9b1fc66

Upload experiments/phase6_qualitative_latents/concat_corpora/concat_random.json with huggingface_hub

Browse files
experiments/phase6_qualitative_latents/concat_corpora/concat_random.json ADDED
@@ -0,0 +1,1882 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "token_ids": [
3
+ 2,
4
+ 159281,
5
+ 235265,
6
+ 872,
7
+ 3833,
8
+ 10488,
9
+ 9475,
10
+ 231255,
11
+ 82496,
12
+ 4847,
13
+ 578,
14
+ 3980,
15
+ 235265,
16
+ 10769,
17
+ 622,
18
+ 861,
19
+ 4544,
20
+ 604,
21
+ 9475,
22
+ 231255,
23
+ 32047,
24
+ 731,
25
+ 7035,
26
+ 6016,
27
+ 2713,
28
+ 235265,
29
+ 8682,
30
+ 476,
31
+ 3614,
32
+ 578,
33
+ 22792,
34
+ 21255,
35
+ 731,
36
+ 43304,
37
+ 8637,
38
+ 26178,
39
+ 604,
40
+ 9475,
41
+ 231255,
42
+ 41446,
43
+ 235265,
44
+ 9429,
45
+ 73115,
46
+ 235265,
47
+ 872,
48
+ 21200,
49
+ 82496,
50
+ 575,
51
+ 21891,
52
+ 877,
53
+ 3255,
54
+ 2223,
55
+ 7035,
56
+ 71848,
57
+ 578,
58
+ 832,
59
+ 791,
60
+ 21891,
61
+ 2912,
62
+ 21572,
63
+ 235265,
64
+ 108,
65
+ 651,
66
+ 21891,
67
+ 10080,
68
+ 24229,
69
+ 11856,
70
+ 39930,
71
+ 65270,
72
+ 13637,
73
+ 1378,
74
+ 42587,
75
+ 604,
76
+ 40640,
77
+ 576,
78
+ 573,
79
+ 108,
80
+ 82863,
81
+ 69029,
82
+ 14002,
83
+ 578,
84
+ 5101,
85
+ 5031,
86
+ 235265,
87
+ 4859,
88
+ 21891,
89
+ 6698,
90
+ 788,
91
+ 235265,
92
+ 235248,
93
+ 235321,
94
+ 235321,
95
+ 591,
96
+ 235284,
97
+ 235276,
98
+ 235276,
99
+ 235315,
100
+ 846,
101
+ 39930,
102
+ 65270,
103
+ 32947,
104
+ 81667,
105
+ 108,
106
+ 785,
107
+ 576,
108
+ 573,
109
+ 42587,
110
+ 235265,
111
+ 714,
112
+ 3277,
113
+ 3416,
114
+ 22215,
115
+ 577,
116
+ 10247,
117
+ 573,
118
+ 2257,
119
+ 54862,
120
+ 731,
121
+ 2804,
122
+ 108,
123
+ 955,
124
+ 577,
125
+ 6824,
126
+ 578,
127
+ 17680,
128
+ 576,
129
+ 43112,
130
+ 235265,
131
+ 2,
132
+ 651,
133
+ 97582,
134
+ 26830,
135
+ 591,
136
+ 59671,
137
+ 3151,
138
+ 573,
139
+ 21369,
140
+ 26830,
141
+ 235275,
142
+ 780,
143
+ 1297,
144
+ 13753,
145
+ 573,
146
+ 13087,
147
+ 2819,
148
+ 832,
149
+ 14386,
150
+ 5191,
151
+ 901,
152
+ 665,
153
+ 1170,
154
+ 13753,
155
+ 1368,
156
+ 573,
157
+ 4075,
158
+ 235269,
159
+ 6724,
160
+ 578,
161
+ 7640,
162
+ 7920,
163
+ 9276,
164
+ 7345,
165
+ 577,
166
+ 7872,
167
+ 832,
168
+ 576,
169
+ 573,
170
+ 611,
171
+ 235290,
172
+ 7632,
173
+ 9276,
174
+ 235265,
175
+ 714,
176
+ 178828,
177
+ 573,
178
+ 97582,
179
+ 26830,
180
+ 573,
181
+ 6561,
182
+ 573,
183
+ 2416,
184
+ 13087,
185
+ 578,
186
+ 573,
187
+ 4871,
188
+ 573,
189
+ 52100,
190
+ 576,
191
+ 14386,
192
+ 2881,
193
+ 54989,
194
+ 235265,
195
+ 1704,
196
+ 1013,
197
+ 573,
198
+ 97582,
199
+ 26830,
200
+ 4098,
201
+ 235303,
202
+ 235251,
203
+ 1611,
204
+ 573,
205
+ 11462,
206
+ 674,
207
+ 603,
208
+ 1671,
209
+ 575,
210
+ 832,
211
+ 15630,
212
+ 3381,
213
+ 1492,
214
+ 573,
215
+ 9276,
216
+ 578,
217
+ 96867,
218
+ 877,
219
+ 614,
220
+ 5206,
221
+ 17165,
222
+ 575,
223
+ 832,
224
+ 5191,
225
+ 235265,
226
+ 108,
227
+ 886,
228
+ 2184,
229
+ 577,
230
+ 6824,
231
+ 13650,
232
+ 2881,
233
+ 578,
234
+ 2416,
235
+ 13087,
236
+ 476,
237
+ 4953,
238
+ 2004,
239
+ 14652,
240
+ 4810,
241
+ 573,
242
+ 11462,
243
+ 97582,
244
+ 26830,
245
+ 235265,
246
+ 7304,
247
+ 235248,
248
+ 235304,
249
+ 4918,
250
+ 573,
251
+ 11618,
252
+ 97582,
253
+ 101913,
254
+ 604,
255
+ 573,
256
+ 110859,
257
+ 22814,
258
+ 573,
259
+ 2,
260
+ 100850,
261
+ 3848,
262
+ 16935,
263
+ 1877,
264
+ 235292,
265
+ 50012,
266
+ 2916,
267
+ 23448,
268
+ 108,
269
+ 38366,
270
+ 5649,
271
+ 235292,
272
+ 50012,
273
+ 27402,
274
+ 2916,
275
+ 23448,
276
+ 108,
277
+ 2504,
278
+ 4324,
279
+ 35359,
280
+ 235292,
281
+ 5824,
282
+ 235248,
283
+ 235284,
284
+ 235315,
285
+ 235269,
286
+ 235248,
287
+ 235274,
288
+ 235315,
289
+ 235315,
290
+ 235318,
291
+ 591,
292
+ 11345,
293
+ 235248,
294
+ 235274,
295
+ 235315,
296
+ 235275,
297
+ 108,
298
+ 16311,
299
+ 4324,
300
+ 35359,
301
+ 235292,
302
+ 7253,
303
+ 108,
304
+ 38366,
305
+ 11142,
306
+ 235292,
307
+ 207817,
308
+ 235269,
309
+ 21418,
310
+ 108,
311
+ 7000,
312
+ 235292,
313
+ 235248,
314
+ 235308,
315
+ 235303,
316
+ 235248,
317
+ 235321,
318
+ 235281,
319
+ 591,
320
+ 235274,
321
+ 235265,
322
+ 235324,
323
+ 235284,
324
+ 519,
325
+ 235275,
326
+ 108,
327
+ 96630,
328
+ 2916,
329
+ 23448,
330
+ 603,
331
+ 671,
332
+ 3725,
333
+ 14250,
334
+ 235269,
335
+ 578,
336
+ 729,
337
+ 7565,
338
+ 611,
339
+ 5824,
340
+ 235248,
341
+ 235284,
342
+ 235315,
343
+ 235269,
344
+ 235248,
345
+ 235274,
346
+ 235315,
347
+ 235315,
348
+ 235318,
349
+ 575,
350
+ 207817,
351
+ 235269,
352
+ 21418,
353
+ 235265,
354
+ 2916,
355
+ 23448,
356
+ 235303,
357
+ 235256,
358
+ 1370,
359
+ 1536,
360
+ 8959,
361
+ 4731,
362
+ 729,
363
+ 685,
364
+ 49806,
365
+ 23338,
366
+ 235303,
367
+ 235256,
368
+ 57557,
369
+ 24866,
370
+ 611,
371
+ 573,
372
+ 90949,
373
+ 17046,
374
+ 63769,
375
+ 23037,
376
+ 235265,
377
+ 28738,
378
+ 577,
379
+ 674,
380
+ 235269,
381
+ 693,
382
+ 6991,
383
+ 573,
384
+ 3486,
385
+ 3797,
386
+ 576,
387
+ 2,
388
+ 235285,
389
+ 235349,
390
+ 524,
391
+ 1125,
392
+ 476,
393
+ 2356,
394
+ 1706,
395
+ 7378,
396
+ 578,
397
+ 5326,
398
+ 577,
399
+ 5774,
400
+ 921,
401
+ 3165,
402
+ 235265,
403
+ 1165,
404
+ 20425,
405
+ 682,
406
+ 736,
407
+ 5764,
408
+ 235265,
409
+ 1877,
410
+ 476,
411
+ 3278,
412
+ 793,
413
+ 974,
414
+ 603,
415
+ 3364,
416
+ 2319,
417
+ 921,
418
+ 576,
419
+ 1024,
420
+ 1703,
421
+ 604,
422
+ 9004,
423
+ 235265,
424
+ 12236,
425
+ 5616,
426
+ 235349,
427
+ 235251,
428
+ 5694,
429
+ 235265,
430
+ 2961,
431
+ 8616,
432
+ 1721,
433
+ 476,
434
+ 51361,
435
+ 604,
436
+ 1167,
437
+ 2730,
438
+ 578,
439
+ 604,
440
+ 573,
441
+ 5982,
442
+ 235265,
443
+ 1474,
444
+ 573,
445
+ 5982,
446
+ 708,
447
+ 7786,
448
+ 235269,
449
+ 1013,
450
+ 24654,
451
+ 104614,
452
+ 235265,
453
+ 2005,
454
+ 590,
455
+ 729,
456
+ 12728,
457
+ 3584,
458
+ 970,
459
+ 8616,
460
+ 235349,
461
+ 235256,
462
+ 1763,
463
+ 604,
464
+ 1357,
465
+ 577,
466
+ 791,
467
+ 2775,
468
+ 8056,
469
+ 1185,
470
+ 693,
471
+ 14954,
472
+ 46607,
473
+ 577,
474
+ 573,
475
+ 1986,
476
+ 4673,
477
+ 696,
478
+ 235248,
479
+ 235324,
480
+ 591,
481
+ 3276,
482
+ 235269,
483
+ 1443,
484
+ 235269,
485
+ 970,
486
+ 8616,
487
+ 24264,
488
+ 1167,
489
+ 8586,
490
+ 577,
491
+ 573,
492
+ 1986,
493
+ 4673,
494
+ 235269,
495
+ 590,
496
+ 2277,
497
+ 1476,
498
+ 577,
499
+ 4673,
500
+ 49261,
501
+ 823,
502
+ 578,
503
+ 590,
504
+ 16729,
505
+ 674,
506
+ 774,
507
+ 573,
508
+ 4318,
509
+ 590,
510
+ 18757,
511
+ 908,
512
+ 590,
513
+ 235349,
514
+ 235262,
515
+ 2,
516
+ 89939,
517
+ 176230,
518
+ 19373,
519
+ 235303,
520
+ 235251,
521
+ 15143,
522
+ 476,
523
+ 3591,
524
+ 8022,
525
+ 2754,
526
+ 235248,
527
+ 235284,
528
+ 235276,
529
+ 235274,
530
+ 235284,
531
+ 235269,
532
+ 901,
533
+ 3646,
534
+ 1284,
535
+ 13245,
536
+ 476,
537
+ 888,
538
+ 5169,
539
+ 3151,
540
+ 664,
541
+ 12397,
542
+ 82039,
543
+ 1985,
544
+ 948,
545
+ 1284,
546
+ 14613,
547
+ 577,
548
+ 573,
549
+ 20516,
550
+ 576,
551
+ 573,
552
+ 235248,
553
+ 235284,
554
+ 235276,
555
+ 235274,
556
+ 235318,
557
+ 38731,
558
+ 98316,
559
+ 15364,
560
+ 235265,
561
+ 108,
562
+ 52803,
563
+ 2463,
564
+ 2343,
565
+ 95397,
566
+ 6559,
567
+ 664,
568
+ 12397,
569
+ 82039,
570
+ 1496,
571
+ 22235,
572
+ 176230,
573
+ 611,
574
+ 573,
575
+ 7029,
576
+ 603,
577
+ 573,
578
+ 55644,
579
+ 1775,
580
+ 15338,
581
+ 5398,
582
+ 578,
583
+ 3661,
584
+ 21709,
585
+ 63502,
586
+ 74690,
587
+ 235269,
588
+ 1064,
589
+ 7378,
590
+ 7784,
591
+ 5213,
592
+ 935,
593
+ 40205,
594
+ 235303,
595
+ 235256,
596
+ 33118,
597
+ 235290,
598
+ 12580,
599
+ 664,
600
+ 2394,
601
+ 46203,
602
+ 1464,
603
+ 19011,
604
+ 525,
605
+ 77768,
606
+ 235269,
607
+ 664,
608
+ 12397,
609
+ 82039,
610
+ 235281,
611
+ 603,
612
+ 1508,
613
+ 1683,
614
+ 575,
615
+ 674,
616
+ 21405,
617
+ 4058,
618
+ 235265,
619
+ 3980,
620
+ 577,
621
+ 10724,
622
+ 577,
623
+ 235269,
624
+ 3980,
625
+ 577,
626
+ 11877,
627
+ 577,
628
+ 235269,
629
+ 476,
630
+ 21405,
631
+ 5744,
632
+ 235269,
633
+ 166962,
634
+ 235269,
635
+ 113898,
636
+ 476,
637
+ 2965,
638
+ 576,
639
+ 28056,
640
+ 724,
641
+ 4078,
642
+ 1064,
643
+ 0,
644
+ 0,
645
+ 0,
646
+ 0,
647
+ 0,
648
+ 0,
649
+ 0,
650
+ 0,
651
+ 0,
652
+ 0,
653
+ 0,
654
+ 0,
655
+ 0,
656
+ 0,
657
+ 0,
658
+ 0,
659
+ 0,
660
+ 0,
661
+ 0,
662
+ 0,
663
+ 2,
664
+ 17937,
665
+ 37453,
666
+ 47843,
667
+ 578,
668
+ 10575,
669
+ 3053,
670
+ 108,
671
+ 8587,
672
+ 6237,
673
+ 575,
674
+ 108,
675
+ 7162,
676
+ 692,
677
+ 888,
678
+ 235336,
679
+ 108,
680
+ 648,
681
+ 692,
682
+ 1453,
683
+ 235303,
684
+ 235251,
685
+ 791,
686
+ 671,
687
+ 3185,
688
+ 3599,
689
+ 235265,
690
+ 3339,
691
+ 25183,
692
+ 908,
693
+ 604,
694
+ 671,
695
+ 3185,
696
+ 692,
697
+ 877,
698
+ 614,
699
+ 3326,
700
+ 577,
701
+ 7290,
702
+ 7339,
703
+ 578,
704
+ 235283,
705
+ 483,
706
+ 2523,
707
+ 604,
708
+ 186245,
709
+ 235269,
710
+ 9700,
711
+ 31306,
712
+ 235269,
713
+ 578,
714
+ 19853,
715
+ 1593,
716
+ 573,
717
+ 4451,
718
+ 235265,
719
+ 108,
720
+ 17937,
721
+ 37453,
722
+ 47843,
723
+ 724,
724
+ 10575,
725
+ 3053,
726
+ 1420,
727
+ 235248,
728
+ 235304,
729
+ 235276,
730
+ 235318,
731
+ 64138,
732
+ 25860,
733
+ 6769,
734
+ 235269,
735
+ 22605,
736
+ 235269,
737
+ 22157,
738
+ 235248,
739
+ 235324,
740
+ 235321,
741
+ 235324,
742
+ 235276,
743
+ 235310,
744
+ 1420,
745
+ 591,
746
+ 235308,
747
+ 235274,
748
+ 235284,
749
+ 235275,
750
+ 235248,
751
+ 235310,
752
+ 235321,
753
+ 235276,
754
+ 235290,
755
+ 235276,
756
+ 235315,
757
+ 235308,
758
+ 235284,
759
+ 1420,
760
+ 108,
761
+ 14803,
762
+ 731,
763
+ 11532,
764
+ 5552,
765
+ 235265,
766
+ 1841,
767
+ 235265,
768
+ 4115,
769
+ 235265,
770
+ 1420,
771
+ 2,
772
+ 235300,
773
+ 811,
774
+ 7220,
775
+ 576,
776
+ 92893,
777
+ 42932,
778
+ 108,
779
+ 1095,
780
+ 235265,
781
+ 646,
782
+ 811,
783
+ 7220,
784
+ 591,
785
+ 235274,
786
+ 235321,
787
+ 235310,
788
+ 235318,
789
+ 235290,
790
+ 235274,
791
+ 235315,
792
+ 235284,
793
+ 235276,
794
+ 823,
795
+ 40880,
796
+ 576,
797
+ 92893,
798
+ 42932,
799
+ 578,
800
+ 27539,
801
+ 28673,
802
+ 576,
803
+ 46298,
804
+ 5617,
805
+ 235269,
806
+ 729,
807
+ 26184,
808
+ 14712,
809
+ 685,
810
+ 476,
811
+ 21601,
812
+ 731,
813
+ 573,
814
+ 29583,
815
+ 178555,
816
+ 112662,
817
+ 607,
818
+ 576,
819
+ 89615,
820
+ 575,
821
+ 235248,
822
+ 235274,
823
+ 235315,
824
+ 235318,
825
+ 235274,
826
+ 235265,
827
+ 4340,
828
+ 42441,
829
+ 1744,
830
+ 603,
831
+ 25883,
832
+ 611,
833
+ 5516,
834
+ 235248,
835
+ 235315,
836
+ 235265,
837
+ 1315,
838
+ 603,
839
+ 3695,
840
+ 13059,
841
+ 577,
842
+ 685,
843
+ 646,
844
+ 811,
845
+ 7220,
846
+ 576,
847
+ 92893,
848
+ 42932,
849
+ 689,
850
+ 646,
851
+ 811,
852
+ 7220,
853
+ 576,
854
+ 46298,
855
+ 5617,
856
+ 235269,
857
+ 578,
858
+ 926,
859
+ 1503,
860
+ 603,
861
+ 6947,
862
+ 73003,
863
+ 646,
864
+ 30292,
865
+ 7220,
866
+ 235265,
867
+ 108,
868
+ 1095,
869
+ 235265,
870
+ 646,
871
+ 811,
872
+ 7220,
873
+ 729,
874
+ 7565,
875
+ 611,
876
+ 5424,
877
+ 235248,
878
+ 235274,
879
+ 235269,
880
+ 235248,
881
+ 235274,
882
+ 235321,
883
+ 235310,
884
+ 235318,
885
+ 235269,
886
+ 575,
887
+ 570,
888
+ 1572,
889
+ 995,
890
+ 4016,
891
+ 575,
892
+ 904,
893
+ 11401,
894
+ 577,
895
+ 476,
896
+ 6528,
897
+ 2730,
898
+ 235265,
899
+ 2,
900
+ 41261,
901
+ 576,
902
+ 99330,
903
+ 851,
904
+ 48294,
905
+ 9579,
906
+ 30451,
907
+ 235292,
908
+ 108,
909
+ 37049,
910
+ 919,
911
+ 76358,
912
+ 577,
913
+ 970,
914
+ 20021,
915
+ 675,
916
+ 235292,
917
+ 108,
918
+ 1581,
919
+ 5546,
920
+ 235269,
921
+ 692,
922
+ 708,
923
+ 4756,
924
+ 5206,
925
+ 235265,
926
+ 2456,
927
+ 708,
928
+ 12404,
929
+ 4381,
930
+ 576,
931
+ 4073,
932
+ 675,
933
+ 476,
934
+ 2983,
935
+ 13202,
936
+ 22649,
937
+ 1985,
938
+ 108,
939
+ 235285,
940
+ 3590,
941
+ 577,
942
+ 674,
943
+ 590,
944
+ 28555,
945
+ 674,
946
+ 108,
947
+ 235285,
948
+ 1144,
949
+ 780,
950
+ 5206,
951
+ 235265,
952
+ 590,
953
+ 1498,
954
+ 780,
955
+ 1931,
956
+ 4341,
957
+ 1105,
958
+ 573,
959
+ 13879,
960
+ 576,
961
+ 4073,
962
+ 3372,
963
+ 476,
964
+ 26675,
965
+ 604,
966
+ 1277,
967
+ 4018,
968
+ 235265,
969
+ 590,
970
+ 1297,
971
+ 13704,
972
+ 1105,
973
+ 573,
974
+ 20911,
975
+ 575,
976
+ 573,
977
+ 21989,
978
+ 575,
979
+ 2872,
980
+ 235269,
981
+ 948,
982
+ 575,
983
+ 2252,
984
+ 919,
985
+ 793,
986
+ 26675,
987
+ 235265,
988
+ 108,
989
+ 651,
990
+ 15513,
991
+ 590,
992
+ 1501,
993
+ 708,
994
+ 780,
995
+ 3749,
996
+ 92775,
997
+ 235269,
998
+ 901,
999
+ 3920,
1000
+ 576,
1001
+ 5039,
1002
+ 33342,
1003
+ 578,
1004
+ 36412,
1005
+ 235269,
1006
+ 948,
1007
+ 104296,
1008
+ 590,
1009
+ 14537,
1010
+ 604,
1011
+ 1767,
1012
+ 1658,
1013
+ 235269,
1014
+ 578,
1015
+ 1693,
1016
+ 575,
1017
+ 20223,
1018
+ 2493,
1019
+ 235265,
1020
+ 108,
1021
+ 105303,
1022
+ 4670,
1023
+ 674,
1024
+ 590,
1025
+ 791,
1026
+ 780,
1027
+ 2,
1028
+ 10944,
1029
+ 235248,
1030
+ 235276,
1031
+ 235274,
1032
+ 235269,
1033
+ 235248,
1034
+ 235284,
1035
+ 235276,
1036
+ 235276,
1037
+ 235321,
1038
+ 108,
1039
+ 96544,
1040
+ 183649,
1041
+ 16688,
1042
+ 235292,
1043
+ 498,
1044
+ 504,
1045
+ 235284,
1046
+ 108,
1047
+ 235260,
1048
+ 504,
1049
+ 235284,
1050
+ 235303,
1051
+ 235256,
1052
+ 9671,
1053
+ 603,
1054
+ 577,
1055
+ 84859,
1056
+ 6910,
1057
+ 5404,
1058
+ 774,
1059
+ 476,
1060
+ 4391,
1061
+ 576,
1062
+ 2307,
1063
+ 235283,
1064
+ 12234,
1065
+ 577,
1066
+ 6044,
1067
+ 72914,
1068
+ 674,
1069
+ 16732,
1070
+ 217233,
1071
+ 35461,
1072
+ 22908,
1073
+ 19097,
1074
+ 235303,
1075
+ 8409,
1076
+ 578,
1077
+ 20614,
1078
+ 38291,
1079
+ 7679,
1080
+ 2212,
1081
+ 235265,
1082
+ 1448,
1083
+ 4564,
1084
+ 674,
1085
+ 7822,
1086
+ 6790,
1087
+ 3505,
1088
+ 576,
1089
+ 37977,
1090
+ 578,
1091
+ 1156,
1092
+ 22908,
1093
+ 21780,
1094
+ 798,
1095
+ 614,
1096
+ 20085,
1097
+ 1593,
1098
+ 13315,
1099
+ 235269,
1100
+ 7475,
1101
+ 14927,
1102
+ 34173,
1103
+ 4026,
1104
+ 37921,
1105
+ 235265,
1106
+ 3766,
1107
+ 4026,
1108
+ 37921,
1109
+ 2389,
1110
+ 577,
1111
+ 573,
1112
+ 3505,
1113
+ 576,
1114
+ 7017,
1115
+ 14869,
1116
+ 674,
1117
+ 14915,
1118
+ 52722,
1119
+ 578,
1120
+ 16688,
1121
+ 4665,
1122
+ 235265,
1123
+ 108,
1124
+ 235260,
1125
+ 504,
1126
+ 235284,
1127
+ 603,
1128
+ 67875,
1129
+ 731,
1130
+ 573,
1131
+ 23899,
1132
+ 7090,
1133
+ 578,
1134
+ 1277,
1135
+ 8691,
1136
+ 6910,
1137
+ 5404,
1138
+ 24434,
1139
+ 603,
1140
+ 4024,
1141
+ 11618,
1142
+ 731,
1143
+ 48973,
1144
+ 498,
1145
+ 504,
1146
+ 235284,
1147
+ 235303,
1148
+ 235256,
1149
+ 72210,
1150
+ 578,
1151
+ 19216,
1152
+ 675,
1153
+ 573,
1154
+ 7776,
1155
+ 2,
1156
+ 651,
1157
+ 7354,
1158
+ 7469,
1159
+ 34575,
1160
+ 3339,
1161
+ 20143,
1162
+ 26588,
1163
+ 15446,
1164
+ 618,
1165
+ 108,
1166
+ 3493,
1167
+ 708,
1168
+ 476,
1169
+ 1758,
1170
+ 576,
1171
+ 2167,
1172
+ 3545,
1173
+ 674,
1174
+ 692,
1175
+ 798,
1176
+ 947,
1177
+ 774,
1178
+ 476,
1179
+ 5912,
1180
+ 52906,
1181
+ 235265,
1182
+ 19896,
1183
+ 984,
1184
+ 708,
1185
+ 3015,
1186
+ 604,
1187
+ 861,
1188
+ 2078,
1189
+ 689,
1190
+ 861,
1191
+ 2567,
1192
+ 235269,
1193
+ 692,
1194
+ 791,
1195
+ 476,
1196
+ 2910,
1197
+ 1758,
1198
+ 576,
1199
+ 4561,
1200
+ 235265,
1201
+ 586,
1202
+ 19767,
1203
+ 12809,
1204
+ 2400,
1205
+ 877,
1206
+ 614,
1207
+ 3326,
1208
+ 577,
1209
+ 7433,
1210
+ 674,
1211
+ 692,
1212
+ 708,
1213
+ 16202,
1214
+ 578,
1215
+ 9065,
1216
+ 14920,
1217
+ 774,
1218
+ 1024,
1219
+ 6790,
1220
+ 3545,
1221
+ 235265,
1222
+ 108,
1223
+ 35519,
1224
+ 576,
1225
+ 10367,
1226
+ 74340,
1227
+ 7620,
1228
+ 108,
1229
+ 4038,
1230
+ 576,
1231
+ 573,
1232
+ 1546,
1233
+ 3818,
1234
+ 3545,
1235
+ 603,
1236
+ 573,
1237
+ 12809,
1238
+ 576,
1239
+ 4134,
1240
+ 10878,
1241
+ 11273,
1242
+ 235265,
1243
+ 3766,
1244
+ 11273,
1245
+ 877,
1246
+ 780,
1247
+ 1297,
1248
+ 2745,
1249
+ 861,
1250
+ 4134,
1251
+ 9350,
1252
+ 1706,
1253
+ 235269,
1254
+ 901,
1255
+ 877,
1256
+ 1170,
1257
+ 2745,
1258
+ 861,
1259
+ 2078,
1260
+ 7965,
1261
+ 978,
1262
+ 10548,
1263
+ 235265,
1264
+ 5655,
1265
+ 11273,
1266
+ 877,
1267
+ 2745,
1268
+ 476,
1269
+ 2078,
1270
+ 774,
1271
+ 7965,
1272
+ 3324,
1273
+ 83474,
1274
+ 689,
1275
+ 7033,
1276
+ 235269,
1277
+ 578,
1278
+ 877,
1279
+ 2142,
1280
+ 575,
1281
+ 2611,
1282
+ 235269,
1283
+ 2,
1284
+ 52661,
1285
+ 919,
1286
+ 1644,
1287
+ 671,
1288
+ 24258,
1289
+ 235269,
1290
+ 2412,
1291
+ 573,
1292
+ 16744,
1293
+ 3905,
1294
+ 674,
1295
+ 573,
1296
+ 888,
1297
+ 20693,
1298
+ 8099,
1299
+ 235248,
1300
+ 235324,
1301
+ 798,
1302
+ 4247,
1303
+ 40281,
1304
+ 2183,
1305
+ 21933,
1306
+ 235265,
1307
+ 235248,
1308
+ 235304,
1309
+ 235308,
1310
+ 33147,
1311
+ 791,
1312
+ 1125,
1313
+ 5504,
1314
+ 712,
1315
+ 2166,
1316
+ 832,
1317
+ 1163,
1318
+ 573,
1319
+ 2134,
1320
+ 578,
1321
+ 736,
1322
+ 603,
1323
+ 780,
1324
+ 577,
1325
+ 1987,
1326
+ 34620,
1327
+ 235265,
1328
+ 108,
1329
+ 2339,
1330
+ 235269,
1331
+ 573,
1332
+ 7108,
1333
+ 708,
1334
+ 1401,
1335
+ 578,
1336
+ 573,
1337
+ 3225,
1338
+ 603,
1339
+ 793,
1340
+ 5543,
1341
+ 2506,
1342
+ 575,
1343
+ 573,
1344
+ 3952,
1345
+ 235265,
1346
+ 12767,
1347
+ 26423,
1348
+ 978,
1349
+ 1461,
1350
+ 235269,
1351
+ 573,
1352
+ 3277,
1353
+ 919,
1354
+ 24456,
1355
+ 4784,
1356
+ 675,
1357
+ 736,
1358
+ 3666,
1359
+ 5248,
1360
+ 577,
1361
+ 2203,
1362
+ 665,
1363
+ 235265,
1364
+ 2456,
1365
+ 877,
1366
+ 614,
1367
+ 19355,
1368
+ 235269,
1369
+ 576,
1370
+ 3205,
1371
+ 235269,
1372
+ 685,
1373
+ 1578,
1374
+ 685,
1375
+ 476,
1376
+ 25791,
1377
+ 2091,
1378
+ 604,
1379
+ 1941,
1380
+ 1064,
1381
+ 2076,
1382
+ 1938,
1383
+ 577,
1384
+ 791,
1385
+ 573,
1386
+ 3724,
1387
+ 2091,
1388
+ 235265,
1389
+ 108,
1390
+ 651,
1391
+ 6218,
1392
+ 576,
1393
+ 20594,
1394
+ 611,
1395
+ 573,
1396
+ 4391,
1397
+ 6128,
1398
+ 685,
1399
+ 6397,
1400
+ 235292,
1401
+ 1080,
1402
+ 1469,
1403
+ 3209,
1404
+ 591,
1405
+ 508,
1406
+ 576,
1407
+ 5225,
1408
+ 235248,
1409
+ 235274,
1410
+ 235275,
1411
+ 2,
1412
+ 2441,
1413
+ 19392,
1414
+ 30408,
1415
+ 235292,
1416
+ 584,
1417
+ 235290,
1418
+ 114724,
1419
+ 510,
1420
+ 3031,
1421
+ 651,
1422
+ 152762,
1423
+ 10921,
1424
+ 235349,
1425
+ 108,
1426
+ 8757,
1427
+ 5878,
1428
+ 235349,
1429
+ 235256,
1430
+ 1997,
1431
+ 640,
1432
+ 235265,
1433
+ 235302,
1434
+ 235265,
1435
+ 235296,
1436
+ 235265,
1437
+ 235291,
1438
+ 235265,
1439
+ 8452,
1440
+ 5119,
1441
+ 476,
1442
+ 14911,
1443
+ 576,
1444
+ 31339,
1445
+ 172339,
1446
+ 235269,
1447
+ 3359,
1448
+ 17066,
1449
+ 8995,
1450
+ 1154,
1451
+ 144484,
1452
+ 46655,
1453
+ 578,
1454
+ 2399,
1455
+ 43045,
1456
+ 235269,
1457
+ 2755,
1458
+ 908,
1459
+ 235290,
1460
+ 639,
1461
+ 235290,
1462
+ 5603,
1463
+ 16850,
1464
+ 1154,
1465
+ 103303,
1466
+ 3031,
1467
+ 47271,
1468
+ 58673,
1469
+ 847,
1470
+ 21150,
1471
+ 570,
1472
+ 235349,
1473
+ 18204,
1474
+ 506,
1475
+ 235269,
1476
+ 6976,
1477
+ 9300,
1478
+ 235269,
1479
+ 578,
1480
+ 235248,
1481
+ 235324,
1482
+ 235276,
1483
+ 235276,
1484
+ 235265,
1485
+ 4414,
1486
+ 235269,
1487
+ 4757,
1488
+ 584,
1489
+ 235290,
1490
+ 114724,
1491
+ 510,
1492
+ 18969,
1493
+ 926,
1494
+ 37691,
1495
+ 4236,
1496
+ 235269,
1497
+ 714,
1498
+ 152762,
1499
+ 10921,
1500
+ 235269,
1501
+ 611,
1502
+ 7253,
1503
+ 12948,
1504
+ 235349,
1505
+ 235256,
1506
+ 4451,
1507
+ 235265,
1508
+ 108,
1509
+ 2045,
1510
+ 1249,
1511
+ 5434,
1512
+ 584,
1513
+ 235290,
1514
+ 114724,
1515
+ 510,
1516
+ 235269,
1517
+ 31564,
1518
+ 8706,
1519
+ 1072,
1520
+ 24589,
1521
+ 235269,
1522
+ 774,
1523
+ 6363,
1524
+ 235349,
1525
+ 235256,
1526
+ 48994,
1527
+ 4616,
1528
+ 7643,
1529
+ 30385,
1530
+ 1157,
1531
+ 573,
1532
+ 3185,
1533
+ 1503,
1534
+ 235290,
1535
+ 14723,
1536
+ 573,
1537
+ 57963,
1538
+ 3757,
1539
+ 0,
1540
+ 0,
1541
+ 0,
1542
+ 0,
1543
+ 0,
1544
+ 0,
1545
+ 0,
1546
+ 0,
1547
+ 0,
1548
+ 0,
1549
+ 0,
1550
+ 0,
1551
+ 0,
1552
+ 0,
1553
+ 0,
1554
+ 0,
1555
+ 0,
1556
+ 0,
1557
+ 0,
1558
+ 0,
1559
+ 0,
1560
+ 0,
1561
+ 0,
1562
+ 0,
1563
+ 0,
1564
+ 0,
1565
+ 0,
1566
+ 0,
1567
+ 0,
1568
+ 0,
1569
+ 0,
1570
+ 0,
1571
+ 0,
1572
+ 0,
1573
+ 0,
1574
+ 0,
1575
+ 0,
1576
+ 0,
1577
+ 0,
1578
+ 0,
1579
+ 0,
1580
+ 0,
1581
+ 0,
1582
+ 0,
1583
+ 0,
1584
+ 2,
1585
+ 18328,
1586
+ 577,
1587
+ 2239,
1588
+ 16245,
1589
+ 534,
1590
+ 646,
1591
+ 10128,
1592
+ 3650,
1593
+ 235265,
1594
+ 2239,
1595
+ 16245,
1596
+ 534,
1597
+ 646,
1598
+ 10128,
1599
+ 603,
1600
+ 476,
1601
+ 45686,
1602
+ 5255,
1603
+ 5169,
1604
+ 578,
1605
+ 603,
1606
+ 22545,
1607
+ 731,
1608
+ 586,
1609
+ 235265,
1610
+ 21117,
1611
+ 8234,
1612
+ 578,
1613
+ 41566,
1614
+ 752,
1615
+ 3495,
1616
+ 2399,
1617
+ 1282,
1618
+ 235265,
1619
+ 2239,
1620
+ 16245,
1621
+ 534,
1622
+ 646,
1623
+ 10128,
1624
+ 235269,
1625
+ 774,
1626
+ 573,
1627
+ 8022,
1628
+ 102763,
1629
+ 10037,
1630
+ 170967,
1631
+ 65673,
1632
+ 489,
1633
+ 174619,
1634
+ 235269,
1635
+ 729,
1636
+ 8417,
1637
+ 575,
1638
+ 573,
1639
+ 1162,
1640
+ 235248,
1641
+ 235284,
1642
+ 235276,
1643
+ 235276,
1644
+ 235304,
1645
+ 235265,
1646
+ 714,
1647
+ 14827,
1648
+ 576,
1649
+ 573,
1650
+ 5169,
1651
+ 603,
1652
+ 235248,
1653
+ 235310,
1654
+ 235292,
1655
+ 235304,
1656
+ 235276,
1657
+ 235265,
1658
+ 11745,
1659
+ 45686,
1660
+ 12405,
1661
+ 3650,
1662
+ 774,
1663
+ 184825,
1664
+ 7595,
1665
+ 201050,
1666
+ 235265,
1667
+ 2,
1668
+ 235304,
1669
+ 235290,
1670
+ 21238,
1671
+ 22762,
1672
+ 111382,
1673
+ 108,
1674
+ 651,
1675
+ 31873,
1676
+ 29351,
1677
+ 29591,
1678
+ 674,
1679
+ 57878,
1680
+ 1280,
1681
+ 476,
1682
+ 8935,
1683
+ 578,
1684
+ 14999,
1685
+ 29591,
1686
+ 108,
1687
+ 192690,
1688
+ 774,
1689
+ 29351,
1690
+ 577,
1691
+ 14999,
1692
+ 689,
1693
+ 8935,
1694
+ 29591,
1695
+ 108,
1696
+ 235304,
1697
+ 235290,
1698
+ 21238,
1699
+ 22762,
1700
+ 111382,
1701
+ 14305,
1702
+ 14666,
1703
+ 108,
1704
+ 235304,
1705
+ 235290,
1706
+ 21238,
1707
+ 22762,
1708
+ 111382,
1709
+ 14305,
1710
+ 17713,
1711
+ 108,
1712
+ 235304,
1713
+ 235290,
1714
+ 21238,
1715
+ 22762,
1716
+ 111382,
1717
+ 37814,
1718
+ 108,
1719
+ 63931,
1720
+ 42392,
1721
+ 13288,
1722
+ 1105,
1723
+ 573,
1724
+ 235248,
1725
+ 235304,
1726
+ 235290,
1727
+ 21238,
1728
+ 22762,
1729
+ 111382,
1730
+ 14305,
1731
+ 108,
1732
+ 235290,
1733
+ 2439,
1734
+ 603,
1735
+ 82038,
1736
+ 235342,
1737
+ 235303,
1738
+ 235256,
1739
+ 22872,
1740
+ 5075,
1741
+ 235336,
1742
+ 108,
1743
+ 235290,
1744
+ 82038,
1745
+ 235342,
1746
+ 6952,
1747
+ 476,
1748
+ 974,
1749
+ 591,
1750
+ 235274,
1751
+ 235275,
1752
+ 1162,
1753
+ 22872,
1754
+ 611,
1755
+ 832,
1756
+ 3773,
1757
+ 578,
1758
+ 671,
1759
+ 11867,
1760
+ 1378,
1761
+ 591,
1762
+ 235284,
1763
+ 235275,
1764
+ 1162,
1765
+ 22872,
1766
+ 611,
1767
+ 1122,
1768
+ 149066,
1769
+ 12539,
1770
+ 833,
1771
+ 235269,
1772
+ 21565,
1773
+ 16647,
1774
+ 149066,
1775
+ 12539,
1776
+ 833,
1777
+ 235269,
1778
+ 21565,
1779
+ 16647,
1780
+ 6442,
1781
+ 12539,
1782
+ 833,
1783
+ 578,
1784
+ 235248,
1785
+ 235304,
1786
+ 235290,
1787
+ 21238,
1788
+ 22762,
1789
+ 12539,
1790
+ 833,
1791
+ 235265,
1792
+ 1448,
1793
+ 877,
1794
+ 39466
1795
+ ],
1796
+ "provenance": [
1797
+ {
1798
+ "source": "FineWeb random (seqs [515, 534])",
1799
+ "label": "fw_00",
1800
+ "start": 0,
1801
+ "end": 256,
1802
+ "n_tokens": 256,
1803
+ "fw_seq_indices": [
1804
+ 515,
1805
+ 534
1806
+ ]
1807
+ },
1808
+ {
1809
+ "source": "FineWeb random (seqs [564, 1207])",
1810
+ "label": "fw_01",
1811
+ "start": 256,
1812
+ "end": 512,
1813
+ "n_tokens": 256,
1814
+ "fw_seq_indices": [
1815
+ 564,
1816
+ 1207
1817
+ ]
1818
+ },
1819
+ {
1820
+ "source": "FineWeb random (seqs [2594, 2628])",
1821
+ "label": "fw_02",
1822
+ "start": 512,
1823
+ "end": 768,
1824
+ "n_tokens": 256,
1825
+ "fw_seq_indices": [
1826
+ 2594,
1827
+ 2628
1828
+ ]
1829
+ },
1830
+ {
1831
+ "source": "FineWeb random (seqs [3157, 3920])",
1832
+ "label": "fw_03",
1833
+ "start": 768,
1834
+ "end": 1024,
1835
+ "n_tokens": 256,
1836
+ "fw_seq_indices": [
1837
+ 3157,
1838
+ 3920
1839
+ ]
1840
+ },
1841
+ {
1842
+ "source": "FineWeb random (seqs [4180, 4413])",
1843
+ "label": "fw_04",
1844
+ "start": 1024,
1845
+ "end": 1280,
1846
+ "n_tokens": 256,
1847
+ "fw_seq_indices": [
1848
+ 4180,
1849
+ 4413
1850
+ ]
1851
+ },
1852
+ {
1853
+ "source": "FineWeb random (seqs [4566, 4634])",
1854
+ "label": "fw_05",
1855
+ "start": 1280,
1856
+ "end": 1536,
1857
+ "n_tokens": 256,
1858
+ "fw_seq_indices": [
1859
+ 4566,
1860
+ 4634
1861
+ ]
1862
+ },
1863
+ {
1864
+ "source": "FineWeb random (seqs [5144, 5851])",
1865
+ "label": "fw_06",
1866
+ "start": 1536,
1867
+ "end": 1792,
1868
+ "n_tokens": 256,
1869
+ "fw_seq_indices": [
1870
+ 5144,
1871
+ 5851
1872
+ ]
1873
+ }
1874
+ ],
1875
+ "n_tokens": 1792,
1876
+ "meta": {
1877
+ "construction": "random FineWeb seqs concatenated into distinct passage IDs for Phase 6.1 generalisation control",
1878
+ "seed": 42,
1879
+ "n_passages": 7,
1880
+ "seqs_per_passage": 2
1881
+ }
1882
+ }