{
  "best_global_step": null,
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 2.0,
  "eval_steps": 500,
  "global_step": 750,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.005333333333333333,
      "grad_norm": 0.5234375,
      "learning_rate": 1.0000000000000001e-07,
      "loss": 1.3918027877807617,
      "step": 2
    },
    {
      "epoch": 0.010666666666666666,
      "grad_norm": 1.3203125,
      "learning_rate": 3.0000000000000004e-07,
      "loss": 2.0975496768951416,
      "step": 4
    },
    {
      "epoch": 0.016,
      "grad_norm": 1.671875,
      "learning_rate": 5e-07,
      "loss": 2.0533759593963623,
      "step": 6
    },
    {
      "epoch": 0.021333333333333333,
      "grad_norm": 0.60546875,
      "learning_rate": 7.000000000000001e-07,
      "loss": 1.4977960586547852,
      "step": 8
    },
    {
      "epoch": 0.02666666666666667,
      "grad_norm": 1.28125,
      "learning_rate": 9e-07,
      "loss": 1.8092024326324463,
      "step": 10
    },
    {
      "epoch": 0.032,
      "grad_norm": 0.82421875,
      "learning_rate": 1.1e-06,
      "loss": 2.0490243434906006,
      "step": 12
    },
    {
      "epoch": 0.037333333333333336,
      "grad_norm": 1.671875,
      "learning_rate": 1.3e-06,
      "loss": 2.2412607669830322,
      "step": 14
    },
    {
      "epoch": 0.042666666666666665,
      "grad_norm": 0.8828125,
      "learning_rate": 1.5e-06,
      "loss": 1.9627114534378052,
      "step": 16
    },
    {
      "epoch": 0.048,
      "grad_norm": 2.390625,
      "learning_rate": 1.7e-06,
      "loss": 1.8048596382141113,
      "step": 18
    },
    {
      "epoch": 0.05333333333333334,
      "grad_norm": 1.3046875,
      "learning_rate": 1.9000000000000002e-06,
      "loss": 1.9537056684494019,
      "step": 20
    },
    {
      "epoch": 0.058666666666666666,
      "grad_norm": 1.09375,
      "learning_rate": 2.1000000000000002e-06,
      "loss": 1.7351176738739014,
      "step": 22
    },
    {
      "epoch": 0.064,
      "grad_norm": 0.93359375,
      "learning_rate": 2.3e-06,
      "loss": 2.1719343662261963,
      "step": 24
    },
    {
      "epoch": 0.06933333333333333,
      "grad_norm": 0.73828125,
      "learning_rate": 2.4999999999999998e-06,
      "loss": 2.0036661624908447,
      "step": 26
    },
    {
      "epoch": 0.07466666666666667,
      "grad_norm": 0.6328125,
      "learning_rate": 2.7e-06,
      "loss": 1.4876424074172974,
      "step": 28
    },
    {
      "epoch": 0.08,
      "grad_norm": 0.93359375,
      "learning_rate": 2.9e-06,
      "loss": 1.7595216035842896,
      "step": 30
    },
    {
      "epoch": 0.08533333333333333,
      "grad_norm": 0.92578125,
      "learning_rate": 3.1e-06,
      "loss": 1.7543615102767944,
      "step": 32
    },
    {
      "epoch": 0.09066666666666667,
      "grad_norm": 0.703125,
      "learning_rate": 3.3e-06,
      "loss": 1.6767919063568115,
      "step": 34
    },
    {
      "epoch": 0.096,
      "grad_norm": 0.7265625,
      "learning_rate": 3.5e-06,
      "loss": 1.9044243097305298,
      "step": 36
    },
    {
      "epoch": 0.10133333333333333,
      "grad_norm": 0.78125,
      "learning_rate": 3.7e-06,
      "loss": 1.9992799758911133,
      "step": 38
    },
    {
      "epoch": 0.10666666666666667,
      "grad_norm": 0.2021484375,
      "learning_rate": 3.9e-06,
      "loss": 1.4217664003372192,
      "step": 40
    },
    {
      "epoch": 0.112,
      "grad_norm": 1.0859375,
      "learning_rate": 4.1e-06,
      "loss": 2.2651872634887695,
      "step": 42
    },
    {
      "epoch": 0.11733333333333333,
      "grad_norm": 1.015625,
      "learning_rate": 4.3e-06,
      "loss": 1.8020230531692505,
      "step": 44
    },
    {
      "epoch": 0.12266666666666666,
      "grad_norm": 0.6328125,
      "learning_rate": 4.5e-06,
      "loss": 2.057128667831421,
      "step": 46
    },
    {
      "epoch": 0.128,
      "grad_norm": 0.287109375,
      "learning_rate": 4.700000000000001e-06,
      "loss": 1.7972444295883179,
      "step": 48
    },
    {
      "epoch": 0.13333333333333333,
      "grad_norm": 1.1328125,
      "learning_rate": 4.9e-06,
      "loss": 1.585660696029663,
      "step": 50
    },
    {
      "epoch": 0.13866666666666666,
      "grad_norm": 1.4140625,
      "learning_rate": 5.1e-06,
      "loss": 1.5591168403625488,
      "step": 52
    },
    {
      "epoch": 0.144,
      "grad_norm": 0.2119140625,
      "learning_rate": 5.3e-06,
      "loss": 1.2894660234451294,
      "step": 54
    },
    {
      "epoch": 0.14933333333333335,
      "grad_norm": 0.73046875,
      "learning_rate": 5.5e-06,
      "loss": 1.8333218097686768,
      "step": 56
    },
    {
      "epoch": 0.15466666666666667,
      "grad_norm": 1.1015625,
      "learning_rate": 5.7000000000000005e-06,
      "loss": 1.5420780181884766,
      "step": 58
    },
    {
      "epoch": 0.16,
      "grad_norm": 0.828125,
      "learning_rate": 5.899999999999999e-06,
      "loss": 1.8294118642807007,
      "step": 60
    },
    {
      "epoch": 0.16533333333333333,
      "grad_norm": 0.3515625,
      "learning_rate": 6.1e-06,
      "loss": 1.5082216262817383,
      "step": 62
    },
    {
      "epoch": 0.17066666666666666,
      "grad_norm": 0.314453125,
      "learning_rate": 6.3e-06,
      "loss": 1.7252726554870605,
      "step": 64
    },
    {
      "epoch": 0.176,
      "grad_norm": 0.435546875,
      "learning_rate": 6.5000000000000004e-06,
      "loss": 1.56448233127594,
      "step": 66
    },
    {
      "epoch": 0.18133333333333335,
      "grad_norm": 1.1015625,
      "learning_rate": 6.7e-06,
      "loss": 1.87124502658844,
      "step": 68
    },
    {
      "epoch": 0.18666666666666668,
      "grad_norm": 0.5859375,
      "learning_rate": 6.900000000000001e-06,
      "loss": 1.4997594356536865,
      "step": 70
    },
    {
      "epoch": 0.192,
      "grad_norm": 0.609375,
      "learning_rate": 7.1e-06,
      "loss": 1.9693466424942017,
      "step": 72
    },
    {
      "epoch": 0.19733333333333333,
      "grad_norm": 0.95703125,
      "learning_rate": 7.3e-06,
      "loss": 1.5585707426071167,
      "step": 74
    },
    {
      "epoch": 0.20266666666666666,
      "grad_norm": 1.859375,
      "learning_rate": 7.5e-06,
      "loss": 1.7230855226516724,
      "step": 76
    },
    {
      "epoch": 0.208,
      "grad_norm": 0.38671875,
      "learning_rate": 7.4998619077668045e-06,
      "loss": 1.7421209812164307,
      "step": 78
    },
    {
      "epoch": 0.21333333333333335,
      "grad_norm": 0.466796875,
      "learning_rate": 7.499447643032373e-06,
      "loss": 1.8539875745773315,
      "step": 80
    },
    {
      "epoch": 0.21866666666666668,
      "grad_norm": 0.2734375,
      "learning_rate": 7.498757241691129e-06,
      "loss": 1.410808801651001,
      "step": 82
    },
    {
      "epoch": 0.224,
      "grad_norm": 0.39453125,
      "learning_rate": 7.497790763563665e-06,
      "loss": 1.5474530458450317,
      "step": 84
    },
    {
      "epoch": 0.22933333333333333,
      "grad_norm": 0.69921875,
      "learning_rate": 7.496548292391548e-06,
      "loss": 1.8224376440048218,
      "step": 86
    },
    {
      "epoch": 0.23466666666666666,
      "grad_norm": 1.265625,
      "learning_rate": 7.4950299358300644e-06,
      "loss": 1.5387835502624512,
      "step": 88
    },
    {
      "epoch": 0.24,
      "grad_norm": 0.1806640625,
      "learning_rate": 7.493235825438903e-06,
      "loss": 1.4174927473068237,
      "step": 90
    },
    {
      "epoch": 0.24533333333333332,
      "grad_norm": 0.53125,
      "learning_rate": 7.491166116670744e-06,
      "loss": 1.3185020685195923,
      "step": 92
    },
    {
      "epoch": 0.25066666666666665,
      "grad_norm": 2.078125,
      "learning_rate": 7.488820988857795e-06,
      "loss": 1.3037068843841553,
      "step": 94
    },
    {
      "epoch": 0.256,
      "grad_norm": 0.330078125,
      "learning_rate": 7.486200645196252e-06,
      "loss": 1.7521201372146606,
      "step": 96
    },
    {
      "epoch": 0.2613333333333333,
      "grad_norm": 0.71875,
      "learning_rate": 7.483305312728692e-06,
      "loss": 1.2269163131713867,
      "step": 98
    },
    {
      "epoch": 0.26666666666666666,
      "grad_norm": 0.41796875,
      "learning_rate": 7.480135242324401e-06,
      "loss": 1.4020113945007324,
      "step": 100
    },
    {
      "epoch": 0.272,
      "grad_norm": 0.1875,
      "learning_rate": 7.476690708657641e-06,
      "loss": 1.236190915107727,
      "step": 102
    },
    {
      "epoch": 0.2773333333333333,
      "grad_norm": 0.765625,
      "learning_rate": 7.472972010183844e-06,
      "loss": 1.3339173793792725,
      "step": 104
    },
    {
      "epoch": 0.2826666666666667,
      "grad_norm": 1.6640625,
      "learning_rate": 7.468979469113756e-06,
      "loss": 1.5956217050552368,
      "step": 106
    },
    {
      "epoch": 0.288,
      "grad_norm": 0.2119140625,
      "learning_rate": 7.4647134313855186e-06,
      "loss": 1.2588270902633667,
      "step": 108
    },
    {
      "epoch": 0.29333333333333333,
      "grad_norm": 0.52734375,
      "learning_rate": 7.4601742666346926e-06,
      "loss": 1.6625038385391235,
      "step": 110
    },
    {
      "epoch": 0.2986666666666667,
      "grad_norm": 0.7109375,
      "learning_rate": 7.455362368162235e-06,
      "loss": 1.3837028741836548,
      "step": 112
    },
    {
      "epoch": 0.304,
      "grad_norm": 0.283203125,
      "learning_rate": 7.450278152900414e-06,
      "loss": 1.5355887413024902,
      "step": 114
    },
    {
      "epoch": 0.30933333333333335,
      "grad_norm": 0.65625,
      "learning_rate": 7.4449220613766924e-06,
      "loss": 1.6411131620407104,
      "step": 116
    },
    {
      "epoch": 0.31466666666666665,
      "grad_norm": 1.6484375,
      "learning_rate": 7.439294557675548e-06,
      "loss": 1.5240530967712402,
      "step": 118
    },
    {
      "epoch": 0.32,
      "grad_norm": 0.609375,
      "learning_rate": 7.43339612939827e-06,
      "loss": 1.1345856189727783,
      "step": 120
    },
    {
      "epoch": 0.3253333333333333,
      "grad_norm": 0.373046875,
      "learning_rate": 7.427227287620707e-06,
      "loss": 1.1475586891174316,
      "step": 122
    },
    {
      "epoch": 0.33066666666666666,
      "grad_norm": 0.52734375,
      "learning_rate": 7.420788566848982e-06,
      "loss": 1.5467785596847534,
      "step": 124
    },
    {
      "epoch": 0.336,
      "grad_norm": 0.287109375,
      "learning_rate": 7.414080524973188e-06,
      "loss": 1.6301590204238892,
      "step": 126
    },
    {
      "epoch": 0.3413333333333333,
      "grad_norm": 0.57421875,
      "learning_rate": 7.407103743219038e-06,
      "loss": 1.4552572965621948,
      "step": 128
    },
    {
      "epoch": 0.3466666666666667,
      "grad_norm": 0.73046875,
      "learning_rate": 7.399858826097512e-06,
      "loss": 1.7707996368408203,
      "step": 130
    },
    {
      "epoch": 0.352,
      "grad_norm": 0.64453125,
      "learning_rate": 7.392346401352474e-06,
      "loss": 1.4176101684570312,
      "step": 132
    },
    {
      "epoch": 0.35733333333333334,
      "grad_norm": 0.61328125,
      "learning_rate": 7.3845671199062815e-06,
      "loss": 1.4162875413894653,
      "step": 134
    },
    {
      "epoch": 0.3626666666666667,
      "grad_norm": 0.55859375,
      "learning_rate": 7.376521655803392e-06,
      "loss": 1.4608713388442993,
      "step": 136
    },
    {
      "epoch": 0.368,
      "grad_norm": 0.392578125,
      "learning_rate": 7.368210706151946e-06,
      "loss": 1.4052457809448242,
      "step": 138
    },
    {
      "epoch": 0.37333333333333335,
      "grad_norm": 0.427734375,
      "learning_rate": 7.359634991063379e-06,
      "loss": 1.137465476989746,
      "step": 140
    },
    {
      "epoch": 0.37866666666666665,
      "grad_norm": 0.8359375,
      "learning_rate": 7.350795253590018e-06,
      "loss": 1.4206374883651733,
      "step": 142
    },
    {
      "epoch": 0.384,
      "grad_norm": 0.11474609375,
      "learning_rate": 7.3416922596607055e-06,
      "loss": 1.020829439163208,
      "step": 144
    },
    {
      "epoch": 0.3893333333333333,
      "grad_norm": 0.2421875,
      "learning_rate": 7.332326798014425e-06,
      "loss": 1.558069109916687,
      "step": 146
    },
    {
      "epoch": 0.39466666666666667,
      "grad_norm": 0.26171875,
      "learning_rate": 7.322699680131971e-06,
      "loss": 1.5617731809616089,
      "step": 148
    },
    {
      "epoch": 0.4,
      "grad_norm": 0.40234375,
      "learning_rate": 7.312811740165632e-06,
      "loss": 1.3473962545394897,
      "step": 150
    },
    {
      "epoch": 0.4053333333333333,
      "grad_norm": 0.71875,
      "learning_rate": 7.302663834866909e-06,
      "loss": 1.4550005197525024,
      "step": 152
    },
    {
      "epoch": 0.4106666666666667,
      "grad_norm": 0.4140625,
      "learning_rate": 7.2922568435122956e-06,
      "loss": 1.2182159423828125,
      "step": 154
    },
    {
      "epoch": 0.416,
      "grad_norm": 0.515625,
      "learning_rate": 7.281591667827079e-06,
      "loss": 1.1797568798065186,
      "step": 156
    },
    {
      "epoch": 0.42133333333333334,
      "grad_norm": 0.50390625,
      "learning_rate": 7.270669231907212e-06,
      "loss": 1.3810535669326782,
      "step": 158
    },
    {
      "epoch": 0.4266666666666667,
      "grad_norm": 0.412109375,
      "learning_rate": 7.2594904821392485e-06,
      "loss": 1.286556363105774,
      "step": 160
    },
    {
      "epoch": 0.432,
      "grad_norm": 0.419921875,
      "learning_rate": 7.248056387118338e-06,
      "loss": 1.4289522171020508,
      "step": 162
    },
    {
      "epoch": 0.43733333333333335,
      "grad_norm": 0.66015625,
      "learning_rate": 7.236367937564302e-06,
      "loss": 1.243101716041565,
      "step": 164
    },
    {
      "epoch": 0.44266666666666665,
      "grad_norm": 0.283203125,
      "learning_rate": 7.224426146235791e-06,
      "loss": 1.0999314785003662,
      "step": 166
    },
    {
      "epoch": 0.448,
      "grad_norm": 0.3046875,
      "learning_rate": 7.212232047842537e-06,
      "loss": 1.4978009462356567,
      "step": 168
    },
    {
      "epoch": 0.4533333333333333,
      "grad_norm": 5.53125,
      "learning_rate": 7.199786698955697e-06,
      "loss": 1.4373788833618164,
      "step": 170
    },
    {
      "epoch": 0.45866666666666667,
      "grad_norm": 0.69921875,
      "learning_rate": 7.187091177916301e-06,
      "loss": 1.4840056896209717,
      "step": 172
    },
    {
      "epoch": 0.464,
      "grad_norm": 0.2021484375,
      "learning_rate": 7.174146584741825e-06,
      "loss": 1.2911632061004639,
      "step": 174
    },
    {
      "epoch": 0.4693333333333333,
      "grad_norm": 0.279296875,
      "learning_rate": 7.160954041030877e-06,
      "loss": 1.3464269638061523,
      "step": 176
    },
    {
      "epoch": 0.4746666666666667,
      "grad_norm": 0.357421875,
      "learning_rate": 7.1475146898660116e-06,
      "loss": 1.4491277933120728,
      "step": 178
    },
    {
      "epoch": 0.48,
      "grad_norm": 0.349609375,
      "learning_rate": 7.133829695714688e-06,
      "loss": 1.318329930305481,
      "step": 180
    },
    {
      "epoch": 0.48533333333333334,
      "grad_norm": 0.78515625,
      "learning_rate": 7.1199002443283776e-06,
      "loss": 1.089525580406189,
      "step": 182
    },
    {
      "epoch": 0.49066666666666664,
      "grad_norm": 0.263671875,
      "learning_rate": 7.1057275426398146e-06,
      "loss": 1.356623888015747,
      "step": 184
    },
    {
      "epoch": 0.496,
      "grad_norm": 0.51171875,
      "learning_rate": 7.09131281865843e-06,
      "loss": 1.5700266361236572,
      "step": 186
    },
    {
      "epoch": 0.5013333333333333,
      "grad_norm": 0.45703125,
      "learning_rate": 7.0766573213639404e-06,
      "loss": 1.12882661819458,
      "step": 188
    },
    {
      "epoch": 0.5066666666666667,
      "grad_norm": 0.53125,
      "learning_rate": 7.061762320598134e-06,
      "loss": 1.3883382081985474,
      "step": 190
    },
    {
      "epoch": 0.512,
      "grad_norm": 0.263671875,
      "learning_rate": 7.0466291069548415e-06,
      "loss": 1.1575868129730225,
      "step": 192
    },
    {
      "epoch": 0.5173333333333333,
      "grad_norm": 0.291015625,
      "learning_rate": 7.031258991668114e-06,
      "loss": 1.458404302597046,
      "step": 194
    },
    {
      "epoch": 0.5226666666666666,
      "grad_norm": 0.5703125,
      "learning_rate": 7.015653306498608e-06,
      "loss": 1.7165433168411255,
      "step": 196
    },
    {
      "epoch": 0.528,
      "grad_norm": 0.486328125,
      "learning_rate": 6.99981340361819e-06,
      "loss": 1.5549272298812866,
      "step": 198
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 0.70703125,
      "learning_rate": 6.983740655492783e-06,
      "loss": 1.6522574424743652,
      "step": 200
    },
    {
      "epoch": 0.5386666666666666,
      "grad_norm": 0.84375,
      "learning_rate": 6.967436454763442e-06,
      "loss": 1.5417842864990234,
      "step": 202
    },
    {
      "epoch": 0.544,
      "grad_norm": 0.58203125,
      "learning_rate": 6.950902214125689e-06,
      "loss": 1.279434323310852,
      "step": 204
    },
    {
      "epoch": 0.5493333333333333,
      "grad_norm": 0.474609375,
      "learning_rate": 6.9341393662071115e-06,
      "loss": 1.5310899019241333,
      "step": 206
    },
    {
      "epoch": 0.5546666666666666,
      "grad_norm": 0.4375,
      "learning_rate": 6.9171493634432225e-06,
      "loss": 1.1565041542053223,
      "step": 208
    },
    {
      "epoch": 0.56,
      "grad_norm": 0.3828125,
      "learning_rate": 6.899933677951622e-06,
      "loss": 1.3370246887207031,
      "step": 210
    },
    {
      "epoch": 0.5653333333333334,
      "grad_norm": 0.37890625,
      "learning_rate": 6.882493801404442e-06,
      "loss": 1.330797791481018,
      "step": 212
    },
    {
      "epoch": 0.5706666666666667,
      "grad_norm": 0.81640625,
      "learning_rate": 6.8648312448990875e-06,
      "loss": 1.4331892728805542,
      "step": 214
    },
    {
      "epoch": 0.576,
      "grad_norm": 1.6875,
      "learning_rate": 6.846947538827327e-06,
      "loss": 1.5132179260253906,
      "step": 216
    },
    {
      "epoch": 0.5813333333333334,
      "grad_norm": 1.46875,
      "learning_rate": 6.828844232742671e-06,
      "loss": 1.2577152252197266,
      "step": 218
    },
    {
      "epoch": 0.5866666666666667,
      "grad_norm": 0.9453125,
      "learning_rate": 6.810522895226115e-06,
      "loss": 1.45955491065979,
      "step": 220
    },
    {
      "epoch": 0.592,
      "grad_norm": 0.2470703125,
      "learning_rate": 6.791985113750234e-06,
      "loss": 1.2781492471694946,
      "step": 222
    },
    {
      "epoch": 0.5973333333333334,
      "grad_norm": 0.40625,
      "learning_rate": 6.773232494541625e-06,
      "loss": 1.3114062547683716,
      "step": 224
    },
    {
      "epoch": 0.6026666666666667,
      "grad_norm": 1.0546875,
      "learning_rate": 6.754266662441742e-06,
      "loss": 1.4861233234405518,
      "step": 226
    },
    {
      "epoch": 0.608,
      "grad_norm": 0.671875,
      "learning_rate": 6.735089260766105e-06,
      "loss": 1.6322368383407593,
      "step": 228
    },
    {
      "epoch": 0.6133333333333333,
      "grad_norm": 0.7421875,
      "learning_rate": 6.7157019511619145e-06,
      "loss": 1.5255112648010254,
      "step": 230
    },
    {
      "epoch": 0.6186666666666667,
      "grad_norm": 0.56640625,
      "learning_rate": 6.696106413464071e-06,
      "loss": 1.2472528219223022,
      "step": 232
    },
    {
      "epoch": 0.624,
      "grad_norm": 0.5625,
      "learning_rate": 6.676304345549635e-06,
      "loss": 1.5083709955215454,
      "step": 234
    },
    {
      "epoch": 0.6293333333333333,
      "grad_norm": 0.62890625,
      "learning_rate": 6.656297463190704e-06,
      "loss": 1.216172218322754,
      "step": 236
    },
    {
      "epoch": 0.6346666666666667,
      "grad_norm": 0.5859375,
      "learning_rate": 6.63608749990575e-06,
      "loss": 1.2348906993865967,
      "step": 238
    },
    {
      "epoch": 0.64,
      "grad_norm": 0.345703125,
      "learning_rate": 6.615676206809415e-06,
      "loss": 1.3027633428573608,
      "step": 240
    },
    {
      "epoch": 0.6453333333333333,
      "grad_norm": 0.38671875,
      "learning_rate": 6.595065352460786e-06,
      "loss": 1.1347825527191162,
      "step": 242
    },
    {
      "epoch": 0.6506666666666666,
      "grad_norm": 0.5625,
      "learning_rate": 6.574256722710161e-06,
      "loss": 1.271606206893921,
      "step": 244
    },
    {
      "epoch": 0.656,
      "grad_norm": 0.69921875,
      "learning_rate": 6.553252120544297e-06,
      "loss": 1.297676682472229,
      "step": 246
    },
    {
      "epoch": 0.6613333333333333,
      "grad_norm": 0.357421875,
      "learning_rate": 6.5320533659302055e-06,
      "loss": 1.3999580144882202,
      "step": 248
    },
    {
      "epoch": 0.6666666666666666,
      "grad_norm": 0.498046875,
      "learning_rate": 6.510662295657448e-06,
      "loss": 1.4784775972366333,
      "step": 250
    },
    {
      "epoch": 0.672,
      "grad_norm": 0.33984375,
      "learning_rate": 6.489080763178991e-06,
      "loss": 1.3089486360549927,
      "step": 252
    },
    {
      "epoch": 0.6773333333333333,
      "grad_norm": 0.451171875,
      "learning_rate": 6.467310638450608e-06,
      "loss": 1.5869042873382568,
      "step": 254
    },
    {
      "epoch": 0.6826666666666666,
      "grad_norm": 0.5390625,
      "learning_rate": 6.44535380776886e-06,
      "loss": 1.491261601448059,
      "step": 256
    },
    {
      "epoch": 0.688,
      "grad_norm": 0.53125,
      "learning_rate": 6.42321217360765e-06,
      "loss": 1.3518444299697876,
      "step": 258
    },
    {
      "epoch": 0.6933333333333334,
      "grad_norm": 0.408203125,
      "learning_rate": 6.40088765445338e-06,
      "loss": 1.1858634948730469,
      "step": 260
    },
    {
      "epoch": 0.6986666666666667,
      "grad_norm": 0.44921875,
      "learning_rate": 6.37838218463873e-06,
      "loss": 1.3287537097930908,
      "step": 262
    },
    {
      "epoch": 0.704,
      "grad_norm": 0.478515625,
      "learning_rate": 6.355697714175047e-06,
      "loss": 1.0604113340377808,
      "step": 264
    },
    {
      "epoch": 0.7093333333333334,
      "grad_norm": 0.9453125,
      "learning_rate": 6.332836208583389e-06,
      "loss": 1.5299183130264282,
      "step": 266
    },
    {
      "epoch": 0.7146666666666667,
      "grad_norm": 0.421875,
      "learning_rate": 6.309799648724218e-06,
      "loss": 1.2309736013412476,
      "step": 268
    },
    {
      "epoch": 0.72,
      "grad_norm": 0.7265625,
      "learning_rate": 6.2865900306257665e-06,
      "loss": 1.0823864936828613,
      "step": 270
    },
    {
      "epoch": 0.7253333333333334,
      "grad_norm": 0.435546875,
      "learning_rate": 6.263209365311089e-06,
      "loss": 1.2900185585021973,
      "step": 272
    },
    {
      "epoch": 0.7306666666666667,
      "grad_norm": 0.6875,
      "learning_rate": 6.2396596786238205e-06,
      "loss": 1.2881044149398804,
      "step": 274
    },
    {
      "epoch": 0.736,
      "grad_norm": 1.03125,
      "learning_rate": 6.215943011052632e-06,
      "loss": 1.3503191471099854,
      "step": 276
    },
    {
      "epoch": 0.7413333333333333,
      "grad_norm": 0.63671875,
      "learning_rate": 6.192061417554441e-06,
      "loss": 1.33072030544281,
      "step": 278
    },
    {
      "epoch": 0.7466666666666667,
      "grad_norm": 0.42578125,
      "learning_rate": 6.16801696737636e-06,
      "loss": 1.2632883787155151,
      "step": 280
    },
    {
      "epoch": 0.752,
      "grad_norm": 0.349609375,
      "learning_rate": 6.143811743876392e-06,
      "loss": 1.285319447517395,
      "step": 282
    },
    {
      "epoch": 0.7573333333333333,
      "grad_norm": 0.287109375,
      "learning_rate": 6.119447844342924e-06,
      "loss": 1.0543291568756104,
      "step": 284
    },
    {
      "epoch": 0.7626666666666667,
      "grad_norm": 1.0,
      "learning_rate": 6.094927379813005e-06,
      "loss": 1.5204623937606812,
      "step": 286
    },
    {
      "epoch": 0.768,
      "grad_norm": 0.5390625,
      "learning_rate": 6.070252474889433e-06,
      "loss": 0.9127747416496277,
      "step": 288
    },
    {
      "epoch": 0.7733333333333333,
      "grad_norm": 0.279296875,
      "learning_rate": 6.045425267556659e-06,
      "loss": 1.2986137866973877,
      "step": 290
    },
    {
      "epoch": 0.7786666666666666,
      "grad_norm": 0.58984375,
      "learning_rate": 6.020447908995551e-06,
      "loss": 1.482648253440857,
      "step": 292
    },
    {
      "epoch": 0.784,
      "grad_norm": 0.39453125,
      "learning_rate": 5.995322563396996e-06,
      "loss": 1.1602120399475098,
      "step": 294
    },
    {
      "epoch": 0.7893333333333333,
      "grad_norm": 1.0859375,
      "learning_rate": 5.970051407774374e-06,
      "loss": 1.2999836206436157,
      "step": 296
    },
    {
      "epoch": 0.7946666666666666,
      "grad_norm": 0.31640625,
      "learning_rate": 5.9446366317749464e-06,
      "loss": 1.464931607246399,
      "step": 298
    },
    {
      "epoch": 0.8,
      "grad_norm": 3.78125,
      "learning_rate": 5.919080437490115e-06,
      "loss": 1.494107961654663,
      "step": 300
    },
    {
      "epoch": 0.8053333333333333,
      "grad_norm": 0.45703125,
      "learning_rate": 5.893385039264628e-06,
      "loss": 1.3205267190933228,
      "step": 302
    },
    {
      "epoch": 0.8106666666666666,
      "grad_norm": 0.306640625,
      "learning_rate": 5.867552663504711e-06,
      "loss": 1.392236351966858,
      "step": 304
    },
    {
      "epoch": 0.816,
      "grad_norm": 2.109375,
      "learning_rate": 5.841585548485161e-06,
      "loss": 1.054479718208313,
      "step": 306
    },
    {
      "epoch": 0.8213333333333334,
      "grad_norm": 0.474609375,
      "learning_rate": 5.815485944155406e-06,
      "loss": 1.4559931755065918,
      "step": 308
    },
    {
      "epoch": 0.8266666666666667,
      "grad_norm": 1.6484375,
      "learning_rate": 5.78925611194456e-06,
      "loss": 1.2822375297546387,
      "step": 310
    },
    {
      "epoch": 0.832,
      "grad_norm": 0.5234375,
      "learning_rate": 5.762898324565472e-06,
      "loss": 1.1534578800201416,
      "step": 312
    },
    {
      "epoch": 0.8373333333333334,
      "grad_norm": 0.40234375,
      "learning_rate": 5.7364148658178136e-06,
      "loss": 1.4816879034042358,
      "step": 314
    },
    {
      "epoch": 0.8426666666666667,
      "grad_norm": 0.48828125,
      "learning_rate": 5.7098080303901845e-06,
      "loss": 1.3202126026153564,
      "step": 316
    },
    {
      "epoch": 0.848,
      "grad_norm": 0.57421875,
      "learning_rate": 5.683080123661299e-06,
      "loss": 1.548636794090271,
      "step": 318
    },
    {
      "epoch": 0.8533333333333334,
      "grad_norm": 0.18359375,
      "learning_rate": 5.656233461500226e-06,
      "loss": 1.1134190559387207,
      "step": 320
    },
    {
      "epoch": 0.8586666666666667,
      "grad_norm": 0.369140625,
      "learning_rate": 5.6292703700657276e-06,
      "loss": 1.427626132965088,
      "step": 322
    },
    {
      "epoch": 0.864,
      "grad_norm": 0.66796875,
      "learning_rate": 5.602193185604715e-06,
      "loss": 1.2644096612930298,
      "step": 324
    },
    {
      "epoch": 0.8693333333333333,
      "grad_norm": 0.419921875,
      "learning_rate": 5.575004254249812e-06,
      "loss": 1.0416737794876099,
      "step": 326
    },
    {
      "epoch": 0.8746666666666667,
      "grad_norm": 0.32421875,
      "learning_rate": 5.547705931816078e-06,
      "loss": 1.113074779510498,
      "step": 328
    },
    {
      "epoch": 0.88,
      "grad_norm": 1.2578125,
      "learning_rate": 5.520300583596882e-06,
      "loss": 1.0335323810577393,
      "step": 330
    },
    {
      "epoch": 0.8853333333333333,
      "grad_norm": 0.3125,
      "learning_rate": 5.49279058415896e-06,
      "loss": 1.1414536237716675,
      "step": 332
    },
    {
      "epoch": 0.8906666666666667,
      "grad_norm": 0.37890625,
      "learning_rate": 5.465178317136669e-06,
      "loss": 0.8871914148330688,
      "step": 334
    },
    {
      "epoch": 0.896,
      "grad_norm": 0.578125,
      "learning_rate": 5.437466175025457e-06,
      "loss": 1.3287149667739868,
      "step": 336
    },
    {
      "epoch": 0.9013333333333333,
      "grad_norm": 0.59765625,
      "learning_rate": 5.4096565589745565e-06,
      "loss": 1.3277924060821533,
      "step": 338
    },
    {
      "epoch": 0.9066666666666666,
      "grad_norm": 0.55078125,
      "learning_rate": 5.3817518785789386e-06,
      "loss": 1.6219979524612427,
      "step": 340
    },
    {
      "epoch": 0.912,
      "grad_norm": 0.337890625,
      "learning_rate": 5.3537545516705285e-06,
      "loss": 1.1041191816329956,
      "step": 342
    },
    {
      "epoch": 0.9173333333333333,
      "grad_norm": 0.54296875,
      "learning_rate": 5.325667004108713e-06,
      "loss": 1.5842766761779785,
      "step": 344
    },
    {
      "epoch": 0.9226666666666666,
      "grad_norm": 0.77734375,
      "learning_rate": 5.297491669570145e-06,
      "loss": 1.5403611660003662,
      "step": 346
    },
    {
      "epoch": 0.928,
      "grad_norm": 0.39453125,
      "learning_rate": 5.2692309893378806e-06,
      "loss": 1.387043833732605,
      "step": 348
    },
    {
      "epoch": 0.9333333333333333,
      "grad_norm": 0.376953125,
      "learning_rate": 5.240887412089846e-06,
      "loss": 1.1895140409469604,
      "step": 350
    },
    {
      "epoch": 0.9386666666666666,
      "grad_norm": 0.7734375,
      "learning_rate": 5.2124633936866694e-06,
      "loss": 1.45750892162323,
      "step": 352
    },
    {
      "epoch": 0.944,
      "grad_norm": 0.48828125,
      "learning_rate": 5.183961396958894e-06,
      "loss": 1.2903810739517212,
      "step": 354
    },
    {
      "epoch": 0.9493333333333334,
      "grad_norm": 0.365234375,
      "learning_rate": 5.155383891493582e-06,
      "loss": 1.0638062953948975,
      "step": 356
    },
    {
      "epoch": 0.9546666666666667,
      "grad_norm": 0.392578125,
      "learning_rate": 5.126733353420332e-06,
      "loss": 1.1334384679794312,
      "step": 358
    },
    {
      "epoch": 0.96,
      "grad_norm": 0.8671875,
      "learning_rate": 5.098012265196735e-06,
      "loss": 1.616370677947998,
      "step": 360
    },
    {
      "epoch": 0.9653333333333334,
      "grad_norm": 0.458984375,
      "learning_rate": 5.069223115393278e-06,
      "loss": 1.2166802883148193,
      "step": 362
    },
    {
      "epoch": 0.9706666666666667,
      "grad_norm": 0.439453125,
      "learning_rate": 5.0403683984777156e-06,
      "loss": 1.460686206817627,
      "step": 364
    },
    {
      "epoch": 0.976,
      "grad_norm": 0.412109375,
      "learning_rate": 5.011450614598942e-06,
      "loss": 1.5133981704711914,
      "step": 366
    },
    {
      "epoch": 0.9813333333333333,
      "grad_norm": 0.51953125,
      "learning_rate": 4.982472269370356e-06,
      "loss": 1.3987483978271484,
      "step": 368
    },
    {
      "epoch": 0.9866666666666667,
      "grad_norm": 0.5,
      "learning_rate": 4.9534358736527624e-06,
      "loss": 1.187402606010437,
      "step": 370
    },
    {
      "epoch": 0.992,
      "grad_norm": 0.388671875,
      "learning_rate": 4.924343943336814e-06,
      "loss": 1.3969718217849731,
      "step": 372
    },
    {
      "epoch": 0.9973333333333333,
      "grad_norm": 0.5078125,
      "learning_rate": 4.895198999125022e-06,
      "loss": 1.1329926252365112,
      "step": 374
    },
    {
      "epoch": 1.0026666666666666,
      "grad_norm": 0.76953125,
      "learning_rate": 4.866003566313341e-06,
      "loss": 1.426386833190918,
      "step": 376
    },
    {
      "epoch": 1.008,
      "grad_norm": 0.5859375,
      "learning_rate": 4.83676017457237e-06,
      "loss": 1.2209362983703613,
      "step": 378
    },
    {
      "epoch": 1.0133333333333334,
      "grad_norm": 0.59375,
      "learning_rate": 4.807471357728167e-06,
      "loss": 1.1464167833328247,
      "step": 380
    },
    {
      "epoch": 1.0186666666666666,
      "grad_norm": 1.0078125,
      "learning_rate": 4.778139653542688e-06,
      "loss": 1.229437232017517,
      "step": 382
    },
    {
      "epoch": 1.024,
      "grad_norm": 0.337890625,
      "learning_rate": 4.7487676034939156e-06,
      "loss": 0.9976918697357178,
      "step": 384
    },
    {
      "epoch": 1.0293333333333334,
      "grad_norm": 0.310546875,
      "learning_rate": 4.719357752555646e-06,
      "loss": 1.025425672531128,
      "step": 386
    },
    {
      "epoch": 1.0346666666666666,
      "grad_norm": 0.2216796875,
      "learning_rate": 4.689912648976973e-06,
      "loss": 1.0078941583633423,
      "step": 388
    },
    {
      "epoch": 1.04,
      "grad_norm": 0.4296875,
      "learning_rate": 4.660434844061493e-06,
      "loss": 1.1683357954025269,
      "step": 390
    },
    {
      "epoch": 1.0453333333333332,
      "grad_norm": 0.51953125,
      "learning_rate": 4.630926891946251e-06,
      "loss": 1.126926302909851,
      "step": 392
    },
    {
      "epoch": 1.0506666666666666,
      "grad_norm": 0.5,
      "learning_rate": 4.601391349380425e-06,
      "loss": 1.2865811586380005,
      "step": 394
    },
    {
      "epoch": 1.056,
      "grad_norm": 0.7734375,
      "learning_rate": 4.571830775503799e-06,
      "loss": 1.5480324029922485,
      "step": 396
    },
    {
      "epoch": 1.0613333333333332,
      "grad_norm": 0.55859375,
      "learning_rate": 4.542247731625022e-06,
      "loss": 1.2431285381317139,
      "step": 398
    },
    {
      "epoch": 1.0666666666666667,
      "grad_norm": 0.546875,
      "learning_rate": 4.512644780999687e-06,
      "loss": 1.4781147241592407,
      "step": 400
    },
    {
      "epoch": 1.072,
      "grad_norm": 2.515625,
      "learning_rate": 4.48302448860822e-06,
      "loss": 1.0834038257598877,
      "step": 402
    },
    {
      "epoch": 1.0773333333333333,
      "grad_norm": 0.6328125,
      "learning_rate": 4.453389420933649e-06,
      "loss": 1.366401195526123,
      "step": 404
    },
    {
      "epoch": 1.0826666666666667,
      "grad_norm": 0.271484375,
      "learning_rate": 4.423742145739222e-06,
      "loss": 1.0470842123031616,
      "step": 406
    },
    {
      "epoch": 1.088,
      "grad_norm": 0.431640625,
      "learning_rate": 4.394085231845921e-06,
      "loss": 1.0181280374526978,
      "step": 408
    },
    {
      "epoch": 1.0933333333333333,
      "grad_norm": 0.65625,
      "learning_rate": 4.364421248909884e-06,
      "loss": 1.034490704536438,
      "step": 410
    },
    {
      "epoch": 1.0986666666666667,
      "grad_norm": 0.70703125,
      "learning_rate": 4.334752767199752e-06,
      "loss": 1.3856372833251953,
      "step": 412
    },
    {
      "epoch": 1.104,
      "grad_norm": 0.373046875,
      "learning_rate": 4.305082357373971e-06,
      "loss": 1.139554500579834,
      "step": 414
    },
    {
      "epoch": 1.1093333333333333,
      "grad_norm": 0.51171875,
      "learning_rate": 4.275412590258048e-06,
      "loss": 1.3391931056976318,
      "step": 416
    },
    {
      "epoch": 1.1146666666666667,
      "grad_norm": 0.349609375,
      "learning_rate": 4.2457460366218e-06,
      "loss": 1.5631487369537354,
      "step": 418
    },
    {
      "epoch": 1.12,
      "grad_norm": 0.6875,
      "learning_rate": 4.2160852669566135e-06,
      "loss": 1.3829050064086914,
      "step": 420
    },
    {
      "epoch": 1.1253333333333333,
      "grad_norm": 0.97265625,
      "learning_rate": 4.1864328512527115e-06,
      "loss": 1.0705004930496216,
      "step": 422
    },
    {
      "epoch": 1.1306666666666667,
      "grad_norm": 0.68359375,
      "learning_rate": 4.156791358776483e-06,
      "loss": 1.4946973323822021,
      "step": 424
    },
    {
      "epoch": 1.1360000000000001,
      "grad_norm": 0.384765625,
      "learning_rate": 4.127163357847858e-06,
      "loss": 1.3657976388931274,
      "step": 426
    },
    {
      "epoch": 1.1413333333333333,
      "grad_norm": 0.447265625,
      "learning_rate": 4.09755141561778e-06,
      "loss": 1.211698055267334,
      "step": 428
    },
    {
      "epoch": 1.1466666666666667,
      "grad_norm": 12.8125,
      "learning_rate": 4.0679580978457656e-06,
      "loss": 1.5211821794509888,
      "step": 430
    },
    {
      "epoch": 1.152,
      "grad_norm": 0.46875,
      "learning_rate": 4.038385968677596e-06,
      "loss": 1.0360568761825562,
      "step": 432
    },
    {
      "epoch": 1.1573333333333333,
      "grad_norm": 1.3125,
      "learning_rate": 4.008837590423144e-06,
      "loss": 1.6035184860229492,
      "step": 434
    },
    {
      "epoch": 1.1626666666666667,
      "grad_norm": 0.48828125,
      "learning_rate": 3.979315523334355e-06,
      "loss": 1.157009243965149,
      "step": 436
    },
    {
      "epoch": 1.168,
      "grad_norm": 0.458984375,
      "learning_rate": 3.9498223253834165e-06,
      "loss": 1.4968481063842773,
      "step": 438
    },
    {
      "epoch": 1.1733333333333333,
      "grad_norm": 0.5234375,
      "learning_rate": 3.9203605520411165e-06,
      "loss": 1.229710340499878,
      "step": 440
    },
    {
      "epoch": 1.1786666666666668,
      "grad_norm": 0.734375,
      "learning_rate": 3.890932756055422e-06,
      "loss": 1.5977742671966553,
      "step": 442
    },
    {
      "epoch": 1.184,
      "grad_norm": 0.75390625,
      "learning_rate": 3.861541487230299e-06,
      "loss": 1.2765097618103027,
      "step": 444
    },
    {
      "epoch": 1.1893333333333334,
      "grad_norm": 0.59765625,
      "learning_rate": 3.832189292204773e-06,
      "loss": 1.3562519550323486,
      "step": 446
    },
    {
      "epoch": 1.1946666666666665,
      "grad_norm": 0.4453125,
      "learning_rate": 3.802878714232277e-06,
      "loss": 1.6301568746566772,
      "step": 448
    },
    {
      "epoch": 1.2,
      "grad_norm": 0.47265625,
      "learning_rate": 3.7736122929602887e-06,
      "loss": 1.264549732208252,
      "step": 450
    },
    {
      "epoch": 1.2053333333333334,
      "grad_norm": 0.443359375,
      "learning_rate": 3.744392564210283e-06,
      "loss": 1.4258700609207153,
      "step": 452
    },
    {
      "epoch": 1.2106666666666666,
      "grad_norm": 0.56640625,
      "learning_rate": 3.7152220597580023e-06,
      "loss": 1.4381071329116821,
      "step": 454
    },
    {
      "epoch": 1.216,
      "grad_norm": 0.42578125,
      "learning_rate": 3.686103307114104e-06,
      "loss": 1.4425290822982788,
      "step": 456
    },
    {
      "epoch": 1.2213333333333334,
      "grad_norm": 0.419921875,
      "learning_rate": 3.6570388293051458e-06,
      "loss": 1.2543679475784302,
      "step": 458
    },
    {
      "epoch": 1.2266666666666666,
      "grad_norm": 0.392578125,
      "learning_rate": 3.628031144654986e-06,
      "loss": 1.3114312887191772,
      "step": 460
    },
    {
      "epoch": 1.232,
      "grad_norm": 0.53125,
      "learning_rate": 3.5990827665665756e-06,
      "loss": 1.4582160711288452,
      "step": 462
    },
    {
      "epoch": 1.2373333333333334,
      "grad_norm": 0.53125,
      "learning_rate": 3.570196203304182e-06,
      "loss": 0.9986866116523743,
      "step": 464
    },
    {
      "epoch": 1.2426666666666666,
      "grad_norm": 0.8984375,
      "learning_rate": 3.541373957776059e-06,
      "loss": 1.124342918395996,
      "step": 466
    },
    {
      "epoch": 1.248,
      "grad_norm": 0.62109375,
      "learning_rate": 3.512618527317581e-06,
      "loss": 1.3204665184020996,
      "step": 468
    },
    {
      "epoch": 1.2533333333333334,
      "grad_norm": 0.349609375,
      "learning_rate": 3.483932403474856e-06,
      "loss": 1.1635738611221313,
      "step": 470
    },
    {
      "epoch": 1.2586666666666666,
      "grad_norm": 0.52734375,
      "learning_rate": 3.4553180717888407e-06,
      "loss": 1.0901280641555786,
      "step": 472
    },
    {
      "epoch": 1.264,
      "grad_norm": 0.41015625,
      "learning_rate": 3.4267780115799846e-06,
      "loss": 1.0830848217010498,
      "step": 474
    },
    {
      "epoch": 1.2693333333333334,
      "grad_norm": 0.310546875,
      "learning_rate": 3.398314695733401e-06,
      "loss": 1.3727480173110962,
      "step": 476
    },
    {
      "epoch": 1.2746666666666666,
      "grad_norm": 0.578125,
      "learning_rate": 3.3699305904846027e-06,
      "loss": 1.6773924827575684,
      "step": 478
    },
    {
      "epoch": 1.28,
      "grad_norm": 0.55078125,
      "learning_rate": 3.341628155205811e-06,
      "loss": 1.2972683906555176,
      "step": 480
    },
    {
      "epoch": 1.2853333333333334,
      "grad_norm": 0.71875,
      "learning_rate": 3.3134098421928692e-06,
      "loss": 1.2166887521743774,
      "step": 482
    },
    {
      "epoch": 1.2906666666666666,
      "grad_norm": 1.5078125,
      "learning_rate": 3.2852780964527466e-06,
      "loss": 1.3262923955917358,
      "step": 484
    },
    {
      "epoch": 1.296,
      "grad_norm": 0.2216796875,
      "learning_rate": 3.2572353554916966e-06,
      "loss": 1.2588746547698975,
      "step": 486
    },
    {
      "epoch": 1.3013333333333335,
      "grad_norm": 0.43359375,
      "learning_rate": 3.229284049104057e-06,
      "loss": 0.8871427774429321,
      "step": 488
    },
    {
      "epoch": 1.3066666666666666,
      "grad_norm": 0.259765625,
      "learning_rate": 3.2014265991617147e-06,
      "loss": 1.3596696853637695,
      "step": 490
    },
    {
      "epoch": 1.312,
      "grad_norm": 0.62890625,
      "learning_rate": 3.17366541940426e-06,
      "loss": 1.5204687118530273,
      "step": 492
    },
    {
      "epoch": 1.3173333333333335,
      "grad_norm": 0.32421875,
      "learning_rate": 3.1460029152298484e-06,
      "loss": 1.2328211069107056,
      "step": 494
    },
    {
      "epoch": 1.3226666666666667,
      "grad_norm": 0.43359375,
      "learning_rate": 3.1184414834867804e-06,
      "loss": 1.2612500190734863,
      "step": 496
    },
    {
      "epoch": 1.328,
      "grad_norm": 0.328125,
      "learning_rate": 3.0909835122658214e-06,
      "loss": 1.230236291885376,
      "step": 498
    },
    {
      "epoch": 1.3333333333333333,
      "grad_norm": 0.8046875,
      "learning_rate": 3.063631380693286e-06,
      "loss": 1.016282558441162,
      "step": 500
    },
    {
      "epoch": 1.3386666666666667,
      "grad_norm": 0.451171875,
      "learning_rate": 3.036387458724898e-06,
      "loss": 1.2729389667510986,
      "step": 502
    },
    {
      "epoch": 1.3439999999999999,
      "grad_norm": 0.396484375,
      "learning_rate": 3.009254106940435e-06,
      "loss": 1.2068243026733398,
      "step": 504
    },
    {
      "epoch": 1.3493333333333333,
      "grad_norm": 0.51953125,
      "learning_rate": 2.982233676339206e-06,
      "loss": 1.28195321559906,
      "step": 506
    },
    {
      "epoch": 1.3546666666666667,
      "grad_norm": 0.275390625,
      "learning_rate": 2.9553285081363308e-06,
      "loss": 1.1186037063598633,
      "step": 508
    },
    {
      "epoch": 1.3599999999999999,
      "grad_norm": 0.2255859375,
      "learning_rate": 2.9285409335598982e-06,
      "loss": 1.1410784721374512,
      "step": 510
    },
    {
      "epoch": 1.3653333333333333,
      "grad_norm": 0.59765625,
      "learning_rate": 2.9018732736489615e-06,
      "loss": 1.3254414796829224,
      "step": 512
    },
    {
      "epoch": 1.3706666666666667,
      "grad_norm": 0.515625,
      "learning_rate": 2.87532783905244e-06,
      "loss": 1.5107591152191162,
      "step": 514
    },
    {
      "epoch": 1.376,
      "grad_norm": 0.46484375,
      "learning_rate": 2.8489069298288992e-06,
      "loss": 1.2509578466415405,
      "step": 516
    },
    {
      "epoch": 1.3813333333333333,
      "grad_norm": 0.40234375,
      "learning_rate": 2.8226128352472747e-06,
      "loss": 1.3889421224594116,
      "step": 518
    },
    {
      "epoch": 1.3866666666666667,
      "grad_norm": 0.9140625,
      "learning_rate": 2.796447833588497e-06,
      "loss": 1.4837677478790283,
      "step": 520
    },
    {
      "epoch": 1.392,
      "grad_norm": 0.359375,
      "learning_rate": 2.7704141919481057e-06,
      "loss": 1.4461725950241089,
      "step": 522
    },
    {
      "epoch": 1.3973333333333333,
      "grad_norm": 0.625,
      "learning_rate": 2.7445141660397996e-06,
      "loss": 1.299829363822937,
      "step": 524
    },
    {
      "epoch": 1.4026666666666667,
      "grad_norm": 0.5234375,
      "learning_rate": 2.7187500000000004e-06,
      "loss": 1.0224652290344238,
      "step": 526
    },
    {
      "epoch": 1.408,
      "grad_norm": 0.53515625,
      "learning_rate": 2.6931239261933957e-06,
      "loss": 1.4109441041946411,
      "step": 528
    },
    {
      "epoch": 1.4133333333333333,
      "grad_norm": 0.40234375,
      "learning_rate": 2.6676381650195224e-06,
      "loss": 1.3534106016159058,
      "step": 530
    },
    {
      "epoch": 1.4186666666666667,
      "grad_norm": 0.89453125,
      "learning_rate": 2.6422949247203735e-06,
      "loss": 1.5593756437301636,
      "step": 532
    },
    {
      "epoch": 1.424,
      "grad_norm": 0.45703125,
      "learning_rate": 2.61709640118906e-06,
      "loss": 1.290115475654602,
      "step": 534
    },
    {
      "epoch": 1.4293333333333333,
      "grad_norm": 0.8125,
      "learning_rate": 2.5920447777795537e-06,
      "loss": 1.11957585811615,
      "step": 536
    },
    {
      "epoch": 1.4346666666666668,
      "grad_norm": 4.375,
      "learning_rate": 2.5671422251174963e-06,
      "loss": 1.0493898391723633,
      "step": 538
    },
    {
      "epoch": 1.44,
      "grad_norm": 0.78515625,
      "learning_rate": 2.5423909009121363e-06,
      "loss": 1.2276326417922974,
      "step": 540
    },
    {
      "epoch": 1.4453333333333334,
      "grad_norm": 0.28125,
      "learning_rate": 2.517792949769358e-06,
      "loss": 1.2422417402267456,
      "step": 542
    },
    {
      "epoch": 1.4506666666666668,
      "grad_norm": 0.8359375,
      "learning_rate": 2.4933505030058744e-06,
      "loss": 1.4107698202133179,
      "step": 544
    },
    {
      "epoch": 1.456,
      "grad_norm": 0.357421875,
      "learning_rate": 2.4690656784645434e-06,
      "loss": 1.0884898900985718,
      "step": 546
    },
    {
      "epoch": 1.4613333333333334,
      "grad_norm": 0.408203125,
      "learning_rate": 2.444940580330874e-06,
      "loss": 1.4010899066925049,
      "step": 548
    },
    {
      "epoch": 1.4666666666666668,
      "grad_norm": 1.03125,
      "learning_rate": 2.420977298950702e-06,
      "loss": 1.2208497524261475,
      "step": 550
    },
    {
      "epoch": 1.472,
      "grad_norm": 0.41796875,
      "learning_rate": 2.397177910649074e-06,
      "loss": 1.2561097145080566,
      "step": 552
    },
    {
      "epoch": 1.4773333333333334,
      "grad_norm": 0.52734375,
      "learning_rate": 2.3735444775503344e-06,
      "loss": 1.585281491279602,
      "step": 554
    },
    {
      "epoch": 1.4826666666666668,
      "grad_norm": 1.1875,
      "learning_rate": 2.350079047399464e-06,
      "loss": 1.4287792444229126,
      "step": 556
    },
    {
      "epoch": 1.488,
      "grad_norm": 0.87890625,
      "learning_rate": 2.3267836533846328e-06,
      "loss": 1.0933114290237427,
      "step": 558
    },
    {
      "epoch": 1.4933333333333334,
      "grad_norm": 0.8359375,
      "learning_rate": 2.3036603139610482e-06,
      "loss": 1.1171455383300781,
      "step": 560
    },
    {
      "epoch": 1.4986666666666666,
      "grad_norm": 0.64453125,
      "learning_rate": 2.2807110326760515e-06,
      "loss": 1.2635574340820312,
      "step": 562
    },
    {
      "epoch": 1.504,
      "grad_norm": 1.015625,
      "learning_rate": 2.25793779799553e-06,
      "loss": 1.4870187044143677,
      "step": 564
    },
    {
      "epoch": 1.5093333333333332,
      "grad_norm": 0.197265625,
      "learning_rate": 2.2353425831316116e-06,
      "loss": 1.1228148937225342,
      "step": 566
    },
    {
      "epoch": 1.5146666666666668,
      "grad_norm": 0.462890625,
      "learning_rate": 2.2129273458717058e-06,
      "loss": 1.393061876296997,
      "step": 568
    },
    {
      "epoch": 1.52,
      "grad_norm": 0.45703125,
      "learning_rate": 2.1906940284088615e-06,
      "loss": 1.0268428325653076,
      "step": 570
    },
    {
      "epoch": 1.5253333333333332,
      "grad_norm": 0.80859375,
      "learning_rate": 2.1686445571734825e-06,
      "loss": 1.3282322883605957,
      "step": 572
    },
    {
      "epoch": 1.5306666666666666,
      "grad_norm": 0.390625,
      "learning_rate": 2.146780842666417e-06,
      "loss": 1.2435400485992432,
      "step": 574
    },
    {
      "epoch": 1.536,
      "grad_norm": 0.61328125,
      "learning_rate": 2.1251047792934116e-06,
      "loss": 1.3963842391967773,
      "step": 576
    },
    {
      "epoch": 1.5413333333333332,
      "grad_norm": 0.40234375,
      "learning_rate": 2.1036182452009777e-06,
      "loss": 1.2569538354873657,
      "step": 578
    },
    {
      "epoch": 1.5466666666666666,
      "grad_norm": 0.58203125,
      "learning_rate": 2.082323102113647e-06,
      "loss": 1.3759268522262573,
      "step": 580
    },
    {
      "epoch": 1.552,
      "grad_norm": 0.4140625,
      "learning_rate": 2.0612211951726712e-06,
      "loss": 1.1200230121612549,
      "step": 582
    },
    {
      "epoch": 1.5573333333333332,
      "grad_norm": 0.51171875,
      "learning_rate": 2.040314352776137e-06,
      "loss": 1.6027384996414185,
      "step": 584
    },
    {
      "epoch": 1.5626666666666666,
      "grad_norm": 0.66015625,
      "learning_rate": 2.01960438642055e-06,
      "loss": 1.5927393436431885,
      "step": 586
    },
    {
      "epoch": 1.568,
      "grad_norm": 0.306640625,
      "learning_rate": 1.9990930905438733e-06,
      "loss": 1.0526584386825562,
      "step": 588
    },
    {
      "epoch": 1.5733333333333333,
      "grad_norm": 0.65625,
      "learning_rate": 1.978782242370046e-06,
      "loss": 1.4229958057403564,
      "step": 590
    },
    {
      "epoch": 1.5786666666666667,
      "grad_norm": 0.2392578125,
      "learning_rate": 1.958673601754995e-06,
      "loss": 1.2796956300735474,
      "step": 592
    },
    {
      "epoch": 1.584,
      "grad_norm": 0.57421875,
      "learning_rate": 1.9387689110341494e-06,
      "loss": 1.5249470472335815,
      "step": 594
    },
    {
      "epoch": 1.5893333333333333,
      "grad_norm": 0.37890625,
      "learning_rate": 1.9190698948714714e-06,
      "loss": 1.0016456842422485,
      "step": 596
    },
    {
      "epoch": 1.5946666666666667,
      "grad_norm": 0.29296875,
      "learning_rate": 1.899578260110027e-06,
      "loss": 1.4921225309371948,
      "step": 598
    },
    {
      "epoch": 1.6,
      "grad_norm": 0.5625,
      "learning_rate": 1.8802956956240875e-06,
      "loss": 1.3857101202011108,
      "step": 600
    },
    {
      "epoch": 1.6053333333333333,
      "grad_norm": 0.376953125,
      "learning_rate": 1.8612238721728026e-06,
      "loss": 1.0772466659545898,
      "step": 602
    },
    {
      "epoch": 1.6106666666666667,
      "grad_norm": 0.69921875,
      "learning_rate": 1.8423644422554278e-06,
      "loss": 1.374086618423462,
      "step": 604
    },
    {
      "epoch": 1.616,
      "grad_norm": 0.2392578125,
      "learning_rate": 1.8237190399681486e-06,
      "loss": 1.1497209072113037,
      "step": 606
    },
    {
      "epoch": 1.6213333333333333,
      "grad_norm": 0.31640625,
      "learning_rate": 1.8052892808624892e-06,
      "loss": 1.1666005849838257,
      "step": 608
    },
    {
      "epoch": 1.6266666666666667,
      "grad_norm": 0.5390625,
      "learning_rate": 1.78707676180533e-06,
      "loss": 1.4539345502853394,
      "step": 610
    },
    {
      "epoch": 1.6320000000000001,
      "grad_norm": 0.62890625,
      "learning_rate": 1.7690830608405475e-06,
      "loss": 1.2192360162734985,
      "step": 612
    },
    {
      "epoch": 1.6373333333333333,
      "grad_norm": 0.40234375,
      "learning_rate": 1.7513097370522843e-06,
      "loss": 1.2787443399429321,
      "step": 614
    },
    {
      "epoch": 1.6426666666666667,
      "grad_norm": 0.8203125,
      "learning_rate": 1.7337583304298553e-06,
      "loss": 1.4955127239227295,
      "step": 616
    },
    {
      "epoch": 1.6480000000000001,
      "grad_norm": 0.8359375,
      "learning_rate": 1.7164303617343188e-06,
      "loss": 1.5240033864974976,
      "step": 618
    },
    {
      "epoch": 1.6533333333333333,
      "grad_norm": 0.333984375,
      "learning_rate": 1.6993273323667077e-06,
      "loss": 1.186129093170166,
      "step": 620
    },
    {
      "epoch": 1.6586666666666665,
      "grad_norm": 0.65234375,
      "learning_rate": 1.6824507242379345e-06,
      "loss": 1.2840181589126587,
      "step": 622
    },
    {
      "epoch": 1.6640000000000001,
      "grad_norm": 0.5390625,
      "learning_rate": 1.6658019996403958e-06,
      "loss": 1.5434945821762085,
      "step": 624
    },
    {
      "epoch": 1.6693333333333333,
      "grad_norm": 0.68359375,
      "learning_rate": 1.6493826011212656e-06,
      "loss": 1.5949230194091797,
      "step": 626
    },
    {
      "epoch": 1.6746666666666665,
      "grad_norm": 0.5,
      "learning_rate": 1.6331939513575066e-06,
      "loss": 1.1981688737869263,
      "step": 628
    },
    {
      "epoch": 1.6800000000000002,
      "grad_norm": 0.6953125,
      "learning_rate": 1.6172374530326001e-06,
      "loss": 1.3873530626296997,
      "step": 630
    },
    {
      "epoch": 1.6853333333333333,
      "grad_norm": 0.5703125,
      "learning_rate": 1.60151448871501e-06,
      "loss": 1.1224573850631714,
      "step": 632
    },
    {
      "epoch": 1.6906666666666665,
      "grad_norm": 0.640625,
      "learning_rate": 1.5860264207383851e-06,
      "loss": 1.0328835248947144,
      "step": 634
    },
    {
      "epoch": 1.696,
      "grad_norm": 0.9375,
      "learning_rate": 1.5707745910835233e-06,
      "loss": 1.5136065483093262,
      "step": 636
    },
    {
      "epoch": 1.7013333333333334,
      "grad_norm": 1.2421875,
      "learning_rate": 1.5557603212620889e-06,
      "loss": 1.5170190334320068,
      "step": 638
    },
    {
      "epoch": 1.7066666666666666,
      "grad_norm": 0.41015625,
      "learning_rate": 1.5409849122021144e-06,
      "loss": 1.4020171165466309,
      "step": 640
    },
    {
      "epoch": 1.712,
      "grad_norm": 0.60546875,
      "learning_rate": 1.5264496441352748e-06,
      "loss": 1.5551862716674805,
      "step": 642
    },
    {
      "epoch": 1.7173333333333334,
      "grad_norm": 0.396484375,
      "learning_rate": 1.5121557764859648e-06,
      "loss": 1.3862305879592896,
      "step": 644
    },
    {
      "epoch": 1.7226666666666666,
      "grad_norm": 0.41015625,
      "learning_rate": 1.4981045477621702e-06,
      "loss": 0.922488272190094,
      "step": 646
    },
    {
      "epoch": 1.728,
      "grad_norm": 0.318359375,
      "learning_rate": 1.4842971754481615e-06,
      "loss": 1.240954041481018,
      "step": 648
    },
    {
      "epoch": 1.7333333333333334,
      "grad_norm": 0.24609375,
      "learning_rate": 1.4707348558989974e-06,
      "loss": 1.0813591480255127,
      "step": 650
    },
    {
      "epoch": 1.7386666666666666,
      "grad_norm": 0.63671875,
      "learning_rate": 1.4574187642368714e-06,
      "loss": 1.4775949716567993,
      "step": 652
    },
    {
      "epoch": 1.744,
      "grad_norm": 0.30859375,
      "learning_rate": 1.444350054249288e-06,
      "loss": 1.2168411016464233,
      "step": 654
    },
    {
      "epoch": 1.7493333333333334,
      "grad_norm": 0.5625,
      "learning_rate": 1.431529858289091e-06,
      "loss": 1.4125171899795532,
      "step": 656
    },
    {
      "epoch": 1.7546666666666666,
      "grad_norm": 0.53125,
      "learning_rate": 1.418959287176354e-06,
      "loss": 1.414473056793213,
      "step": 658
    },
    {
      "epoch": 1.76,
      "grad_norm": 0.486328125,
      "learning_rate": 1.406639430102127e-06,
      "loss": 1.220368504524231,
      "step": 660
    },
    {
      "epoch": 1.7653333333333334,
      "grad_norm": 0.4921875,
      "learning_rate": 1.3945713545340668e-06,
      "loss": 1.2297767400741577,
      "step": 662
    },
    {
      "epoch": 1.7706666666666666,
      "grad_norm": 0.2412109375,
      "learning_rate": 1.3827561061239403e-06,
      "loss": 1.3291184902191162,
      "step": 664
    },
    {
      "epoch": 1.776,
      "grad_norm": 0.65625,
      "learning_rate": 1.3711947086170277e-06,
      "loss": 1.0460172891616821,
      "step": 666
    },
    {
      "epoch": 1.7813333333333334,
      "grad_norm": 0.40234375,
      "learning_rate": 1.359888163763415e-06,
      "loss": 1.3426827192306519,
      "step": 668
    },
    {
      "epoch": 1.7866666666666666,
      "grad_norm": 0.3984375,
      "learning_rate": 1.3488374512311988e-06,
      "loss": 1.1144654750823975,
      "step": 670
    },
    {
      "epoch": 1.792,
      "grad_norm": 0.5546875,
      "learning_rate": 1.3380435285216006e-06,
      "loss": 1.2571556568145752,
      "step": 672
    },
    {
      "epoch": 1.7973333333333334,
      "grad_norm": 0.6953125,
      "learning_rate": 1.327507330886004e-06,
      "loss": 1.454203486442566,
      "step": 674
    },
    {
      "epoch": 1.8026666666666666,
      "grad_norm": 0.48046875,
      "learning_rate": 1.3172297712449172e-06,
      "loss": 1.4048188924789429,
      "step": 676
    },
    {
      "epoch": 1.808,
      "grad_norm": 0.58984375,
      "learning_rate": 1.3072117401088736e-06,
      "loss": 1.0630518198013306,
      "step": 678
    },
    {
      "epoch": 1.8133333333333335,
      "grad_norm": 0.9609375,
      "learning_rate": 1.2974541055012725e-06,
      "loss": 1.1879171133041382,
      "step": 680
    },
    {
      "epoch": 1.8186666666666667,
      "grad_norm": 0.734375,
      "learning_rate": 1.2879577128831673e-06,
      "loss": 1.380265235900879,
      "step": 682
    },
    {
      "epoch": 1.8239999999999998,
      "grad_norm": 0.36328125,
      "learning_rate": 1.278723385080009e-06,
      "loss": 0.971758246421814,
      "step": 684
    },
    {
      "epoch": 1.8293333333333335,
      "grad_norm": 0.5390625,
      "learning_rate": 1.2697519222103545e-06,
      "loss": 1.512132167816162,
      "step": 686
    },
    {
      "epoch": 1.8346666666666667,
      "grad_norm": 0.431640625,
      "learning_rate": 1.2610441016165355e-06,
      "loss": 1.005048155784607,
      "step": 688
    },
    {
      "epoch": 1.8399999999999999,
      "grad_norm": 0.294921875,
      "learning_rate": 1.2526006777973084e-06,
      "loss": 1.371572732925415,
      "step": 690
    },
    {
      "epoch": 1.8453333333333335,
      "grad_norm": 0.5703125,
      "learning_rate": 1.2444223823424778e-06,
      "loss": 1.332929253578186,
      "step": 692
    },
    {
      "epoch": 1.8506666666666667,
      "grad_norm": 0.30078125,
      "learning_rate": 1.2365099238695073e-06,
      "loss": 1.0624377727508545,
      "step": 694
    },
    {
      "epoch": 1.8559999999999999,
      "grad_norm": 0.60546875,
      "learning_rate": 1.2288639879621216e-06,
      "loss": 1.4434648752212524,
      "step": 696
    },
    {
      "epoch": 1.8613333333333333,
      "grad_norm": 0.59375,
      "learning_rate": 1.2214852371109014e-06,
      "loss": 1.115839958190918,
      "step": 698
    },
    {
      "epoch": 1.8666666666666667,
      "grad_norm": 0.294921875,
      "learning_rate": 1.214374310655884e-06,
      "loss": 1.3425531387329102,
      "step": 700
    },
    {
      "epoch": 1.8719999999999999,
      "grad_norm": 0.41015625,
      "learning_rate": 1.207531824731164e-06,
      "loss": 1.2544267177581787,
      "step": 702
    },
    {
      "epoch": 1.8773333333333333,
      "grad_norm": 0.48828125,
      "learning_rate": 1.2009583722115107e-06,
      "loss": 1.2201001644134521,
      "step": 704
    },
    {
      "epoch": 1.8826666666666667,
      "grad_norm": 0.5859375,
      "learning_rate": 1.1946545226609944e-06,
      "loss": 1.1109111309051514,
      "step": 706
    },
    {
      "epoch": 1.888,
      "grad_norm": 0.62109375,
      "learning_rate": 1.1886208222836388e-06,
      "loss": 1.2960035800933838,
      "step": 708
    },
    {
      "epoch": 1.8933333333333333,
      "grad_norm": 0.62890625,
      "learning_rate": 1.1828577938760926e-06,
      "loss": 1.3226895332336426,
      "step": 710
    },
    {
      "epoch": 1.8986666666666667,
      "grad_norm": 0.4296875,
      "learning_rate": 1.1773659367823326e-06,
      "loss": 1.459092140197754,
      "step": 712
    },
    {
      "epoch": 1.904,
      "grad_norm": 0.263671875,
      "learning_rate": 1.1721457268503963e-06,
      "loss": 0.9945974349975586,
      "step": 714
    },
    {
      "epoch": 1.9093333333333333,
      "grad_norm": 1.4921875,
      "learning_rate": 1.1671976163911537e-06,
      "loss": 1.3499224185943604,
      "step": 716
    },
    {
      "epoch": 1.9146666666666667,
      "grad_norm": 0.5,
      "learning_rate": 1.162522034139113e-06,
      "loss": 1.203792929649353,
      "step": 718
    },
    {
      "epoch": 1.92,
      "grad_norm": 0.357421875,
      "learning_rate": 1.1581193852152746e-06,
      "loss": 1.432945728302002,
      "step": 720
    },
    {
      "epoch": 1.9253333333333333,
      "grad_norm": 0.64453125,
      "learning_rate": 1.1539900510920285e-06,
      "loss": 1.4233765602111816,
      "step": 722
    },
    {
      "epoch": 1.9306666666666668,
      "grad_norm": 0.83984375,
      "learning_rate": 1.1501343895601022e-06,
      "loss": 1.5078463554382324,
      "step": 724
    },
    {
      "epoch": 1.936,
      "grad_norm": 0.298828125,
      "learning_rate": 1.1465527346975566e-06,
      "loss": 1.041426658630371,
      "step": 726
    },
    {
      "epoch": 1.9413333333333334,
      "grad_norm": 0.87890625,
      "learning_rate": 1.1432453968408437e-06,
      "loss": 1.1554670333862305,
      "step": 728
    },
    {
      "epoch": 1.9466666666666668,
      "grad_norm": 0.66015625,
      "learning_rate": 1.1402126625579132e-06,
      "loss": 1.238165020942688,
      "step": 730
    },
    {
      "epoch": 1.952,
      "grad_norm": 0.25,
      "learning_rate": 1.1374547946233843e-06,
      "loss": 1.2469568252563477,
      "step": 732
    },
    {
      "epoch": 1.9573333333333334,
      "grad_norm": 0.94921875,
      "learning_rate": 1.1349720319957783e-06,
      "loss": 1.100600004196167,
      "step": 734
    },
    {
      "epoch": 1.9626666666666668,
      "grad_norm": 0.287109375,
      "learning_rate": 1.1327645897968104e-06,
      "loss": 1.256953239440918,
      "step": 736
    },
    {
      "epoch": 1.968,
      "grad_norm": 0.408203125,
      "learning_rate": 1.1308326592927547e-06,
      "loss": 1.0144098997116089,
      "step": 738
    },
    {
      "epoch": 1.9733333333333334,
      "grad_norm": 0.5234375,
      "learning_rate": 1.1291764078778685e-06,
      "loss": 1.1728276014328003,
      "step": 740
    },
    {
      "epoch": 1.9786666666666668,
      "grad_norm": 0.70703125,
      "learning_rate": 1.127795979059889e-06,
      "loss": 1.084470272064209,
      "step": 742
    },
    {
      "epoch": 1.984,
      "grad_norm": 0.625,
      "learning_rate": 1.1266914924475997e-06,
      "loss": 1.2899092435836792,
      "step": 744
    },
    {
      "epoch": 1.9893333333333332,
      "grad_norm": 1.0390625,
      "learning_rate": 1.1258630437404658e-06,
      "loss": 1.3732484579086304,
      "step": 746
    },
    {
      "epoch": 1.9946666666666668,
      "grad_norm": 0.42578125,
      "learning_rate": 1.1253107047203428e-06,
      "loss": 1.2392138242721558,
      "step": 748
    },
    {
      "epoch": 2.0,
      "grad_norm": 0.375,
      "learning_rate": 1.1250345232452565e-06,
      "loss": 1.4283043146133423,
      "step": 750
    },
    {
      "epoch": 2.0,
      "step": 750,
      "total_flos": 2.55147477658973e+18,
      "train_loss": 1.3643777534166972,
      "train_runtime": 10437.131,
      "train_samples_per_second": 2.299,
      "train_steps_per_second": 0.072
    }
  ],
  "logging_steps": 2,
  "max_steps": 750,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 2,
  "save_steps": 99999,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": true
      },
      "attributes": {}
    }
  },
  "total_flos": 2.55147477658973e+18,
  "train_batch_size": 1,
  "trial_name": null,
  "trial_params": null
}