| { | |
| "best_metric": null, | |
| "best_model_checkpoint": null, | |
| "epoch": 43.011, | |
| "global_step": 3000, | |
| "is_hyper_param_search": false, | |
| "is_local_process_zero": true, | |
| "is_world_process_zero": true, | |
| "log_history": [ | |
| { | |
| "epoch": 0.01, | |
| "learning_rate": 6.946333333333333e-06, | |
| "loss": 0.5947, | |
| "step": 25 | |
| }, | |
| { | |
| "epoch": 0.02, | |
| "learning_rate": 6.888e-06, | |
| "loss": 0.3756, | |
| "step": 50 | |
| }, | |
| { | |
| "epoch": 1.0, | |
| "learning_rate": 6.829666666666667e-06, | |
| "loss": 0.2952, | |
| "step": 75 | |
| }, | |
| { | |
| "epoch": 1.01, | |
| "learning_rate": 6.771333333333333e-06, | |
| "loss": 0.2507, | |
| "step": 100 | |
| }, | |
| { | |
| "epoch": 1.02, | |
| "learning_rate": 6.713e-06, | |
| "loss": 0.2125, | |
| "step": 125 | |
| }, | |
| { | |
| "epoch": 2.0, | |
| "learning_rate": 6.654666666666667e-06, | |
| "loss": 0.1826, | |
| "step": 150 | |
| }, | |
| { | |
| "epoch": 2.01, | |
| "learning_rate": 6.596333333333333e-06, | |
| "loss": 0.1664, | |
| "step": 175 | |
| }, | |
| { | |
| "epoch": 2.02, | |
| "learning_rate": 6.538e-06, | |
| "loss": 0.1377, | |
| "step": 200 | |
| }, | |
| { | |
| "epoch": 3.01, | |
| "learning_rate": 6.4796666666666666e-06, | |
| "loss": 0.1191, | |
| "step": 225 | |
| }, | |
| { | |
| "epoch": 3.01, | |
| "learning_rate": 6.421333333333333e-06, | |
| "loss": 0.1102, | |
| "step": 250 | |
| }, | |
| { | |
| "epoch": 3.02, | |
| "learning_rate": 6.363e-06, | |
| "loss": 0.0895, | |
| "step": 275 | |
| }, | |
| { | |
| "epoch": 4.01, | |
| "learning_rate": 6.3046666666666666e-06, | |
| "loss": 0.0738, | |
| "step": 300 | |
| }, | |
| { | |
| "epoch": 4.02, | |
| "learning_rate": 6.246333333333333e-06, | |
| "loss": 0.071, | |
| "step": 325 | |
| }, | |
| { | |
| "epoch": 5.0, | |
| "learning_rate": 6.188e-06, | |
| "loss": 0.0532, | |
| "step": 350 | |
| }, | |
| { | |
| "epoch": 5.01, | |
| "learning_rate": 6.1296666666666665e-06, | |
| "loss": 0.0463, | |
| "step": 375 | |
| }, | |
| { | |
| "epoch": 5.02, | |
| "learning_rate": 6.071333333333333e-06, | |
| "loss": 0.0416, | |
| "step": 400 | |
| }, | |
| { | |
| "epoch": 6.0, | |
| "learning_rate": 6.013e-06, | |
| "loss": 0.0303, | |
| "step": 425 | |
| }, | |
| { | |
| "epoch": 6.01, | |
| "learning_rate": 5.9546666666666665e-06, | |
| "loss": 0.0284, | |
| "step": 450 | |
| }, | |
| { | |
| "epoch": 6.02, | |
| "learning_rate": 5.896333333333333e-06, | |
| "loss": 0.0224, | |
| "step": 475 | |
| }, | |
| { | |
| "epoch": 7.01, | |
| "learning_rate": 5.838e-06, | |
| "loss": 0.0176, | |
| "step": 500 | |
| }, | |
| { | |
| "epoch": 7.01, | |
| "eval_loss": 0.41654327511787415, | |
| "eval_runtime": 507.6124, | |
| "eval_samples_per_second": 5.701, | |
| "eval_steps_per_second": 0.179, | |
| "eval_wer": 22.506591768886853, | |
| "step": 500 | |
| }, | |
| { | |
| "epoch": 7.01, | |
| "learning_rate": 5.7796666666666665e-06, | |
| "loss": 0.0169, | |
| "step": 525 | |
| }, | |
| { | |
| "epoch": 7.02, | |
| "learning_rate": 5.721333333333333e-06, | |
| "loss": 0.0124, | |
| "step": 550 | |
| }, | |
| { | |
| "epoch": 8.01, | |
| "learning_rate": 5.663000000000001e-06, | |
| "loss": 0.0097, | |
| "step": 575 | |
| }, | |
| { | |
| "epoch": 8.02, | |
| "learning_rate": 5.6046666666666665e-06, | |
| "loss": 0.01, | |
| "step": 600 | |
| }, | |
| { | |
| "epoch": 9.0, | |
| "learning_rate": 5.546333333333333e-06, | |
| "loss": 0.0081, | |
| "step": 625 | |
| }, | |
| { | |
| "epoch": 9.01, | |
| "learning_rate": 5.488e-06, | |
| "loss": 0.0061, | |
| "step": 650 | |
| }, | |
| { | |
| "epoch": 9.02, | |
| "learning_rate": 5.4296666666666665e-06, | |
| "loss": 0.0059, | |
| "step": 675 | |
| }, | |
| { | |
| "epoch": 10.0, | |
| "learning_rate": 5.371333333333333e-06, | |
| "loss": 0.0046, | |
| "step": 700 | |
| }, | |
| { | |
| "epoch": 10.01, | |
| "learning_rate": 5.313e-06, | |
| "loss": 0.0043, | |
| "step": 725 | |
| }, | |
| { | |
| "epoch": 10.02, | |
| "learning_rate": 5.2546666666666664e-06, | |
| "loss": 0.0037, | |
| "step": 750 | |
| }, | |
| { | |
| "epoch": 11.01, | |
| "learning_rate": 5.196333333333333e-06, | |
| "loss": 0.0028, | |
| "step": 775 | |
| }, | |
| { | |
| "epoch": 11.01, | |
| "learning_rate": 5.138e-06, | |
| "loss": 0.0029, | |
| "step": 800 | |
| }, | |
| { | |
| "epoch": 11.02, | |
| "learning_rate": 5.0796666666666664e-06, | |
| "loss": 0.0027, | |
| "step": 825 | |
| }, | |
| { | |
| "epoch": 12.01, | |
| "learning_rate": 5.021333333333334e-06, | |
| "loss": 0.0024, | |
| "step": 850 | |
| }, | |
| { | |
| "epoch": 12.02, | |
| "learning_rate": 4.963e-06, | |
| "loss": 0.0021, | |
| "step": 875 | |
| }, | |
| { | |
| "epoch": 13.0, | |
| "learning_rate": 4.904666666666666e-06, | |
| "loss": 0.0017, | |
| "step": 900 | |
| }, | |
| { | |
| "epoch": 13.01, | |
| "learning_rate": 4.846333333333333e-06, | |
| "loss": 0.0014, | |
| "step": 925 | |
| }, | |
| { | |
| "epoch": 13.02, | |
| "learning_rate": 4.7880000000000006e-06, | |
| "loss": 0.0014, | |
| "step": 950 | |
| }, | |
| { | |
| "epoch": 14.0, | |
| "learning_rate": 4.729666666666666e-06, | |
| "loss": 0.0011, | |
| "step": 975 | |
| }, | |
| { | |
| "epoch": 14.01, | |
| "learning_rate": 4.671333333333333e-06, | |
| "loss": 0.0015, | |
| "step": 1000 | |
| }, | |
| { | |
| "epoch": 14.01, | |
| "eval_loss": 0.518588662147522, | |
| "eval_runtime": 502.7764, | |
| "eval_samples_per_second": 5.756, | |
| "eval_steps_per_second": 0.181, | |
| "eval_wer": 22.257250945775535, | |
| "step": 1000 | |
| }, | |
| { | |
| "epoch": 14.02, | |
| "learning_rate": 4.6130000000000006e-06, | |
| "loss": 0.0012, | |
| "step": 1025 | |
| }, | |
| { | |
| "epoch": 15.01, | |
| "learning_rate": 4.554666666666666e-06, | |
| "loss": 0.0013, | |
| "step": 1050 | |
| }, | |
| { | |
| "epoch": 15.01, | |
| "learning_rate": 4.496333333333333e-06, | |
| "loss": 0.0011, | |
| "step": 1075 | |
| }, | |
| { | |
| "epoch": 15.02, | |
| "learning_rate": 4.438e-06, | |
| "loss": 0.0012, | |
| "step": 1100 | |
| }, | |
| { | |
| "epoch": 16.01, | |
| "learning_rate": 4.379666666666667e-06, | |
| "loss": 0.0009, | |
| "step": 1125 | |
| }, | |
| { | |
| "epoch": 16.02, | |
| "learning_rate": 4.321333333333333e-06, | |
| "loss": 0.0008, | |
| "step": 1150 | |
| }, | |
| { | |
| "epoch": 17.0, | |
| "learning_rate": 4.263e-06, | |
| "loss": 0.0007, | |
| "step": 1175 | |
| }, | |
| { | |
| "epoch": 17.01, | |
| "learning_rate": 4.204666666666666e-06, | |
| "loss": 0.001, | |
| "step": 1200 | |
| }, | |
| { | |
| "epoch": 17.02, | |
| "learning_rate": 4.146333333333334e-06, | |
| "loss": 0.0007, | |
| "step": 1225 | |
| }, | |
| { | |
| "epoch": 18.0, | |
| "learning_rate": 4.088e-06, | |
| "loss": 0.0006, | |
| "step": 1250 | |
| }, | |
| { | |
| "epoch": 18.01, | |
| "learning_rate": 4.029666666666666e-06, | |
| "loss": 0.0006, | |
| "step": 1275 | |
| }, | |
| { | |
| "epoch": 18.02, | |
| "learning_rate": 3.971333333333334e-06, | |
| "loss": 0.0005, | |
| "step": 1300 | |
| }, | |
| { | |
| "epoch": 19.0, | |
| "learning_rate": 3.9130000000000005e-06, | |
| "loss": 0.0005, | |
| "step": 1325 | |
| }, | |
| { | |
| "epoch": 19.01, | |
| "learning_rate": 3.854666666666666e-06, | |
| "loss": 0.0005, | |
| "step": 1350 | |
| }, | |
| { | |
| "epoch": 19.02, | |
| "learning_rate": 3.7963333333333334e-06, | |
| "loss": 0.0004, | |
| "step": 1375 | |
| }, | |
| { | |
| "epoch": 20.01, | |
| "learning_rate": 3.738e-06, | |
| "loss": 0.0004, | |
| "step": 1400 | |
| }, | |
| { | |
| "epoch": 20.02, | |
| "learning_rate": 3.6796666666666663e-06, | |
| "loss": 0.0004, | |
| "step": 1425 | |
| }, | |
| { | |
| "epoch": 21.0, | |
| "learning_rate": 3.621333333333333e-06, | |
| "loss": 0.0004, | |
| "step": 1450 | |
| }, | |
| { | |
| "epoch": 21.01, | |
| "learning_rate": 3.563e-06, | |
| "loss": 0.0004, | |
| "step": 1475 | |
| }, | |
| { | |
| "epoch": 21.02, | |
| "learning_rate": 3.5046666666666667e-06, | |
| "loss": 0.0004, | |
| "step": 1500 | |
| }, | |
| { | |
| "epoch": 21.02, | |
| "eval_loss": 0.5740787982940674, | |
| "eval_runtime": 504.8205, | |
| "eval_samples_per_second": 5.733, | |
| "eval_steps_per_second": 0.18, | |
| "eval_wer": 22.240055026940272, | |
| "step": 1500 | |
| }, | |
| { | |
| "epoch": 22.0, | |
| "learning_rate": 3.4463333333333333e-06, | |
| "loss": 0.0003, | |
| "step": 1525 | |
| }, | |
| { | |
| "epoch": 22.01, | |
| "learning_rate": 3.388e-06, | |
| "loss": 0.0004, | |
| "step": 1550 | |
| }, | |
| { | |
| "epoch": 22.02, | |
| "learning_rate": 3.3296666666666667e-06, | |
| "loss": 0.0003, | |
| "step": 1575 | |
| }, | |
| { | |
| "epoch": 23.0, | |
| "learning_rate": 3.2713333333333333e-06, | |
| "loss": 0.0003, | |
| "step": 1600 | |
| }, | |
| { | |
| "epoch": 23.01, | |
| "learning_rate": 3.213e-06, | |
| "loss": 0.0003, | |
| "step": 1625 | |
| }, | |
| { | |
| "epoch": 23.02, | |
| "learning_rate": 3.1546666666666666e-06, | |
| "loss": 0.0003, | |
| "step": 1650 | |
| }, | |
| { | |
| "epoch": 24.01, | |
| "learning_rate": 3.0963333333333333e-06, | |
| "loss": 0.0003, | |
| "step": 1675 | |
| }, | |
| { | |
| "epoch": 24.01, | |
| "learning_rate": 3.038e-06, | |
| "loss": 0.0003, | |
| "step": 1700 | |
| }, | |
| { | |
| "epoch": 24.02, | |
| "learning_rate": 2.9796666666666666e-06, | |
| "loss": 0.0003, | |
| "step": 1725 | |
| }, | |
| { | |
| "epoch": 25.01, | |
| "learning_rate": 2.9213333333333333e-06, | |
| "loss": 0.0003, | |
| "step": 1750 | |
| }, | |
| { | |
| "epoch": 25.02, | |
| "learning_rate": 2.863e-06, | |
| "loss": 0.0003, | |
| "step": 1775 | |
| }, | |
| { | |
| "epoch": 26.0, | |
| "learning_rate": 2.8046666666666666e-06, | |
| "loss": 0.0003, | |
| "step": 1800 | |
| }, | |
| { | |
| "epoch": 26.01, | |
| "learning_rate": 2.7463333333333333e-06, | |
| "loss": 0.0003, | |
| "step": 1825 | |
| }, | |
| { | |
| "epoch": 26.02, | |
| "learning_rate": 2.688e-06, | |
| "loss": 0.0003, | |
| "step": 1850 | |
| }, | |
| { | |
| "epoch": 27.0, | |
| "learning_rate": 2.6296666666666666e-06, | |
| "loss": 0.0002, | |
| "step": 1875 | |
| }, | |
| { | |
| "epoch": 27.01, | |
| "learning_rate": 2.5713333333333333e-06, | |
| "loss": 0.0003, | |
| "step": 1900 | |
| }, | |
| { | |
| "epoch": 27.02, | |
| "learning_rate": 2.513e-06, | |
| "loss": 0.0002, | |
| "step": 1925 | |
| }, | |
| { | |
| "epoch": 28.01, | |
| "learning_rate": 2.4546666666666666e-06, | |
| "loss": 0.0002, | |
| "step": 1950 | |
| }, | |
| { | |
| "epoch": 28.01, | |
| "learning_rate": 2.3963333333333332e-06, | |
| "loss": 0.0002, | |
| "step": 1975 | |
| }, | |
| { | |
| "epoch": 28.02, | |
| "learning_rate": 2.338e-06, | |
| "loss": 0.0002, | |
| "step": 2000 | |
| }, | |
| { | |
| "epoch": 28.02, | |
| "eval_loss": 0.6025475859642029, | |
| "eval_runtime": 514.8451, | |
| "eval_samples_per_second": 5.621, | |
| "eval_steps_per_second": 0.177, | |
| "eval_wer": 22.383354350567465, | |
| "step": 2000 | |
| }, | |
| { | |
| "epoch": 29.01, | |
| "learning_rate": 2.2796666666666666e-06, | |
| "loss": 0.0002, | |
| "step": 2025 | |
| }, | |
| { | |
| "epoch": 29.02, | |
| "learning_rate": 2.2213333333333336e-06, | |
| "loss": 0.0002, | |
| "step": 2050 | |
| }, | |
| { | |
| "epoch": 30.0, | |
| "learning_rate": 2.163e-06, | |
| "loss": 0.0002, | |
| "step": 2075 | |
| }, | |
| { | |
| "epoch": 30.01, | |
| "learning_rate": 2.104666666666667e-06, | |
| "loss": 0.0002, | |
| "step": 2100 | |
| }, | |
| { | |
| "epoch": 30.02, | |
| "learning_rate": 2.046333333333333e-06, | |
| "loss": 0.0002, | |
| "step": 2125 | |
| }, | |
| { | |
| "epoch": 31.0, | |
| "learning_rate": 1.988e-06, | |
| "loss": 0.0002, | |
| "step": 2150 | |
| }, | |
| { | |
| "epoch": 31.01, | |
| "learning_rate": 1.9296666666666665e-06, | |
| "loss": 0.0002, | |
| "step": 2175 | |
| }, | |
| { | |
| "epoch": 31.02, | |
| "learning_rate": 1.8713333333333332e-06, | |
| "loss": 0.0002, | |
| "step": 2200 | |
| }, | |
| { | |
| "epoch": 32.01, | |
| "learning_rate": 1.813e-06, | |
| "loss": 0.0002, | |
| "step": 2225 | |
| }, | |
| { | |
| "epoch": 32.01, | |
| "learning_rate": 1.7546666666666665e-06, | |
| "loss": 0.0002, | |
| "step": 2250 | |
| }, | |
| { | |
| "epoch": 32.02, | |
| "learning_rate": 1.6963333333333334e-06, | |
| "loss": 0.0002, | |
| "step": 2275 | |
| }, | |
| { | |
| "epoch": 33.01, | |
| "learning_rate": 1.638e-06, | |
| "loss": 0.0002, | |
| "step": 2300 | |
| }, | |
| { | |
| "epoch": 33.02, | |
| "learning_rate": 1.5796666666666665e-06, | |
| "loss": 0.0002, | |
| "step": 2325 | |
| }, | |
| { | |
| "epoch": 34.0, | |
| "learning_rate": 1.5213333333333331e-06, | |
| "loss": 0.0002, | |
| "step": 2350 | |
| }, | |
| { | |
| "epoch": 34.01, | |
| "learning_rate": 1.463e-06, | |
| "loss": 0.0002, | |
| "step": 2375 | |
| }, | |
| { | |
| "epoch": 34.02, | |
| "learning_rate": 1.4046666666666667e-06, | |
| "loss": 0.0002, | |
| "step": 2400 | |
| }, | |
| { | |
| "epoch": 35.0, | |
| "learning_rate": 1.3463333333333333e-06, | |
| "loss": 0.0002, | |
| "step": 2425 | |
| }, | |
| { | |
| "epoch": 35.01, | |
| "learning_rate": 1.288e-06, | |
| "loss": 0.0002, | |
| "step": 2450 | |
| }, | |
| { | |
| "epoch": 35.02, | |
| "learning_rate": 1.2296666666666667e-06, | |
| "loss": 0.0002, | |
| "step": 2475 | |
| }, | |
| { | |
| "epoch": 36.01, | |
| "learning_rate": 1.1713333333333333e-06, | |
| "loss": 0.0002, | |
| "step": 2500 | |
| }, | |
| { | |
| "epoch": 36.01, | |
| "eval_loss": 0.6197419166564941, | |
| "eval_runtime": 505.1971, | |
| "eval_samples_per_second": 5.728, | |
| "eval_steps_per_second": 0.18, | |
| "eval_wer": 22.397684282930186, | |
| "step": 2500 | |
| }, | |
| { | |
| "epoch": 36.01, | |
| "learning_rate": 1.113e-06, | |
| "loss": 0.0002, | |
| "step": 2525 | |
| }, | |
| { | |
| "epoch": 36.02, | |
| "learning_rate": 1.0546666666666666e-06, | |
| "loss": 0.0002, | |
| "step": 2550 | |
| }, | |
| { | |
| "epoch": 37.01, | |
| "learning_rate": 9.963333333333333e-07, | |
| "loss": 0.0002, | |
| "step": 2575 | |
| }, | |
| { | |
| "epoch": 37.02, | |
| "learning_rate": 9.380000000000001e-07, | |
| "loss": 0.0002, | |
| "step": 2600 | |
| }, | |
| { | |
| "epoch": 38.0, | |
| "learning_rate": 8.796666666666667e-07, | |
| "loss": 0.0002, | |
| "step": 2625 | |
| }, | |
| { | |
| "epoch": 38.01, | |
| "learning_rate": 8.213333333333333e-07, | |
| "loss": 0.0002, | |
| "step": 2650 | |
| }, | |
| { | |
| "epoch": 38.02, | |
| "learning_rate": 7.629999999999999e-07, | |
| "loss": 0.0002, | |
| "step": 2675 | |
| }, | |
| { | |
| "epoch": 39.0, | |
| "learning_rate": 7.046666666666667e-07, | |
| "loss": 0.0002, | |
| "step": 2700 | |
| }, | |
| { | |
| "epoch": 39.01, | |
| "learning_rate": 6.463333333333334e-07, | |
| "loss": 0.0002, | |
| "step": 2725 | |
| }, | |
| { | |
| "epoch": 39.02, | |
| "learning_rate": 5.88e-07, | |
| "loss": 0.0002, | |
| "step": 2750 | |
| }, | |
| { | |
| "epoch": 40.01, | |
| "learning_rate": 5.296666666666666e-07, | |
| "loss": 0.0002, | |
| "step": 2775 | |
| }, | |
| { | |
| "epoch": 40.01, | |
| "learning_rate": 4.713333333333333e-07, | |
| "loss": 0.0002, | |
| "step": 2800 | |
| }, | |
| { | |
| "epoch": 40.02, | |
| "learning_rate": 4.1299999999999995e-07, | |
| "loss": 0.0002, | |
| "step": 2825 | |
| }, | |
| { | |
| "epoch": 41.01, | |
| "learning_rate": 3.5466666666666667e-07, | |
| "loss": 0.0002, | |
| "step": 2850 | |
| }, | |
| { | |
| "epoch": 41.02, | |
| "learning_rate": 2.9633333333333333e-07, | |
| "loss": 0.0002, | |
| "step": 2875 | |
| }, | |
| { | |
| "epoch": 42.0, | |
| "learning_rate": 2.3800000000000001e-07, | |
| "loss": 0.0001, | |
| "step": 2900 | |
| }, | |
| { | |
| "epoch": 42.01, | |
| "learning_rate": 1.7966666666666667e-07, | |
| "loss": 0.0002, | |
| "step": 2925 | |
| }, | |
| { | |
| "epoch": 42.02, | |
| "learning_rate": 1.2133333333333333e-07, | |
| "loss": 0.0002, | |
| "step": 2950 | |
| }, | |
| { | |
| "epoch": 43.0, | |
| "learning_rate": 6.3e-08, | |
| "loss": 0.0001, | |
| "step": 2975 | |
| }, | |
| { | |
| "epoch": 43.01, | |
| "learning_rate": 4.666666666666666e-09, | |
| "loss": 0.0002, | |
| "step": 3000 | |
| }, | |
| { | |
| "epoch": 43.01, | |
| "eval_loss": 0.6260294318199158, | |
| "eval_runtime": 510.7602, | |
| "eval_samples_per_second": 5.666, | |
| "eval_steps_per_second": 0.178, | |
| "eval_wer": 22.429210134128166, | |
| "step": 3000 | |
| }, | |
| { | |
| "epoch": 43.01, | |
| "step": 3000, | |
| "total_flos": 5.468866487304192e+19, | |
| "train_loss": 0.025396304086393987, | |
| "train_runtime": 23663.1246, | |
| "train_samples_per_second": 8.114, | |
| "train_steps_per_second": 0.127 | |
| } | |
| ], | |
| "max_steps": 3000, | |
| "num_train_epochs": 9223372036854775807, | |
| "total_flos": 5.468866487304192e+19, | |
| "trial_name": null, | |
| "trial_params": null | |
| } | |