change batch size and command
Browse files
run.sh
CHANGED
@@ -1,5 +1,5 @@
|
|
1 |
#!/usr/bin/env bash
|
2 |
-
|
3 |
--output_dir="./" \
|
4 |
--model_type="roberta" \
|
5 |
--config_name="./" \
|
@@ -7,8 +7,8 @@
|
|
7 |
--dataset_name="oscar" \
|
8 |
--dataset_config_name="unshuffled_deduplicated_th" \
|
9 |
--max_seq_length="128" \
|
10 |
-
--per_device_train_batch_size="
|
11 |
-
--per_device_eval_batch_size="
|
12 |
--learning_rate="3e-4" \
|
13 |
--warmup_steps="1000" \
|
14 |
--overwrite_output_dir \
|
|
|
1 |
#!/usr/bin/env bash
|
2 |
+
python3 run_mlm_flax.py \
|
3 |
--output_dir="./" \
|
4 |
--model_type="roberta" \
|
5 |
--config_name="./" \
|
|
|
7 |
--dataset_name="oscar" \
|
8 |
--dataset_config_name="unshuffled_deduplicated_th" \
|
9 |
--max_seq_length="128" \
|
10 |
+
--per_device_train_batch_size="4" \
|
11 |
+
--per_device_eval_batch_size="4" \
|
12 |
--learning_rate="3e-4" \
|
13 |
--warmup_steps="1000" \
|
14 |
--overwrite_output_dir \
|