{ | |
"additional_special_tokens": [ | |
"<repo_name>", | |
"<file_sep>", | |
"<t2v_token>", | |
"<v2t_token>", | |
"<|start_header_id|>", | |
"<|end_header_id|>", | |
"<|eot_id|>", | |
"<extra_id_12>", | |
"<extra_id_13>", | |
"<extra_id_14>", | |
"<extra_id_15>", | |
"<extra_id_16>", | |
"<extra_id_17>", | |
"<extra_id_18>", | |
"<extra_id_19>", | |
"<extra_id_20>", | |
"<extra_id_21>", | |
"<extra_id_22>", | |
"<extra_id_23>", | |
"<extra_id_24>", | |
"<extra_id_25>", | |
"<extra_id_26>", | |
"<extra_id_27>", | |
"<extra_id_28>", | |
"<extra_id_29>", | |
"<extra_id_30>", | |
"<extra_id_31>", | |
"<extra_id_32>", | |
"<extra_id_33>", | |
"<extra_id_34>", | |
"<extra_id_35>", | |
"<extra_id_36>", | |
"<extra_id_37>", | |
"<extra_id_38>", | |
"<extra_id_39>", | |
"<extra_id_40>", | |
"<extra_id_41>", | |
"<extra_id_42>", | |
"<extra_id_43>", | |
"<extra_id_44>", | |
"<extra_id_45>", | |
"<extra_id_46>", | |
"<extra_id_47>", | |
"<extra_id_48>", | |
"<extra_id_49>", | |
"<extra_id_50>", | |
"<extra_id_51>", | |
"<extra_id_52>", | |
"<extra_id_53>", | |
"<extra_id_54>", | |
"<extra_id_55>", | |
"<extra_id_56>", | |
"<extra_id_57>", | |
"<extra_id_58>", | |
"<extra_id_59>", | |
"<extra_id_60>", | |
"<extra_id_61>", | |
"<extra_id_62>", | |
"<extra_id_63>" | |
], | |
"bos_token": { | |
"content": "<bos>", | |
"lstrip": false, | |
"normalized": true, | |
"rstrip": false, | |
"single_word": false | |
}, | |
"eos_token": "<|eot_id|>", | |
"pad_token": { | |
"content": "<pad>", | |
"lstrip": false, | |
"normalized": true, | |
"rstrip": false, | |
"single_word": false | |
}, | |
"sep_token": "<eos>", | |
"unk_token": { | |
"content": "<unk>", | |
"lstrip": false, | |
"normalized": true, | |
"rstrip": false, | |
"single_word": false | |
} | |
} | |