ruBert-base-1-4 / config.json
Adammz's picture
Training in progress, epoch 1
fb75a93
raw
history blame
12.2 kB
{
"_name_or_path": "ai-forever/ruBert-base",
"architectures": [
"BertForSequenceClassification"
],
"attention_probs_dropout_prob": 0.1,
"classifier_dropout": null,
"directionality": "bidi",
"hidden_act": "gelu",
"hidden_dropout_prob": 0.1,
"hidden_size": 768,
"id2label": {
"0": "O",
"1": "\u041f\u043e\u0436\u0430\u0440\u044b",
"2": "\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043f\u043e\u0434 \u0441\u0442\u0440\u0430\u0436\u0443",
"3": "\u0412\u0437\u044f\u0442\u043a\u0438",
"4": "\u0423\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0435 \u043e\u0431\u0432\u0438\u043d\u0435\u043d\u0438\u0435",
"5": "\u0422\u0435\u0440\u0430\u043a\u0442",
"6": "\u042d\u043a\u0441\u0442\u0440\u0435\u043c\u0438\u0437\u043c",
"7": "\u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0431\u044b\u043b\u0438",
"8": "\u0410\u0432\u0438\u0430\u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u0430",
"9": "\u0417\u0435\u043c\u043b\u0435\u0442\u0440\u044f\u0441\u0435\u043d\u0438\u0435",
"10": "\u041e\u0442\u0437\u044b\u0432 \u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0438\u0438",
"11": "\u041a\u043e\u0440\u0440\u0443\u043f\u0446\u0438\u044f",
"12": "\u0420\u043e\u0441\u0442 \u0443\u0431\u044b\u0442\u043a\u043e\u0432",
"13": "\u0420\u0430\u0441\u0442\u0440\u0430\u0442\u0430 \u0434\u0435\u043d\u0435\u0436\u043d\u044b\u0445 \u0441\u0440\u0435\u0434\u0441\u0442\u0432",
"14": "\u0423\u0442\u0435\u0447\u043a\u0430 \u043d\u0435\u0444\u0442\u0438",
"15": "\u041a\u043e\u0440\u0430\u0431\u043b\u0435\u043a\u0440\u0443\u0448\u0435\u043d\u0438\u0435",
"16": "\u041f\u0440\u0438\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u043a \u0443\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0439 \u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0441\u0442\u0438",
"17": "\u0410\u043a\u0446\u0438\u043e\u043d\u0435\u0440\u043d\u044b\u0439 \u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442",
"18": "\u0418\u0437\u0432\u0435\u0440\u0436\u0435\u043d\u0438\u0435 \u0432\u0443\u043b\u043a\u0430\u043d\u0430",
"19": "\u041d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u043a\u043e\u043d\u0430",
"20": "\u041e\u0431\u0432\u0430\u043b",
"21": "\u041f\u0440\u043e\u0442\u0438\u0432\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043a\u043e\u0440\u0440\u0443\u043f\u0446\u0438\u0438",
"22": "\u0417\u0430\u043a\u0440\u044b\u0442\u0438\u0435 \u043f\u0440\u0435\u0434\u043f\u0440\u0438\u044f\u0442\u0438\u044f \u0438\u043b\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0441\u0442\u0432\u0430",
"23": "\u0423\u0431\u0438\u0439\u0441\u0442\u0432\u043e",
"24": "\u041d\u0430\u0432\u043e\u0434\u043d\u0435\u043d\u0438\u0435",
"25": "\u0423\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0435 \u0437\u0430\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u0435",
"26": "\u0422\u0435\u0445\u043d\u043e\u0433\u0435\u043d\u043d\u044b\u0435 \u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u044b",
"27": "\u0423\u0431\u044b\u0442\u043a\u0438",
"28": "\u0421\u0442\u0438\u0445\u0438\u0439\u043d\u044b\u0435 \u0431\u0435\u0434\u0441\u0442\u0432\u0438\u044f",
"29": "\u0427\u0440\u0435\u0437\u0432\u044b\u0447\u0430\u0439\u043d\u044b\u0435 \u043f\u0440\u043e\u0438\u0441\u0448\u0435\u0441\u0442\u0432\u0438\u044f, \u0447\u0440\u0435\u0437\u0432\u044b\u0447\u0430\u0439\u043d\u044b\u0435 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u0438",
"30": "\u041f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0442\u0435\u0440\u0440\u043e\u0440\u0438\u0441\u0442\u043e\u0432",
"31": "\u042d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u0440\u0435\u0441\u0442\u0443\u043f\u043b\u0435\u043d\u0438\u044f",
"32": "\u0424\u0438\u043d\u0430\u043d\u0441\u043e\u0432\u044b\u0435 \u0437\u0430\u0442\u0440\u0443\u0434\u043d\u0435\u043d\u0438\u044f",
"33": "\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u043c\u0438",
"34": "\u0412\u043e\u0437\u0431\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u0443\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0433\u043e \u0434\u0435\u043b\u0430",
"35": "\u0417\u0430\u043a\u0440\u044b\u0442\u0438\u0435 \u0444\u0438\u043b\u0438\u0430\u043b\u0430, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430",
"36": "\u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0434\u0430\u0436",
"37": "\u0416\u0430\u043b\u043e\u0431\u044b \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u0435\u0439",
"38": "\u042f\u0434\u0435\u0440\u043d\u044b\u0439 \u0432\u0437\u0440\u044b\u0432",
"39": "\u041d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435 \u043e\u0431\u044f\u0437\u0430\u043d\u043d\u043e\u0441\u0442\u0435\u0439",
"40": "\u041d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435 \u043f\u0440\u0430\u0432 \u0430\u043a\u0446\u0438\u043e\u043d\u0435\u0440\u043e\u0432",
"41": "\u041e\u0442\u043c\u044b\u0432\u0430\u043d\u0438\u0435 \u0434\u0435\u043d\u0435\u0433",
"42": "\u041c\u043e\u0448\u0435\u043d\u043d\u0438\u0447\u0435\u0441\u0442\u0432\u043e",
"43": "\u0412\u0437\u0440\u044b\u0432 \u0433\u0430\u0437\u0430",
"44": "\u0412\u044b\u0435\u043c\u043a\u0438",
"45": "\u0411\u0435\u0441\u043f\u043e\u0440\u044f\u0434\u043a\u0438, \u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442\u044b \u0438 \u0432\u043e\u0439\u043d\u044b",
"46": "\u041a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u044b, \u043a\u0440\u0443\u0448\u0435\u043d\u0438\u044f",
"47": "\u041c\u0430\u043d\u0438\u043f\u0443\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0440\u044b\u043d\u043a\u043e\u043c",
"48": "\u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043c\u0435\u0442\u0435\u043e\u0440\u0438\u0442\u0430",
"49": "\u041d\u0430\u043f\u0430\u0434\u0435\u043d\u0438\u0435"
},
"initializer_range": 0.02,
"intermediate_size": 3072,
"label2id": {
"O": 0,
"\u0410\u0432\u0438\u0430\u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u0430": 8,
"\u0410\u043a\u0446\u0438\u043e\u043d\u0435\u0440\u043d\u044b\u0439 \u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442": 17,
"\u0411\u0435\u0441\u043f\u043e\u0440\u044f\u0434\u043a\u0438, \u043a\u043e\u043d\u0444\u043b\u0438\u043a\u0442\u044b \u0438 \u0432\u043e\u0439\u043d\u044b": 45,
"\u0412\u0437\u0440\u044b\u0432 \u0433\u0430\u0437\u0430": 43,
"\u0412\u0437\u044f\u0442\u043a\u0438": 3,
"\u0412\u043e\u0437\u0431\u0443\u0436\u0434\u0435\u043d\u0438\u0435 \u0443\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0433\u043e \u0434\u0435\u043b\u0430": 34,
"\u0412\u044b\u0435\u043c\u043a\u0438": 44,
"\u0416\u0430\u043b\u043e\u0431\u044b \u043f\u043e\u0442\u0440\u0435\u0431\u0438\u0442\u0435\u043b\u0435\u0439": 37,
"\u0417\u0430\u043a\u043b\u044e\u0447\u0435\u043d\u0438\u0435 \u043f\u043e\u0434 \u0441\u0442\u0440\u0430\u0436\u0443": 2,
"\u0417\u0430\u043a\u0440\u044b\u0442\u0438\u0435 \u043f\u0440\u0435\u0434\u043f\u0440\u0438\u044f\u0442\u0438\u044f \u0438\u043b\u0438 \u043f\u0440\u043e\u0438\u0437\u0432\u043e\u0434\u0441\u0442\u0432\u0430": 22,
"\u0417\u0430\u043a\u0440\u044b\u0442\u0438\u0435 \u0444\u0438\u043b\u0438\u0430\u043b\u0430, \u043f\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u0438\u0442\u0435\u043b\u044c\u0441\u0442\u0432\u0430": 35,
"\u0417\u0435\u043c\u043b\u0435\u0442\u0440\u044f\u0441\u0435\u043d\u0438\u0435": 9,
"\u0418\u0437\u0432\u0435\u0440\u0436\u0435\u043d\u0438\u0435 \u0432\u0443\u043b\u043a\u0430\u043d\u0430": 18,
"\u041a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u044b, \u043a\u0440\u0443\u0448\u0435\u043d\u0438\u044f": 46,
"\u041a\u043e\u0440\u0430\u0431\u043b\u0435\u043a\u0440\u0443\u0448\u0435\u043d\u0438\u0435": 15,
"\u041a\u043e\u0440\u0440\u0443\u043f\u0446\u0438\u044f": 11,
"\u041c\u0430\u043d\u0438\u043f\u0443\u043b\u0438\u0440\u043e\u0432\u0430\u043d\u0438\u0435 \u0440\u044b\u043d\u043a\u043e\u043c": 47,
"\u041c\u043e\u0448\u0435\u043d\u043d\u0438\u0447\u0435\u0441\u0442\u0432\u043e": 42,
"\u041d\u0430\u0432\u043e\u0434\u043d\u0435\u043d\u0438\u0435": 24,
"\u041d\u0430\u043f\u0430\u0434\u0435\u043d\u0438\u0435": 49,
"\u041d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435 \u0437\u0430\u043a\u043e\u043d\u0430": 19,
"\u041d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435 \u043e\u0431\u044f\u0437\u0430\u043d\u043d\u043e\u0441\u0442\u0435\u0439": 39,
"\u041d\u0430\u0440\u0443\u0448\u0435\u043d\u0438\u0435 \u043f\u0440\u0430\u0432 \u0430\u043a\u0446\u0438\u043e\u043d\u0435\u0440\u043e\u0432": 40,
"\u041e\u0431\u0432\u0430\u043b": 20,
"\u041e\u0442\u0437\u044b\u0432 \u043f\u0440\u043e\u0434\u0443\u043a\u0446\u0438\u0438": 10,
"\u041e\u0442\u043c\u044b\u0432\u0430\u043d\u0438\u0435 \u0434\u0435\u043d\u0435\u0433": 41,
"\u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043c\u0435\u0442\u0435\u043e\u0440\u0438\u0442\u0430": 48,
"\u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043f\u0440\u0438\u0431\u044b\u043b\u0438": 7,
"\u041f\u0430\u0434\u0435\u043d\u0438\u0435 \u043f\u0440\u043e\u0434\u0430\u0436": 36,
"\u041f\u043e\u0434\u0434\u0435\u0440\u0436\u043a\u0430 \u0442\u0435\u0440\u0440\u043e\u0440\u0438\u0441\u0442\u043e\u0432": 30,
"\u041f\u043e\u0436\u0430\u0440\u044b": 1,
"\u041f\u0440\u0438\u0432\u043b\u0435\u0447\u0435\u043d\u0438\u0435 \u043a \u0443\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0439 \u043e\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0435\u043d\u043d\u043e\u0441\u0442\u0438": 16,
"\u041f\u0440\u043e\u0431\u043b\u0435\u043c\u044b \u0441 \u0430\u043a\u0442\u0438\u0432\u0430\u043c\u0438": 33,
"\u041f\u0440\u043e\u0442\u0438\u0432\u043e\u0434\u0435\u0439\u0441\u0442\u0432\u0438\u0435 \u043a\u043e\u0440\u0440\u0443\u043f\u0446\u0438\u0438": 21,
"\u0420\u0430\u0441\u0442\u0440\u0430\u0442\u0430 \u0434\u0435\u043d\u0435\u0436\u043d\u044b\u0445 \u0441\u0440\u0435\u0434\u0441\u0442\u0432": 13,
"\u0420\u043e\u0441\u0442 \u0443\u0431\u044b\u0442\u043a\u043e\u0432": 12,
"\u0421\u0442\u0438\u0445\u0438\u0439\u043d\u044b\u0435 \u0431\u0435\u0434\u0441\u0442\u0432\u0438\u044f": 28,
"\u0422\u0435\u0440\u0430\u043a\u0442": 5,
"\u0422\u0435\u0445\u043d\u043e\u0433\u0435\u043d\u043d\u044b\u0435 \u043a\u0430\u0442\u0430\u0441\u0442\u0440\u043e\u0444\u044b": 26,
"\u0423\u0431\u0438\u0439\u0441\u0442\u0432\u043e": 23,
"\u0423\u0431\u044b\u0442\u043a\u0438": 27,
"\u0423\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0435 \u0437\u0430\u0434\u0435\u0440\u0436\u0430\u043d\u0438\u0435": 25,
"\u0423\u0433\u043e\u043b\u043e\u0432\u043d\u043e\u0435 \u043e\u0431\u0432\u0438\u043d\u0435\u043d\u0438\u0435": 4,
"\u0423\u0442\u0435\u0447\u043a\u0430 \u043d\u0435\u0444\u0442\u0438": 14,
"\u0424\u0438\u043d\u0430\u043d\u0441\u043e\u0432\u044b\u0435 \u0437\u0430\u0442\u0440\u0443\u0434\u043d\u0435\u043d\u0438\u044f": 32,
"\u0427\u0440\u0435\u0437\u0432\u044b\u0447\u0430\u0439\u043d\u044b\u0435 \u043f\u0440\u043e\u0438\u0441\u0448\u0435\u0441\u0442\u0432\u0438\u044f, \u0447\u0440\u0435\u0437\u0432\u044b\u0447\u0430\u0439\u043d\u044b\u0435 \u0441\u0438\u0442\u0443\u0430\u0446\u0438\u0438": 29,
"\u042d\u043a\u043e\u043d\u043e\u043c\u0438\u0447\u0435\u0441\u043a\u0438\u0435 \u043f\u0440\u0435\u0441\u0442\u0443\u043f\u043b\u0435\u043d\u0438\u044f": 31,
"\u042d\u043a\u0441\u0442\u0440\u0435\u043c\u0438\u0437\u043c": 6,
"\u042f\u0434\u0435\u0440\u043d\u044b\u0439 \u0432\u0437\u0440\u044b\u0432": 38
},
"layer_norm_eps": 1e-12,
"max_position_embeddings": 512,
"model_type": "bert",
"num_attention_heads": 12,
"num_hidden_layers": 12,
"pad_token_id": 0,
"pooler_fc_size": 768,
"pooler_num_attention_heads": 12,
"pooler_num_fc_layers": 3,
"pooler_size_per_head": 128,
"pooler_type": "first_token_transform",
"position_embedding_type": "absolute",
"problem_type": "single_label_classification",
"torch_dtype": "float32",
"transformers_version": "4.35.2",
"type_vocab_size": 2,
"use_cache": true,
"vocab_size": 120138
}