README.md

metadata

license: mit
base_model: indolem/indobert-base-uncased
tags:
  - generated_from_trainer
model-index:
  - name: indobert_qa_skripsi_small
    results: []
widget:
  - text: Kapan uin jakarta dibentuk
    context: "Universitas Islam Negeri (UIN) Syarif Hidayatullah Jakarta juga dikenal sebagai UIN Jakarta, adalah sebuah institusi pendidikan tinggi yang berlokasi di Jakarta, Indonesia.Universitas ini didirikan pada tahun 1957 dengan nama IAIN (Institut Agama Islam Negeri) Jakarta. Pada awalnya, institusi ini hanya menawarkan program pendidikan Islam. Universitas ini didirikan pada tahun 1957 dengan nama IAIN (Institut Agama Islam Negeri) Jakarta. Pada awalnya, institusi ini hanya menawarkan program pendidikan Islam. Selama beberapa dekade, IAIN Jakarta mengalami perkembangan yang pesat dalam hal jumlah program studi, fakultas, dan fasilitas. Pada tahun 2007, IAIN Jakarta ditingkatkan statusnya menjadi universitas dan berganti nama menjadi UIN Syarif Hidayatullah Jakarta, sebagai penghormatan kepada Syekh Syarif Hidayatullah, seorang ulama besar dari Indonesia. Saat ini, UIN Jakarta mempunyai puluhan program studi yang dibagi menjadi 12 fakultas. UIN Jakarta tidak hanya membuka program studi khusus keagamaan saja, tetapi juga ilmu umum, sampai\_pendidikan."

indobert_qa_skripsi_small

This model is a fine-tuned version of indolem/indobert-base-uncased on the None dataset. It achieves the following results on the evaluation set:

• Loss: 2.4258

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• learning_rate: 2e-05
• train_batch_size: 16
• eval_batch_size: 16
• seed: 42
• gradient_accumulation_steps: 2
• total_train_batch_size: 32
• optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
• lr_scheduler_type: linear
• num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss
1.2187	1.0	2700	2.1966
0.8997	2.0	5400	2.1678
0.6686	3.0	8100	2.4258

Framework versions

• Transformers 4.33.3
• Pytorch 2.0.1+cu118
• Datasets 2.14.5
• Tokenizers 0.13.3