metadata

license: mit
base_model: indolem/indobert-base-uncased
tags:
  - generated_from_trainer
model-index:
  - name: indobert_qa_skripsi_small
    results: []
widget:
  - text: UIN Jakarta kapan didirikan?
    context: >-
      Universitas Islam Negeri (UIN) Syarif Hidayatullah Jakarta juga dikenal
      sebagai UIN Jakarta, adalah sebuah institusi pendidikan tinggi yang
      berlokasi di Jakarta, Indonesia. Universitas ini didirikan pada tahun 1957
      dengan nama IAIN (Institut Agama Islam Negeri) Jakarta. Pada awalnya,
      institusi ini hanya menawarkan program pendidikan Islam. Universitas ini
      didirikan pada tahun 1957 dengan nama IAIN (Institut Agama Islam Negeri)
      Jakarta. Pada awalnya, institusi ini hanya menawarkan program pendidikan
      Islam. Selama beberapa dekade, IAIN Jakarta mengalami perkembangan yang
      pesat dalam hal jumlah program studi, fakultas, dan fasilitas. Pada tahun
      2007, IAIN Jakarta ditingkatkan statusnya menjadi universitas dan berganti
      nama menjadi UIN Syarif Hidayatullah Jakarta, sebagai penghormatan kepada
      Syekh Syarif Hidayatullah, seorang ulama besar dari Indonesia. Saat ini,
      UIN Jakarta mempunyai puluhan program studi yang dibagi menjadi 12
      fakultas. UIN Jakarta tidak hanya membuka program studi khusus keagamaan
      saja, tetapi juga ilmu umum, sampai pendidikan

indobert_qa_skripsi_small

This model is a fine-tuned version of indolem/indobert-base-uncased on the None dataset. It achieves the following results on the evaluation set:

Loss: 2.4258

Model description

More information needed

Intended uses & limitations

More information needed

Training and evaluation data

More information needed

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

learning_rate: 2e-05
train_batch_size: 16
eval_batch_size: 16
seed: 42
gradient_accumulation_steps: 2
total_train_batch_size: 32
optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
lr_scheduler_type: linear
num_epochs: 3

Training results

Training Loss	Epoch	Step	Validation Loss
1.2187	1.0	2700	2.1966
0.8997	2.0	5400	2.1678
0.6686	3.0	8100	2.4258

Framework versions

Transformers 4.33.2
Pytorch 2.0.1+cu118
Datasets 2.14.5
Tokenizers 0.13.3