File size: 2,691 Bytes
77c2df4
 
 
 
 
 
 
 
baae6be
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
77c2df4
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
57c9296
77c2df4
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
---
license: mit
base_model: indolem/indobert-base-uncased
tags:
- generated_from_trainer
model-index:
- name: indobert_qa_skripsi_small
  results: []
widget:
- text: Kapan uin jakarta dibentuk
  context: Universitas Islam Negeri (UIN) Syarif Hidayatullah Jakarta juga dikenal
      sebagai UIN Jakarta, adalah sebuah institusi pendidikan tinggi yang
      berlokasi di Jakarta, Indonesia.Universitas ini didirikan pada tahun 1957
      dengan nama IAIN (Institut Agama Islam Negeri) Jakarta. Pada awalnya,
      institusi ini hanya menawarkan program pendidikan Islam. Universitas ini
      didirikan pada tahun 1957 dengan nama IAIN (Institut Agama Islam Negeri)
      Jakarta. Pada awalnya, institusi ini hanya menawarkan program pendidikan
      Islam. Selama beberapa dekade, IAIN Jakarta mengalami perkembangan yang
      pesat dalam hal jumlah program studi, fakultas, dan fasilitas. Pada tahun
      2007, IAIN Jakarta ditingkatkan statusnya menjadi universitas dan berganti
      nama menjadi UIN Syarif Hidayatullah Jakarta, sebagai penghormatan kepada
      Syekh Syarif Hidayatullah, seorang ulama besar dari Indonesia. Saat ini,
      UIN Jakarta mempunyai puluhan program studi yang dibagi menjadi 12
      fakultas. UIN Jakarta tidak hanya membuka program studi khusus keagamaan
      saja, tetapi juga ilmu umum, sampai pendidikan.
---

<!-- This model card has been generated automatically according to the information the Trainer had access to. You
should probably proofread and complete it, then remove this comment. -->

# indobert_qa_skripsi_small

This model is a fine-tuned version of [indolem/indobert-base-uncased](https://huggingface.co./indolem/indobert-base-uncased) on the None dataset.
It achieves the following results on the evaluation set:
- Loss: 2.4258

## Model description

More information needed

## Intended uses & limitations

More information needed

## Training and evaluation data

More information needed

## Training procedure

### Training hyperparameters

The following hyperparameters were used during training:
- learning_rate: 2e-05
- train_batch_size: 16
- eval_batch_size: 16
- seed: 42
- gradient_accumulation_steps: 2
- total_train_batch_size: 32
- optimizer: Adam with betas=(0.9,0.999) and epsilon=1e-08
- lr_scheduler_type: linear
- num_epochs: 3

### Training results

| Training Loss | Epoch | Step | Validation Loss |
|:-------------:|:-----:|:----:|:---------------:|
| 1.2187        | 1.0   | 2700 | 2.1966          |
| 0.8997        | 2.0   | 5400 | 2.1678          |
| 0.6686        | 3.0   | 8100 | 2.4258          |


### Framework versions

- Transformers 4.33.3
- Pytorch 2.0.1+cu118
- Datasets 2.14.5
- Tokenizers 0.13.3