Hugging Face's logo

Datasets:
haryoaw
/
COPAL

Tasks:
Multiple Choice
Modalities:
Tabular
Text
Formats:
csv
Languages:
Indonesian
Size:
1K - 10K
ArXiv:
Libraries:
Datasets
pandas
License:
Dataset card Viewer Files Community
3
Dataset Viewer
Auto-converted to Parquet
Full Screen
premise
stringlengths
10
97
choice1
stringlengths
12
83
choice2
stringlengths
9
81
question
stringclasses
2 values
idx
int64
0
559
label
int64
0
1
Terminology
int64
0
1
Culture
int64
0
1
Language
int64
0
1
Pria itu memangku tasnya saat menaiki angkutan umum.
Pria itu berjaga-jaga agar tasnya tidak dicuri.
Tasnya empuk.
cause
0
0
0
1
0
Kulitnya bentol-bentol.
Ia digigit nyamuk.
Ia dipatuk ayam .
cause
1
0
0
1
0
Bapak saya masuk angin.
Bapak pulang dari salon.
Bapak pulang ronda.
cause
2
1
1
0
0
Jari bocah itu sakit.
Ia terlalu banyak main enggrang.
Ia terlalu banyak main kelereng.
cause
3
1
0
1
0
Dia sedih.
Nilai rapornya banyak yang merah.
Nilai rapornya banyak yang hijau.
cause
4
0
0
1
0
Ibu itu begitu bahagia.
Namanya terpilih di undian arisan.
Namanya tidak terpilih di undian arisan.
cause
5
0
1
0
0
Orang itu makan nasi porsi kuli.
Orang itu bosan makan nasi.
Orang itu belum makan dari kemarin.
cause
6
1
0
1
0
Ia merasa geli.
Temannya menggosokkan kemoceng di kakinya.
Temannya menggosokkan kentongan di kakinya.
cause
7
0
1
0
0
Ia tidak naik kelas.
Ia jarang belajar.
Ia takut ketinggian.
cause
8
0
0
0
1
Pria itu baru saja selesai solat berjamaah. Ia terkejut.
Bajunya hilang dicuri.
Sandalnya hilang dicuri.
cause
9
1
0
1
0
Gadis itu ikut latihan saman.
Ia senang ilmu mistis.
Ia senang menari.
cause
10
1
1
0
0
Pemuda itu makan di warteg.
Dia sedang ingin makan makanan mewah.
Dia sedang berhemat.
cause
11
1
1
0
0
KPR bapak macet.
Bapak dipecat dari kantor.
Bapak jarang membersihkan rumah.
cause
12
0
1
0
0
Kakak menjuarai lomba gurindam.
Kakak sangat perkasa.
Kakak sangat kreatif.
cause
13
1
1
0
0
Bapak itu memesan ojek.
Dia sangat mengantuk.
Dia ingin berangkat ke kantor.
cause
14
1
1
0
0
Ibu kos datang.
Ia akan mengadakan lomba memasak.
Ia ingin menagih bayaran.
cause
15
1
1
0
0
Mahasiswa itu terlihat gugup.
Sebentar lagi sidang pidana.
Sebentar lagi sidang skripsi.
cause
16
1
0
1
0
Ia berlatih gerakan kuda-kuda.
Ia sedang belajar silat.
Ia sedang belajar naik kuda.
cause
17
0
0
0
1
Kakinya kapalan.
Ia seorang nahkoda kapal.
Ia jarang pakai alas kaki.
cause
18
1
0
0
1
Pengusaha kelas kakap itu akhirnya jatuh juga.
Hotel-hotel miliknya sepi pengunjung karena pandemi.
Ikan kakap yang dijualnya jatuh dari meja.
cause
19
0
0
0
1
Wanita itu sangat ingin menjadi artis.
Ia menekuni seni melukis dan menggambar.
Ia mencoba mengadu nasib dengan mengikuti audisi penyanyi.
effect
20
1
0
0
1
Mahasiswa itu ketahuan titip absen.
Mahasiswa itu dikeluarkan dari kampus.
Dosennya memberikan nilai F.
effect
21
1
0
1
0
Siswa SMA itu rambutnya gondrong.
Gurunya menghukum siswa itu.
Gurunya mengapresiasi siswa itu.
effect
22
0
1
1
0
Pak ogah membantu mobilnya putar balik.
Ia memberikan pak ogah uang receh.
Ia memberikan pak ogah bingkisan parsel.
effect
23
0
1
0
0
Pengunjung itu memberikan tip 5% ke pelayan.
Pelayan itu kesal.
Pelayan itu merasa sangat senang.
effect
24
1
0
1
0
Banyak sekali pungli sepanjang perjalanan.
Ia jadi jengkel.
Perjalanan semakin lancar.
effect
25
0
1
0
0
Ia ingin memberbaharui SIM-C miliknya.
Ia datang ke kantor samsat.
Ia datang ke toko ponsel.
effect
26
0
1
0
0
Sopir truk jarak jauh itu bosan.
Ia menyetel lagu dangdut.
Ia menyetel lagu jazz.
effect
27
0
0
1
0
Pemuda tersebut berlatih angklung setiap hari.
Dia semakin handal bermain musik.
Dia semakin handal dalam menyetir mobil.
effect
28
0
1
0
0
Segerombolan pemuda sedang menjelajah Kalimantan.
Mereka bertemu harimau liar.
Mereka bertemu komodo.
effect
29
0
1
1
0
Saya minum air kobokan.
Saya merasa segar.
Perut saya sakit.
effect
30
1
1
0
0
Got di komplek perumahaan itu tersumbat.
Pak RT menyiramkan cairan pelarut sampah.
Pak RT berinisiasi mengadakan kerja bakti.
effect
31
1
1
1
0
Hari senin, anak SD itu bangun jam 6 pagi.
Anak SD itu langsung bersiap ke sekolah.
Anak SD itu tidur lagi.
effect
32
0
1
1
0
Ia didatangi pengamen.
Ia memberikan receh ke pengamen itu.
Ia memberikan gitar ke pengamen itu.
effect
33
0
0
1
0
Banyak pembegalan di sekitar komplek.
Saya sangat bahagia.
Saya merasa cemas.
effect
34
1
0
1
0
Pelajar itu ingin menembak temannya di sekolah.
Ia membawa bunga.
Ia membawa pistol.
effect
35
0
0
1
1
Anak itu ingin sekali makan nasi dan ayam goreng tepung.
Ia pergi ke Subway.
Ia pergi ke Burger King.
effect
36
1
0
1
0
Ada kasus demam berdarah di komplek itu.
Mereka mengadakan penyemprotan.
Mereka memanggil detektif.
effect
37
0
0
1
0
Kakinya terkilir.
Ia pergi ke tukang urut.
Ia pergi ke tukang bekam.
effect
38
0
0
1
0
Terlihat layang-layang putus.
Segerombolan anak-anak berlali kabur dari layang-layang itu.
Segerombolan anak-anak mengejar layang-layang itu.
effect
39
1
0
1
0
Alergi kacangnya kumat dan ia gatal-gatal.
Ia makan cendol.
Ia makan ketoperak.
cause
40
1
1
0
0
Orang itu menangis kepedasan.
Ia makan ayam penyet.
Ia makan ayam kremes.
cause
41
0
1
0
0
Listrik di rumahnya padam.
Ia lupa mengisi ulang token PLN.
Ia lupa mengisi ulang token PAM.
cause
42
0
1
0
0
Ia kehabisan tinta kuning.
Ia mencetak 1000 selebaran promosi PDIP.
Ia mencetak 1000 selebaran promosi Golkar.
cause
43
1
1
0
0
Anak kecil itu menjerit ketakutan.
Ia melihat onde-onde.
Ia melihat ondel-ondel.
cause
44
1
1
0
0
Bapak itu merantau ke Jakarta.
Ia ingin jalan-jalan.
Ia ingin mencari penghidupan yang lebih baik.
cause
45
1
1
1
0
Pemuda itu dilarikan ke rumah sakit.
Ia minum bir oplosan.
Ia minum bir pletok.
cause
46
0
1
0
0
Ia masuk ke Indomaret.
Ia kelelahan di luar dan ingin cari tempat duduk.
Ia kepanasan di luar dan ingin mendinginkan diri.
cause
47
1
1
0
0
Ibu pergi ke Pasar Minggu.
Ibu ingin belanja.
Hari ini hari minggu.
cause
48
0
1
0
1
Ia merasa gelisah.
Orang di sebelahnya terlalu banyak makan jengkol.
Orang di sebelahnya hobi makan tempe orek.
cause
49
0
1
0
0
Ibu beli beras ketan.
Ibu mau masak kue lumpur.
Ibu mau masak kue lemper.
cause
50
1
1
0
0
Perempuan itu pergi ke Gambir.
Ia ingin makan siang.
Ia ingin pergi ke luar kota.
cause
51
1
1
0
0
Wanita itu pergi ke Puncak.
Wanita itu butuh istirahat.
Wanita itu sudah bekerja di perusahaannya selama 10 tahun.
cause
52
0
1
0
1
Bapak itu senang sekali.
Ada lemper di kotak makanannya.
Ada lipan di kotak makanannya.
cause
53
0
1
0
0
Ia rajin angkat beban.
Ia ingin terlihat seperti Ade Rai.
Ia ingin terlihat seperti Syahrini.
cause
54
0
1
0
0
Ia pergi ke Soekarno Hatta.
Ia ada keperluan di Bandung.
Ia ada keperluan di Makassar.
cause
55
1
1
0
0
Anak itu ketakutan.
Ia mimpi melihat polri.
Ia mimpi melihat pocong.
cause
56
1
1
0
0
Anak itu menjerit histeris.
Ia naik kora-kora.
Ia naik odong-odong.
cause
57
0
1
0
0
Ia berurusan dengan polisi.
Ia lupa bawa KK saat berkendara.
Ia lupa bawa STNK saat berkendara.
cause
58
1
1
0
0
Pria itu memperbaharui KK miliknya.
Ia baru saja lulus kuliah.
Ia baru saja menikah.
cause
59
1
1
0
0
Dokternya menyarankannya untuk mengurangi konsumsi karbohidrat.
Ia berhenti makan lontong sayur.
Ia berhenti makan rujak buah.
effect
60
0
1
0
0
Ia ingin pergi jalan-jalan ke Ancol.
Ia mengenakan jaket tebal.
Ia mengenakan sunscreen.
effect
61
1
1
0
0
Ia ingin mencari buku bacaan baru.
Ia pergi ke Barnes Noble.
Ia pergi ke Gunung Agung.
effect
62
1
1
0
0
Orang itu sangat mengidolakan Gatot Kaca.
Ia jadi rajin pergi ke salon.
Ia jadi rajin berolahraga.
effect
63
1
1
0
0
Ia diminta membuat laporan tentang pahlawan nasional.
Ia menulis tentang Diponegoro.
Ia menulis tentang Martin Luther King Jr.
effect
64
0
1
0
0
Saya tidak sengaja menumpahkan kuah gulai.
Bajunya menjadi hijau.
Bajunya menjadi kuning.
effect
65
1
1
0
0
Hari ini adalah hari libur Idul Fitri.
Orang-orang pergi mudik.
Orang-orang beritikaf di masjid.
effect
66
0
1
1
0
Diadakan acara keroncong di kampung.
Banyak warga kelaparan.
Banyak warga terhibur.
effect
67
1
1
0
0
Kakakku mengidolakan Joko Anwar.
Kakakku ingin masuk dunia politik.
Kakakku ingin berkarya di dunia film.
effect
68
1
1
0
0
Kakakku mengidolakan Joko Widodo.
Kakakku ingin masuk dunia politik.
Kakakku ingin berkarya di dunia film.
effect
69
0
1
0
0
Siswa SMA itu ingin sekali melanjutkan pendidikan di ITB.
Siswa itu belajar IELTS.
Siswa itu mengikuti bimbel.
effect
70
1
1
0
0
Bapak terlalu banyak mengonsumsi Gudang Garam.
Bapak sakit paru-paru.
Bapak darah tinggi.
effect
71
0
1
0
1
Sekumpulan anak melompat-lompat di TransJakarta.
Mereka ditegur penumpang lainnya.
Banyak anak lainnya yang jadi ikut melompat-lompat.
effect
72
0
1
0
0
Sekumpulan anak melompat-lompat di Trans Studio.
Mereka ditegur penumpang lainnya.
Banyak anak lainnya yang jadi ikut melompat-lompat.
effect
73
1
1
0
0
Ia makan es teler setiap hari.
Ia diabetes.
Ia mabuk.
effect
74
0
1
0
1
Aplikasi QRIS-nya rusak.
Ia panggil tukang servis.
Ia akhirnya pakai kartu debit.
effect
75
1
1
0
0
Ia ingin mendapatkan kursi DPR.
Ia melakukan kampanye besar-besaran.
Ia beli kursi di toko furnitur.
effect
76
0
1
0
1
Pemudi itu ingin sekali makan nasi padang.
Ia pesan tiket pesawat ke Padang.
Ia pesan melalui aplikasi.
effect
77
1
1
0
0
Anak itu berjalan kaki mengelilingi Taman Mini.
Ia tidak lelah.
Ia sangat kelelahan.
effect
78
1
1
0
0
Ia ganteng.
Ia melamar pekerjaan di Tanah Abang.
Ia mengajukan diri sebagai Abang Jakarta.
effect
79
1
1
0
0
Polisi mengamankan stadion.
Ada perseteruan Persija dan Persebaya.
Ada perseteruan NU dan Muhammadiyah.
cause
80
0
1
0
0
Mereka sekeluarga sehari-hari makan raskin.
Bapaknya seorang pemulung.
Bapaknya direktur Telkomsel.
cause
81
0
1
0
0
Rambut gadis itu seperti mak lampir.
Ia jarang mandi.
Ia sering creambath.
cause
82
0
1
0
0
Laporan BMKG membuat warga panik.
Akan terjadi inflasi.
Akan terjadi badai.
cause
83
1
1
0
0
Ia senang tinggal di Kebon Jeruk.
Akses ke kantornya mudah.
Ia bisa makan jeruk setiap hari.
cause
84
0
1
0
1
Ia tidak suka tinggal di Kelapa Gading.
Kelapa membuatnya mual.
Jalanan macet.
cause
85
1
1
0
1
Mahasiswa sedang mengumpulkan dana untuk kegiatan mahasiswa.
Mereka terlihat sedang berjualan piscok.
Mereka terlihat sedang berjualan handphone.
cause
86
0
1
1
0
Tiba-tiba bapak didatangi rentenir.
Foto KTP-nya bocor.
Foto ijazahnya bocor.
cause
87
0
1
0
0
Dia dibawa ke rumah sakit.
Dia tidak sengaja menelan biji salak.
Dia tidak sengaja menelan biji pepaya.
cause
88
0
1
0
0
Ia dirujak teman-temannya.
Ia suka buah-buahan.
Ia beropini yang kontroversial.
cause
89
1
0
0
1
Anak itu diterima masuk UI.
Sekeluarga makan nasi uduk.
Sekeluarga makan nasi kuning.
effect
90
1
1
1
0
Ibu belanja di pasar.
Ia membayar dengan ApplePay.
Ia membayar dengan uang kertas.
effect
91
1
0
1
0
Anak itu ingin merantau.
Ibunya membekalinya rendang.
Ibunya membekalinya kerupuk.
effect
92
0
1
0
0
Kelakuannya seperti dajjal.
Dia banyak dimusuhi orang.
Dia banyak teman.
effect
93
0
1
0
0
Orang itu mengalami kecelakaan mobil.
Ia dilarikan ke UGD.
Ia dilarikan ke puskesmas.
effect
94
0
1
0
0
Ibu menyampurkan gula, garam, dan jeruk di masakannya.
Rasa makanannya nano-nano.
Rasa makanannya kopiko.
effect
95
0
1
0
0
Aku sedang berhemat.
Aku naik Damri.
Aku naik Blue Bird.
effect
96
0
1
0
0
Saya terlambat masuk kantor.
Saya segera naik angkot.
Saya segera pesan Gojek.
effect
97
1
1
0
0
Ia suka berjemur.
Ia cukup sering main ke Lombok.
Ia cukup sering main ke Lembang.
effect
98
0
1
0
0
Ada pesta makan rengginang.
Banyak remah-remah di lantai.
Mereka ditangkap aparat.
effect
99
0
1
0
0
End of preview. Expand in Dataset Viewer.

About COPAL-ID

COPAL-ID is an Indonesian causal commonsense reasoning dataset that captures local nuances. It provides a more natural portrayal of day-to-day causal reasoning within the Indonesian (especially Jakartan) cultural sphere. Professionally written and validatid from scratch by natives, COPAL-ID is more fluent and free from awkward phrases, unlike the translated XCOPA-ID.

COPAL-ID is a test set only, intended to be used as a benchmark. For more details, please see our paper.

Local Nuances Categories

Our dataset consists of 3 subcategories: local-term, culture, and language reasoning.

  • Local-term captures common knowledge for Indonesians that is most likely unknown or uncommon for non-natives, e.g., local foods, public figures, abbreviations, and other local concepts.
  • Culture captures norms used in Indonesia.
  • Language captures the reasoning for the language itself, for example, local idioms, figures of speech, as well as ambiguous words. Specifically, the distribution of COPAL-ID across these categories is:

Colloquial vs Standard Indonesian

In daily scenarios, almost no one in Indonesia uses purely formal Indonesian. Yet, many NLP datasets use formal Indonesian. This surely causes a domain mismatch with real-case settings. To accommodate this, COPAL-ID is written in two variations: Standard Indonesian and Colloquial Indonesian. If you use COPAL-ID to benchmark your model, we suggest testing on both variants. Generally, colloquial Indonesian is harder for models to handle.

How to Use 

from datasets import load_dataset

copal_id_dataset = load_dataset('haryoaw/COPAL', 'id', subset='test')
copal_id_colloquial_dataset = load_dataset('haryoaw/COPAL', 'id', subset='test_colloquial')

Data Collection and Human Performance

COPAL-ID was created through a rigorous data collection pipeline. Each example is written and checked by natives accustomed to Jakartan culture. Lastly, we have run a human benchmark performance test across native Jakartans, in which they achieved an average accuracy of ~95% in both formal and colloquial Indonesian variants, noting that this dataset is trivially easy for those familiar with the culture and local nuances of Indonesia, especially in Jakarta.

For more details, please see our paper.

Limitation

Indonesia is a vast country with over 700+ languages and rich in culture. Therefore, it is impossible to pinpoint a singular culture. Our dataset is specifically designed to capture Jakarta's (the capital) local nuances. Expanding to different local nuances and languages across Indonesia is a future work.

Cite Our Work 

@article{wibowo2023copal,
  title={COPAL-ID: Indonesian Language Reasoning with Local Culture and Nuances},
  author={Wibowo, Haryo Akbarianto and Fuadi, Erland Hilman and Nityasya, Made Nindyatama and Prasojo, Radityo Eko and Aji, Alham Fikri},
  journal={arXiv preprint arXiv:2311.01012},
  year={2023}
}
Downloads last month
505
Size of downloaded dataset files:
134 kB
Size of the auto-converted Parquet files:
105 kB
Number of rows:
1,118