Deddy/Indonesia-dataset-2023

Dataset Card for Indonesian NLP Dataset

Koleksi kamus, korpus, dan dataset Natural Language Processing bahasa Indonesia.

Dataset Details

Dataset Description

Dataset ini mencakup berbagai sumber data NLP dalam bahasa Indonesia, termasuk kamus, korpus teks, data multimodal, dan dataset untuk berbagai tugas NLP seperti klasifikasi teks, generasi teks, tanya jawab, terjemahan, summarization, dan pengenalan suara.

• Curated by: Deddy Ratnanto
• Funded by [optional]: [More Information Needed]
• Shared by [optional]: [More Information Needed]
• Language(s) (NLP): Indonesian (id)
• License: CC-BY-SA 4.0

Dataset Sources [optional]

• Repository: https://github.com/drat/indonesian_datasets
• Paper [optional]: [More Information Needed]
• Demo [optional]: [More Information Needed]

Uses

Direct Use

Dataset ini dapat digunakan untuk penelitian dan pengembangan model NLP dalam bahasa Indonesia, termasuk tetapi tidak terbatas pada klasifikasi teks, generasi teks, tanya jawab, terjemahan, summarization, dan pengenalan suara.

Out-of-Scope Use

Penggunaan untuk tujuan yang melanggar privasi, etika, atau hukum tidak dianjurkan. Dataset ini tidak dirancang untuk digunakan dalam aplikasi yang membutuhkan keakuratan tingkat tinggi tanpa validasi lebih lanjut.

Dataset Structure

Dataset ini terdiri dari berbagai subset yang masing-masing memiliki struktur dan format data yang berbeda. Berikut adalah beberapa subset yang termasuk dalam dataset ini:

• Crawl:

  • Kaskus WebText: Konten dari Kaskus dengan 3 cendol atau lebih.
  • Twitter Puisi: Puisi dari berbagai pengguna di Twitter.
  • Wikipedia Links: Konten dari tautan eksternal Wikipedia.

• Dictionary:

  • KBBI: Kamus Besar Bahasa Indonesia Daring.
  • Wordlist: 105,226 kata dari Kamus Besar Bahasa Indonesia.

• Dump:

  • CC-News-ID: Berita dari CommonCrawl News dari 2016-2021.
  • Javanese Text: Teks berbahasa Jawa.
  • mC4: Data mC4 yang telah dibersihkan.
  • Twitter: Dump dari ArchiveTeam Twitter Stream Grab.

• Multimodal:

  • CC3M: Conceptual Captions 3M dari Google Research.
  • CC12M: Conceptual Captions 12M dari Google Research.
  • YFCC100M OpenAI Subset: Subset YFCC100M OpenAI yang digunakan dalam dataset CLIP.

• Paraphrase:

  • MultiNLI: Multi-Genre Natural Language Inference.
  • ParaBank: ParaBank v2.0.
  • ParaNMT: ParaNMT, varian 5M.
  • PAWS: PAWS dari Google Research.
  • SBERT Paraphrase Data: Data paraphrase dari SBERT.
  • SNLI: Stanford Natural Language Inference.

• Question Answering:

  • SQuAD: SQuAD dari Stanford University.
  • Mathematics Dataset: Dataset soal matematika dari DeepMind.

• Speech:

  • Google TTS: Suara yang dihasilkan menggunakan Google Translate TTS.
  • Unsupervised: Korpus besar suara bahasa Indonesia untuk pre-training model pengenalan suara.

• Summarization:

  • Gigaword: Gigaword dalam bahasa Inggris yang telah diterjemahkan.
  • Reddit TLDR: 4 juta pasangan konten-ringkasan dari Webis-TLDR-17.
  • WikiHow: Dataset summarization skala besar dari WikiHow.

• Translation:

  • Europarl: Korpus paralel dari European Parliament yang telah diterjemahkan menggunakan Google Translate.
  • EuroPat: Korpora paralel dari patent US dan European Patent Organisation yang telah diterjemahkan.
  • ParaCrawl: ParaCrawl v.7.1 yang diterjemahkan menggunakan Google Translate.

Dataset Creation

Curation Rationale

Dataset ini dikurasi untuk menyediakan sumber daya NLP yang komprehensif dan berkualitas tinggi dalam bahasa Indonesia, mendukung penelitian dan pengembangan model NLP yang lebih baik.

Source Data

Data Collection and Processing

Data dikumpulkan dari berbagai sumber termasuk website, media sosial, dan korpus yang tersedia secara publik. Proses pengumpulan data melibatkan scraping, filtering, dan normalisasi menggunakan berbagai alat dan perpustakaan NLP.

Who are the source data producers?

Produsen data mencakup berbagai individu dan organisasi yang mempublikasikan konten dalam bahasa Indonesia, termasuk penulis konten online, jurnalis, dan komunitas pengguna media sosial.

Annotations [optional]

Annotation process

[More Information Needed]

Who are the annotators?

[More Information Needed]

Personal and Sensitive Information

Dataset ini mungkin mengandung data yang bersifat pribadi, sensitif, atau privasi. Proses anonimisasi dilakukan untuk menghilangkan informasi yang dapat mengidentifikasi individu secara langsung.

Bias, Risks, and Limitations

Dataset ini mungkin mengandung bias yang berasal dari sumber data asli. Ada risiko bahwa model yang dilatih dengan data ini akan mewarisi bias tersebut. Pengguna diharapkan melakukan evaluasi tambahan untuk mengidentifikasi dan mengatasi bias ini.

Recommendations

Pengguna disarankan untuk menyadari risiko, bias, dan keterbatasan teknis dari dataset ini. Evaluasi tambahan dan validasi diperlukan sebelum menggunakan model dalam aplikasi dunia nyata.

Citation [optional]

BibTeX:

@inproceedings{deddy_ratnanto_2024, title={Indonesian NLP Dataset}, author={Deddy Ratnanto}, booktitle={Proceedings of the Indonesian NLP Conference}, year={2024} }

APA:

Ratnanto, D. (2024). Indonesian NLP Dataset. Proceedings of the Indonesian NLP Conference.

Glossary [optional]

[More Information Needed]

More Information [optional]

[More Information Needed]

Dataset Card Authors [optional]

Deddy Ratnanto

Dataset Card Contact

[More Information Needed]