nguyenphuthien/vietnamese_ultrachat_200k

Dataset Card for Vietnamese UltraChat 200k

Dataset Description

This is a heavily filtered version of the UltraChat dataset and was used to train Zephyr-7B-β, a state of the art 7b chat model.

The original datasets consists of 1.4M dialogues generated by ChatGPT and spanning a wide range of topics. To create UltraChat 200k, we applied the following logic:

• Selection of a subset of data for faster supervised fine tuning.
• Truecasing of the dataset, as we observed around 5% of the data contained grammatical errors like "Hello. how are you?" instead of "Hello. How are you?"
• Removal of dialogues where the assistant replies with phrases like "I do not have emotions" or "I don't have opinions", even for fact-based prompts that don't involve either.

The Dataset has been translated to Vietnamese by Google translate

Dataset Structure

The dataset has two splits, suitable for:

• Supervised fine-tuning (sft).

The number of examples per split is shown as follows:

train_sft	test_sft
207834	23107

The dataset is stored in parquet format with each entry using the following schema:

{
    "prompt": "Có thể kết hợp ngăn kéo, tủ đựng chén và giá đựng rượu trong cùng một tủ búp phê không?: ...",
    "messages":[
        {
            "role": "user",
            "content": "Có thể kết hợp ngăn kéo, tủ đựng chén và giá đựng rượu trong cùng một tủ búp phê không?: ...",
        },
        {
            "role": "assistant",
            "content": "Có, có thể kết hợp ngăn kéo, tủ đựng chén và giá để rượu trong cùng một chiếc tủ. Tủ búp phê Hand Made ...",
        },
        {
            "role": "user",
            "content": "Bạn có thể cung cấp cho tôi thông tin liên hệ của người bán tủ búp phê Hand Made được không? ...",
        },
        {
            "role": "assistant",
            "content": "Tôi không có quyền truy cập vào thông tin cụ thể về người bán hoặc thông tin liên hệ của họ. ...",
        },
        {
            "role": "user",
            "content": "Bạn có thể cung cấp cho tôi một số ví dụ về các loại bàn làm việc khác nhau có sẵn cho tủ búp phê Hand Made không?",
        },
        {
            "role": "assistant",
            "content": "Chắc chắn, đây là một số ví dụ về các mặt bàn làm việc khác nhau có sẵn cho tủ búp phê Hand Made: ...",
        },
    ],
    "prompt_id": "0ee8332c26405af5457b3c33398052b86723c33639f472dd6bfec7417af38692"
}

Citation

If you find this dataset is useful in your work, please cite the original UltraChat dataset:

@misc{ding2023enhancing,
      title={Enhancing Chat Language Models by Scaling High-quality Instructional Conversations}, 
      author={Ning Ding and Yulin Chen and Bokai Xu and Yujia Qin and Zhi Zheng and Shengding Hu and Zhiyuan Liu and Maosong Sun and Bowen Zhou},
      year={2023},
      eprint={2305.14233},
      archivePrefix={arXiv},
      primaryClass={cs.CL}
}