poetry-chinese-zhtw / README.md
erhwenkuo's picture
Update README.md
8e53cb3
metadata
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
dataset_info:
  features:
    - name: author
      dtype: string
    - name: title
      dtype: string
    - name: text
      dtype: string
    - name: category
      dtype: string
  splits:
    - name: train
      num_bytes: 19839577
      num_examples: 76013
  download_size: 15009797
  dataset_size: 19839577
license: mit
task_categories:
  - text-generation
language:
  - zh
size_categories:
  - 10K<n<100K

Dataset Card for "poetry-chinese-zhtw"

資料集摘要

中文古典文集資料庫收集了約 5.5 萬首唐詩、26 萬首宋詩、2.1 萬首宋詞和其他古典文集。詩人包括唐宋兩朝近 1.4 萬古詩人,和兩宋時期 1.5 千古詞人。

  • 五代十國- 收錄"花間集"與"南唐二主詞"
  • - 收錄"全唐詩"(是清康熙四十四年,康熙皇帝主導下,蒐集羅唐詩的收藏「得詩 48,900 餘首,詩入 2,200 人」)。
  • - 收錄"全宋詞"(由唐圭璋編著,孔凡禮補輯,共收錄宋代詞人 1,330 家,詞作 21,116 首)。
  • - 收錄元曲 11,057 篇,曲家 233 人。
  • - 收錄"納蘭性德詩集"

原始資料來源:

資料下載清理

  1. 下載 chinese-poetry: 最全中文诗歌古典文集数据库 的 Repo
  2. 調整資料呈現結構便於模型訓練
  3. 使用 OpenCC 來進行簡繁轉換
  4. 使用 Huggingface Datasets 來上傳至 Huggingface Hub

資料集結構

{
  "author":"杜甫",
  "title":"月",
  "text":"天上秋期近,人間月影清。入河蟾不沒,搗藥兔長生。只益丹心苦,能添白髮明。干戈知滿地,休照國西營。",
  "category":"唐"
}

資料欄位

  • author: (string) 作者
  • title: (string) 作品名稱
  • text: (string) 文章內容
  • category: (string) 作品的朝代

如何使用

from datasets import load_dataset

dataset = load_dataset("erhwenkuo/poetry-chinese-zhtw", split="train")

許可資訊

MIT