sakusakumura's picture
Update README.md
7c0d0bd verified
|
raw
history blame
698 Bytes
metadata
dataset_info:
  features:
    - name: text
      dtype: string
    - name: label
      dtype: int64
  splits:
    - name: train
      num_bytes: 3627433
      num_examples: 10000
  download_size: 2307451
  dataset_size: 3627433
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

テキストの品質スコア予測を行うモデルをトレーニングするためのデータセット
neody/wikipedia-2023-11-ja-cleanedから、1. 文章の長さが上位0.001%以内のもの 2. features(スコア)の値が0.68以上のものからnegativeとして5000件、この条件に当てはまらないものの中から5000件をpositiveとしてサンプリング