--- dataset_info: features: - name: text dtype: string - name: label dtype: int64 splits: - name: train num_bytes: 3627433 num_examples: 10000 download_size: 2307451 dataset_size: 3627433 configs: - config_name: default data_files: - split: train path: data/train-* --- テキストの品質スコア予測を行うモデルをトレーニングするためのデータセット neody/wikipedia-2023-11-ja-cleanedから、1. 文章の長さが上位0.001%以内のもの 2. features(スコア)の値が0.68以上のものからnegativeとして5000件、この条件に当てはまらないものの中から5000件をpositiveとしてサンプリング