README.md

metadata

language:
  - ja
license: cc0-1.0
dataset_info:
  - config_name: collection
    features:
      - name: text
        dtype: string
    splits:
      - name: train
        num_bytes: 5404867793
        num_examples: 11852254
    download_size: 3269616864
    dataset_size: 5404867793
  - config_name: dataset
    features:
      - name: anc
        dtype: string
      - name: pos_ids
        sequence: int64
      - name: neg_ids
        sequence: 'null'
    splits:
      - name: train
        num_bytes: 1725169456
        num_examples: 5826275
    download_size: 854583745
    dataset_size: 1725169456
configs:
  - config_name: collection
    data_files:
      - split: train
        path: collection/train-*
  - config_name: dataset
    data_files:
      - split: train
        path: dataset/train-*

mqaデータセットのquery--passageのペアについて重複を削除したデータセットです。

元データ中のノイジーなテキストのクリーニングやNFKC正規化などの前処理を行ってあります。

ライセンスは元データセットに従います。