---
dataset_info:
- config_name: collection
  features:
  - name: text
    dtype: string
  splits:
  - name: train
    num_bytes: 6625831559
    num_examples: 13466911
  download_size: 3013717517
  dataset_size: 6625831559
- config_name: dataset
  features:
  - name: anc
    dtype: string
  - name: pos_ids
    sequence: int64
  - name: neg_ids
    sequence: 'null'
  splits:
  - name: train
    num_bytes: 1880941955
    num_examples: 5845508
  download_size: 898282482
  dataset_size: 1880941955
configs:
- config_name: collection
  data_files:
  - split: train
    path: collection/train-*
- config_name: dataset
  data_files:
  - split: train
    path: dataset/train-*
license: cc0-1.0
language:
- ja
---


[mqa](https://huggingface.co./datasets/clips/mqa/viewer/ja-all-question)データセットのquery--passageのペアについて重複を削除したデータセットです。

元データ中のノイジーなテキストのクリーニングやNFKC正規化などの前処理を行ってあります。

ライセンスは元データセットに従います。