add loading script

multilingual_cc_news.py

@@ -0,0 +1,255 @@
+"""multilingual cc news dataset."""
+
+
+import gzip
+import json
+
+import datasets
+
+
+logger = datasets.logging.get_logger(__name__)
+
+
+_DESCRIPTION = """\
+Multilingual CC-News dataset.
+
+This is the processed version from https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual.
+"""
+
+_DATA_URL = "https://huggingface.co/datasets/CloverSearch/cc-news-mutlilingual/resolve/main"
+
+_LANGUAGE_TO_PATH_LIST = {
+    "af": ['2016/af.jsonl.gz', '2017/af.jsonl.gz', '2018/af.jsonl.gz', '2019/af.jsonl.gz', '2020/af.jsonl.gz', '2021/af.jsonl.gz'],
+    "als": ['2016/als.jsonl.gz', '2017/als.jsonl.gz', '2018/als.jsonl.gz', '2019/als.jsonl.gz', '2020/als.jsonl.gz', '2021/als.jsonl.gz'],
+    "am": ['2016/am.jsonl.gz', '2017/am.jsonl.gz', '2018/am.jsonl.gz', '2019/am.jsonl.gz', '2020/am.jsonl.gz', '2021/am.jsonl.gz'],
+    "an": ['2017/an.jsonl.gz', '2018/an.jsonl.gz', '2019/an.jsonl.gz', '2020/an.jsonl.gz', '2021/an.jsonl.gz'],
+    "ar": ['2016/ar.jsonl.gz', '2017/ar.jsonl.gz', '2018/ar.jsonl.gz', '2019/ar.jsonl.gz', '2020/ar.jsonl.gz', '2021/ar.jsonl.gz'],
+    "arz": ['2016/arz.jsonl.gz', '2017/arz.jsonl.gz', '2018/arz.jsonl.gz', '2019/arz.jsonl.gz', '2020/arz.jsonl.gz', '2021/arz.jsonl.gz'],
+    "as": ['2018/as.jsonl.gz', '2019/as.jsonl.gz', '2020/as.jsonl.gz', '2021/as.jsonl.gz'],
+    "ast": ['2016/ast.jsonl.gz', '2017/ast.jsonl.gz', '2018/ast.jsonl.gz', '2019/ast.jsonl.gz', '2020/ast.jsonl.gz', '2021/ast.jsonl.gz'],
+    "av": ['2016/av.jsonl.gz', '2017/av.jsonl.gz', '2018/av.jsonl.gz', '2019/av.jsonl.gz', '2020/av.jsonl.gz', '2021/av.jsonl.gz'],
+    "az": ['2016/az.jsonl.gz', '2017/az.jsonl.gz', '2018/az.jsonl.gz', '2019/az.jsonl.gz', '2020/az.jsonl.gz', '2021/az.jsonl.gz'],
+    "azb": ['2016/azb.jsonl.gz', '2017/azb.jsonl.gz', '2018/azb.jsonl.gz', '2019/azb.jsonl.gz', '2020/azb.jsonl.gz', '2021/azb.jsonl.gz'],
+    "ba": ['2016/ba.jsonl.gz', '2017/ba.jsonl.gz', '2018/ba.jsonl.gz', '2019/ba.jsonl.gz', '2020/ba.jsonl.gz', '2021/ba.jsonl.gz'],
+    "bar": ['2016/bar.jsonl.gz', '2017/bar.jsonl.gz', '2018/bar.jsonl.gz', '2019/bar.jsonl.gz', '2020/bar.jsonl.gz', '2021/bar.jsonl.gz'],
+    "bcl": ['2017/bcl.jsonl.gz', '2018/bcl.jsonl.gz', '2019/bcl.jsonl.gz', '2020/bcl.jsonl.gz', '2021/bcl.jsonl.gz'],
+    "be": ['2016/be.jsonl.gz', '2017/be.jsonl.gz', '2018/be.jsonl.gz', '2019/be.jsonl.gz', '2020/be.jsonl.gz', '2021/be.jsonl.gz'],
+    "bg": ['2016/bg.jsonl.gz', '2017/bg.jsonl.gz', '2018/bg.jsonl.gz', '2019/bg.jsonl.gz', '2020/bg.jsonl.gz', '2021/bg.jsonl.gz'],
+    "bh": ['2018/bh.jsonl.gz', '2019/bh.jsonl.gz', '2020/bh.jsonl.gz', '2021/bh.jsonl.gz'],
+    "bn": ['2016/bn.jsonl.gz', '2017/bn.jsonl.gz', '2018/bn.jsonl.gz', '2019/bn.jsonl.gz', '2020/bn.jsonl.gz', '2021/bn.jsonl.gz'],
+    "bo": ['2017/bo.jsonl.gz', '2018/bo.jsonl.gz', '2019/bo.jsonl.gz', '2020/bo.jsonl.gz', '2021/bo.jsonl.gz'],
+    "bpy": ['2019/bpy.jsonl.gz', '2020/bpy.jsonl.gz', '2021/bpy.jsonl.gz'],
+    "br": ['2016/br.jsonl.gz', '2017/br.jsonl.gz', '2018/br.jsonl.gz', '2019/br.jsonl.gz', '2020/br.jsonl.gz', '2021/br.jsonl.gz'],
+    "bs": ['2016/bs.jsonl.gz', '2017/bs.jsonl.gz', '2018/bs.jsonl.gz', '2019/bs.jsonl.gz', '2020/bs.jsonl.gz', '2021/bs.jsonl.gz'],
+    "bxr": ['2016/bxr.jsonl.gz', '2017/bxr.jsonl.gz', '2018/bxr.jsonl.gz', '2019/bxr.jsonl.gz', '2020/bxr.jsonl.gz', '2021/bxr.jsonl.gz'],
+    "ca": ['2016/ca.jsonl.gz', '2017/ca.jsonl.gz', '2018/ca.jsonl.gz', '2019/ca.jsonl.gz', '2020/ca.jsonl.gz', '2021/ca.jsonl.gz'],
+    "cbk": ['2017/cbk.jsonl.gz', '2018/cbk.jsonl.gz', '2020/cbk.jsonl.gz', '2021/cbk.jsonl.gz'],
+    "ce": ['2017/ce.jsonl.gz', '2018/ce.jsonl.gz', '2019/ce.jsonl.gz', '2020/ce.jsonl.gz', '2021/ce.jsonl.gz'],
+    "ceb": ['2016/ceb.jsonl.gz', '2017/ceb.jsonl.gz', '2018/ceb.jsonl.gz', '2019/ceb.jsonl.gz', '2020/ceb.jsonl.gz', '2021/ceb.jsonl.gz'],
+    "ckb": ['2016/ckb.jsonl.gz', '2017/ckb.jsonl.gz', '2018/ckb.jsonl.gz', '2019/ckb.jsonl.gz', '2020/ckb.jsonl.gz', '2021/ckb.jsonl.gz'],
+    "co": ['2018/co.jsonl.gz', '2020/co.jsonl.gz', '2021/co.jsonl.gz'],
+    "cs": ['2016/cs.jsonl.gz', '2017/cs.jsonl.gz', '2018/cs.jsonl.gz', '2019/cs.jsonl.gz', '2020/cs.jsonl.gz', '2021/cs.jsonl.gz'],
+    "cv": ['2016/cv.jsonl.gz', '2017/cv.jsonl.gz', '2018/cv.jsonl.gz', '2019/cv.jsonl.gz', '2020/cv.jsonl.gz', '2021/cv.jsonl.gz'],
+    "cy": ['2016/cy.jsonl.gz', '2017/cy.jsonl.gz', '2018/cy.jsonl.gz', '2019/cy.jsonl.gz', '2020/cy.jsonl.gz', '2021/cy.jsonl.gz'],
+    "da": ['2016/da.jsonl.gz', '2017/da.jsonl.gz', '2018/da.jsonl.gz', '2019/da.jsonl.gz', '2020/da.jsonl.gz', '2021/da.jsonl.gz'],
+    "de": ['2016/de.jsonl.gz', '2017/de.jsonl.gz', '2018/de.jsonl.gz', '2019/de.jsonl.gz', '2020/de.jsonl.gz', '2021/de.jsonl.gz'],
+    "diq": ['2017/diq.jsonl.gz', '2018/diq.jsonl.gz', '2019/diq.jsonl.gz', '2020/diq.jsonl.gz', '2021/diq.jsonl.gz'],
+    "dsb": ['2020/dsb.jsonl.gz', '2021/dsb.jsonl.gz'],
+    "dty": ['2019/dty.jsonl.gz', '2021/dty.jsonl.gz'],
+    "dv": ['2016/dv.jsonl.gz', '2017/dv.jsonl.gz', '2018/dv.jsonl.gz', '2019/dv.jsonl.gz', '2021/dv.jsonl.gz'],
+    "el": ['2016/el.jsonl.gz', '2017/el.jsonl.gz', '2018/el.jsonl.gz', '2019/el.jsonl.gz', '2020/el.jsonl.gz', '2021/el.jsonl.gz'],
+    "eml": ['2016/eml.jsonl.gz', '2017/eml.jsonl.gz', '2018/eml.jsonl.gz', '2019/eml.jsonl.gz', '2020/eml.jsonl.gz', '2021/eml.jsonl.gz'],
+    "en": ['2016/en.jsonl.gz', '2017/en00.jsonl.gz', '2017/en01.jsonl.gz', '2017/en02.jsonl.gz', '2017/en03.jsonl.gz', '2017/en04.jsonl.gz', '2018/en00.jsonl.gz', '2018/en01.jsonl.gz', '2018/en02.jsonl.gz', '2018/en03.jsonl.gz', '2018/en04.jsonl.gz', '2019/en00.jsonl.gz', '2019/en01.jsonl.gz', '2019/en02.jsonl.gz', '2019/en03.jsonl.gz', '2019/en04.jsonl.gz', '2019/en05.jsonl.gz', '2019/en06.jsonl.gz', '2020/en00.jsonl.gz', '2020/en01.jsonl.gz', '2020/en02.jsonl.gz', '2020/en03.jsonl.gz', '2020/en04.jsonl.gz', '2020/en05.jsonl.gz', '2020/en06.jsonl.gz', '2020/en07.jsonl.gz', '2020/en08.jsonl.gz', '2020/en09.jsonl.gz', '2020/en10.jsonl.gz', '2020/en11.jsonl.gz', '2021/en00.jsonl.gz', '2021/en01.jsonl.gz', '2021/en02.jsonl.gz', '2021/en03.jsonl.gz', '2021/en04.jsonl.gz', '2021/en05.jsonl.gz', '2021/en06.jsonl.gz', '2021/en07.jsonl.gz', '2021/en08.jsonl.gz', '2021/en09.jsonl.gz', '2021/en10.jsonl.gz', '2021/en11.jsonl.gz', '2021/en12.jsonl.gz'],
+    "eo": ['2016/eo.jsonl.gz', '2017/eo.jsonl.gz', '2018/eo.jsonl.gz', '2019/eo.jsonl.gz', '2020/eo.jsonl.gz', '2021/eo.jsonl.gz'],
+    "es": ['2016/es.jsonl.gz', '2017/es.jsonl.gz', '2018/es.jsonl.gz', '2019/es.jsonl.gz', '2020/es01.jsonl.gz', '2020/es02.jsonl.gz', '2020/es03.jsonl.gz', '2021/es00.jsonl.gz', '2021/es01.jsonl.gz', '2021/es02.jsonl.gz', '2021/es03.jsonl.gz'],
+    "et": ['2016/et.jsonl.gz', '2017/et.jsonl.gz', '2018/et.jsonl.gz', '2019/et.jsonl.gz', '2020/et.jsonl.gz', '2021/et.jsonl.gz'],
+    "eu": ['2016/eu.jsonl.gz', '2017/eu.jsonl.gz', '2018/eu.jsonl.gz', '2019/eu.jsonl.gz', '2020/eu.jsonl.gz', '2021/eu.jsonl.gz'],
+    "fa": ['2016/fa.jsonl.gz', '2017/fa.jsonl.gz', '2018/fa.jsonl.gz', '2019/fa.jsonl.gz', '2020/fa.jsonl.gz', '2021/fa.jsonl.gz'],
+    "fi": ['2016/fi.jsonl.gz', '2017/fi.jsonl.gz', '2018/fi.jsonl.gz', '2019/fi.jsonl.gz', '2020/fi.jsonl.gz', '2021/fi.jsonl.gz'],
+    "fr": ['2016/fr.jsonl.gz', '2017/fr.jsonl.gz', '2018/fr.jsonl.gz', '2019/fr.jsonl.gz', '2020/fr.jsonl.gz', '2021/fr.jsonl.gz'],
+    "fy": ['2016/fy.jsonl.gz', '2017/fy.jsonl.gz', '2018/fy.jsonl.gz', '2019/fy.jsonl.gz', '2020/fy.jsonl.gz', '2021/fy.jsonl.gz'],
+    "ga": ['2016/ga.jsonl.gz', '2017/ga.jsonl.gz', '2018/ga.jsonl.gz', '2019/ga.jsonl.gz', '2020/ga.jsonl.gz', '2021/ga.jsonl.gz'],
+    "gd": ['2016/gd.jsonl.gz', '2017/gd.jsonl.gz', '2018/gd.jsonl.gz', '2019/gd.jsonl.gz', '2020/gd.jsonl.gz', '2021/gd.jsonl.gz'],
+    "gl": ['2016/gl.jsonl.gz', '2017/gl.jsonl.gz', '2018/gl.jsonl.gz', '2019/gl.jsonl.gz', '2020/gl.jsonl.gz', '2021/gl.jsonl.gz'],
+    "gn": ['2016/gn.jsonl.gz', '2017/gn.jsonl.gz', '2018/gn.jsonl.gz', '2019/gn.jsonl.gz', '2020/gn.jsonl.gz', '2021/gn.jsonl.gz'],
+    "gom": ['2017/gom.jsonl.gz', '2018/gom.jsonl.gz', '2019/gom.jsonl.gz', '2020/gom.jsonl.gz', '2021/gom.jsonl.gz'],
+    "gu": ['2016/gu.jsonl.gz', '2017/gu.jsonl.gz', '2018/gu.jsonl.gz', '2019/gu.jsonl.gz', '2020/gu.jsonl.gz', '2021/gu.jsonl.gz'],
+    "gv": ['2017/gv.jsonl.gz', '2018/gv.jsonl.gz', '2019/gv.jsonl.gz', '2020/gv.jsonl.gz', '2021/gv.jsonl.gz'],
+    "he": ['2016/he.jsonl.gz', '2017/he.jsonl.gz', '2018/he.jsonl.gz', '2019/he.jsonl.gz', '2020/he.jsonl.gz', '2021/he.jsonl.gz'],
+    "hi": ['2016/hi.jsonl.gz', '2017/hi.jsonl.gz', '2018/hi.jsonl.gz', '2019/hi.jsonl.gz', '2020/hi.jsonl.gz', '2021/hi.jsonl.gz'],
+    "hif": ['2021/hif.jsonl.gz'],
+    "hr": ['2016/hr.jsonl.gz', '2017/hr.jsonl.gz', '2018/hr.jsonl.gz', '2019/hr.jsonl.gz', '2020/hr.jsonl.gz', '2021/hr.jsonl.gz'],
+    "hsb": ['2017/hsb.jsonl.gz', '2018/hsb.jsonl.gz', '2019/hsb.jsonl.gz', '2020/hsb.jsonl.gz', '2021/hsb.jsonl.gz'],
+    "ht": ['2016/ht.jsonl.gz', '2017/ht.jsonl.gz', '2018/ht.jsonl.gz', '2019/ht.jsonl.gz', '2020/ht.jsonl.gz', '2021/ht.jsonl.gz'],
+    "hu": ['2016/hu.jsonl.gz', '2017/hu.jsonl.gz', '2018/hu.jsonl.gz', '2019/hu.jsonl.gz', '2020/hu.jsonl.gz', '2021/hu.jsonl.gz'],
+    "hy": ['2016/hy.jsonl.gz', '2017/hy.jsonl.gz', '2018/hy.jsonl.gz', '2019/hy.jsonl.gz', '2020/hy.jsonl.gz', '2021/hy.jsonl.gz'],
+    "ia": ['2016/ia.jsonl.gz', '2017/ia.jsonl.gz', '2018/ia.jsonl.gz', '2019/ia.jsonl.gz', '2020/ia.jsonl.gz', '2021/ia.jsonl.gz'],
+    "id": ['2016/id.jsonl.gz', '2017/id.jsonl.gz', '2018/id.jsonl.gz', '2019/id.jsonl.gz', '2020/id.jsonl.gz', '2021/id.jsonl.gz'],
+    "ie": ['2016/ie.jsonl.gz', '2017/ie.jsonl.gz', '2018/ie.jsonl.gz', '2019/ie.jsonl.gz', '2020/ie.jsonl.gz', '2021/ie.jsonl.gz'],
+    "ilo": ['2016/ilo.jsonl.gz', '2017/ilo.jsonl.gz', '2018/ilo.jsonl.gz', '2019/ilo.jsonl.gz', '2020/ilo.jsonl.gz', '2021/ilo.jsonl.gz'],
+    "io": ['2016/io.jsonl.gz', '2017/io.jsonl.gz', '2018/io.jsonl.gz', '2019/io.jsonl.gz', '2020/io.jsonl.gz', '2021/io.jsonl.gz'],
+    "is": ['2016/is.jsonl.gz', '2017/is.jsonl.gz', '2018/is.jsonl.gz', '2019/is.jsonl.gz', '2020/is.jsonl.gz', '2021/is.jsonl.gz'],
+    "it": ['2016/it.jsonl.gz', '2017/it.jsonl.gz', '2018/it.jsonl.gz', '2019/it.jsonl.gz', '2020/it.jsonl.gz', '2021/it.jsonl.gz'],
+    "ja": ['2016/ja.jsonl.gz', '2017/ja.jsonl.gz', '2018/ja.jsonl.gz', '2019/ja.jsonl.gz', '2020/ja.jsonl.gz', '2021/ja.jsonl.gz'],
+    "jbo": ['2016/jbo.jsonl.gz', '2017/jbo.jsonl.gz', '2018/jbo.jsonl.gz', '2019/jbo.jsonl.gz', '2020/jbo.jsonl.gz', '2021/jbo.jsonl.gz'],
+    "jv": ['2016/jv.jsonl.gz', '2017/jv.jsonl.gz', '2018/jv.jsonl.gz', '2019/jv.jsonl.gz', '2020/jv.jsonl.gz', '2021/jv.jsonl.gz'],
+    "ka": ['2016/ka.jsonl.gz', '2017/ka.jsonl.gz', '2018/ka.jsonl.gz', '2019/ka.jsonl.gz', '2020/ka.jsonl.gz', '2021/ka.jsonl.gz'],
+    "kk": ['2016/kk.jsonl.gz', '2017/kk.jsonl.gz', '2018/kk.jsonl.gz', '2019/kk.jsonl.gz', '2020/kk.jsonl.gz', '2021/kk.jsonl.gz'],
+    "km": ['2017/km.jsonl.gz', '2018/km.jsonl.gz', '2019/km.jsonl.gz', '2020/km.jsonl.gz', '2021/km.jsonl.gz'],
+    "kn": ['2016/kn.jsonl.gz', '2017/kn.jsonl.gz', '2018/kn.jsonl.gz', '2019/kn.jsonl.gz', '2020/kn.jsonl.gz', '2021/kn.jsonl.gz'],
+    "ko": ['2016/ko.jsonl.gz', '2017/ko.jsonl.gz', '2018/ko.jsonl.gz', '2019/ko.jsonl.gz', '2020/ko.jsonl.gz', '2021/ko.jsonl.gz'],
+    "krc": ['2016/krc.jsonl.gz', '2017/krc.jsonl.gz', '2018/krc.jsonl.gz', '2019/krc.jsonl.gz', '2020/krc.jsonl.gz', '2021/krc.jsonl.gz'],
+    "ku": ['2016/ku.jsonl.gz', '2017/ku.jsonl.gz', '2018/ku.jsonl.gz', '2019/ku.jsonl.gz', '2020/ku.jsonl.gz', '2021/ku.jsonl.gz'],
+    "kv": ['2017/kv.jsonl.gz', '2018/kv.jsonl.gz', '2019/kv.jsonl.gz', '2020/kv.jsonl.gz', '2021/kv.jsonl.gz'],
+    "kw": ['2016/kw.jsonl.gz', '2017/kw.jsonl.gz', '2018/kw.jsonl.gz', '2019/kw.jsonl.gz', '2020/kw.jsonl.gz', '2021/kw.jsonl.gz'],
+    "ky": ['2016/ky.jsonl.gz', '2017/ky.jsonl.gz', '2018/ky.jsonl.gz', '2019/ky.jsonl.gz', '2020/ky.jsonl.gz', '2021/ky.jsonl.gz'],
+    "la": ['2016/la.jsonl.gz', '2017/la.jsonl.gz', '2018/la.jsonl.gz', '2019/la.jsonl.gz', '2020/la.jsonl.gz', '2021/la.jsonl.gz'],
+    "lb": ['2016/lb.jsonl.gz', '2017/lb.jsonl.gz', '2018/lb.jsonl.gz', '2019/lb.jsonl.gz', '2020/lb.jsonl.gz', '2021/lb.jsonl.gz'],
+    "lez": ['2018/lez.jsonl.gz', '2020/lez.jsonl.gz', '2021/lez.jsonl.gz'],
+    "li": ['2017/li.jsonl.gz', '2018/li.jsonl.gz', '2020/li.jsonl.gz', '2021/li.jsonl.gz'],
+    "lmo": ['2016/lmo.jsonl.gz', '2017/lmo.jsonl.gz', '2018/lmo.jsonl.gz', '2019/lmo.jsonl.gz', '2020/lmo.jsonl.gz', '2021/lmo.jsonl.gz'],
+    "lo": ['2016/lo.jsonl.gz', '2017/lo.jsonl.gz', '2018/lo.jsonl.gz', '2019/lo.jsonl.gz', '2020/lo.jsonl.gz', '2021/lo.jsonl.gz'],
+    "lt": ['2016/lt.jsonl.gz', '2017/lt.jsonl.gz', '2018/lt.jsonl.gz', '2019/lt.jsonl.gz', '2020/lt.jsonl.gz', '2021/lt.jsonl.gz'],
+    "lv": ['2016/lv.jsonl.gz', '2017/lv.jsonl.gz', '2018/lv.jsonl.gz', '2019/lv.jsonl.gz', '2020/lv.jsonl.gz', '2021/lv.jsonl.gz'],
+    "mai": ['2020/mai.jsonl.gz', '2021/mai.jsonl.gz'],
+    "mg": ['2016/mg.jsonl.gz', '2017/mg.jsonl.gz', '2018/mg.jsonl.gz', '2019/mg.jsonl.gz', '2020/mg.jsonl.gz', '2021/mg.jsonl.gz'],
+    "mhr": ['2016/mhr.jsonl.gz', '2017/mhr.jsonl.gz', '2018/mhr.jsonl.gz', '2019/mhr.jsonl.gz', '2020/mhr.jsonl.gz', '2021/mhr.jsonl.gz'],
+    "min": ['2017/min.jsonl.gz', '2018/min.jsonl.gz', '2019/min.jsonl.gz', '2020/min.jsonl.gz', '2021/min.jsonl.gz'],
+    "mk": ['2016/mk.jsonl.gz', '2017/mk.jsonl.gz', '2018/mk.jsonl.gz', '2019/mk.jsonl.gz', '2020/mk.jsonl.gz', '2021/mk.jsonl.gz'],
+    "ml": ['2016/ml.jsonl.gz', '2017/ml.jsonl.gz', '2018/ml.jsonl.gz', '2019/ml.jsonl.gz', '2020/ml.jsonl.gz', '2021/ml.jsonl.gz'],
+    "mn": ['2016/mn.jsonl.gz', '2017/mn.jsonl.gz', '2018/mn.jsonl.gz', '2019/mn.jsonl.gz', '2020/mn.jsonl.gz', '2021/mn.jsonl.gz'],
+    "mr": ['2016/mr.jsonl.gz', '2017/mr.jsonl.gz', '2018/mr.jsonl.gz', '2019/mr.jsonl.gz', '2020/mr.jsonl.gz', '2021/mr.jsonl.gz'],
+    "mrj": ['2017/mrj.jsonl.gz', '2020/mrj.jsonl.gz'],
+    "ms": ['2016/ms.jsonl.gz', '2017/ms.jsonl.gz', '2018/ms.jsonl.gz', '2019/ms.jsonl.gz', '2020/ms.jsonl.gz', '2021/ms.jsonl.gz'],
+    "mt": ['2016/mt.jsonl.gz', '2017/mt.jsonl.gz', '2018/mt.jsonl.gz', '2019/mt.jsonl.gz', '2020/mt.jsonl.gz', '2021/mt.jsonl.gz'],
+    "mwl": ['2017/mwl.jsonl.gz', '2018/mwl.jsonl.gz', '2019/mwl.jsonl.gz', '2020/mwl.jsonl.gz'],
+    "my": ['2016/my.jsonl.gz', '2017/my.jsonl.gz', '2018/my.jsonl.gz', '2019/my.jsonl.gz', '2020/my.jsonl.gz', '2021/my.jsonl.gz'],
+    "myv": ['2017/myv.jsonl.gz', '2018/myv.jsonl.gz', '2019/myv.jsonl.gz', '2020/myv.jsonl.gz'],
+    "mzn": ['2017/mzn.jsonl.gz', '2018/mzn.jsonl.gz', '2019/mzn.jsonl.gz', '2020/mzn.jsonl.gz', '2021/mzn.jsonl.gz'],
+    "nah": ['2019/nah.jsonl.gz'],
+    "nap": ['2016/nap.jsonl.gz', '2017/nap.jsonl.gz', '2018/nap.jsonl.gz', '2019/nap.jsonl.gz', '2020/nap.jsonl.gz', '2021/nap.jsonl.gz'],
+    "nds": ['2016/nds.jsonl.gz', '2017/nds.jsonl.gz', '2018/nds.jsonl.gz', '2019/nds.jsonl.gz', '2020/nds.jsonl.gz', '2021/nds.jsonl.gz'],
+    "ne": ['2016/ne.jsonl.gz', '2017/ne.jsonl.gz', '2018/ne.jsonl.gz', '2019/ne.jsonl.gz', '2020/ne.jsonl.gz', '2021/ne.jsonl.gz'],
+    "new": ['2016/new.jsonl.gz', '2017/new.jsonl.gz', '2018/new.jsonl.gz', '2019/new.jsonl.gz', '2020/new.jsonl.gz', '2021/new.jsonl.gz'],
+    "nl": ['2016/nl.jsonl.gz', '2017/nl.jsonl.gz', '2018/nl.jsonl.gz', '2019/nl.jsonl.gz', '2020/nl.jsonl.gz', '2021/nl.jsonl.gz'],
+    "nn": ['2016/nn.jsonl.gz', '2017/nn.jsonl.gz', '2018/nn.jsonl.gz', '2019/nn.jsonl.gz', '2020/nn.jsonl.gz', '2021/nn.jsonl.gz'],
+    "no": ['2016/no.jsonl.gz', '2017/no.jsonl.gz', '2018/no.jsonl.gz', '2019/no.jsonl.gz', '2020/no.jsonl.gz', '2021/no.jsonl.gz'],
+    "oc": ['2016/oc.jsonl.gz', '2017/oc.jsonl.gz', '2018/oc.jsonl.gz', '2019/oc.jsonl.gz', '2020/oc.jsonl.gz', '2021/oc.jsonl.gz'],
+    "or": ['2018/or.jsonl.gz', '2019/or.jsonl.gz', '2020/or.jsonl.gz', '2021/or.jsonl.gz'],
+    "os": ['2020/os.jsonl.gz', '2021/os.jsonl.gz'],
+    "pa": ['2016/pa.jsonl.gz', '2017/pa.jsonl.gz', '2018/pa.jsonl.gz', '2019/pa.jsonl.gz', '2020/pa.jsonl.gz', '2021/pa.jsonl.gz'],
+    "pam": ['2017/pam.jsonl.gz', '2018/pam.jsonl.gz', '2019/pam.jsonl.gz', '2020/pam.jsonl.gz', '2021/pam.jsonl.gz'],
+    "pfl": ['2020/pfl.jsonl.gz'],
+    "pl": ['2016/pl.jsonl.gz', '2017/pl.jsonl.gz', '2018/pl.jsonl.gz', '2019/pl.jsonl.gz', '2020/pl.jsonl.gz', '2021/pl.jsonl.gz'],
+    "pms": ['2016/pms.jsonl.gz', '2017/pms.jsonl.gz', '2018/pms.jsonl.gz', '2019/pms.jsonl.gz', '2020/pms.jsonl.gz', '2021/pms.jsonl.gz'],
+    "pnb": ['2016/pnb.jsonl.gz', '2017/pnb.jsonl.gz', '2018/pnb.jsonl.gz', '2019/pnb.jsonl.gz', '2020/pnb.jsonl.gz', '2021/pnb.jsonl.gz'],
+    "ps": ['2016/ps.jsonl.gz', '2017/ps.jsonl.gz', '2018/ps.jsonl.gz', '2019/ps.jsonl.gz', '2020/ps.jsonl.gz', '2021/ps.jsonl.gz'],
+    "pt": ['2016/pt.jsonl.gz', '2017/pt.jsonl.gz', '2018/pt.jsonl.gz', '2019/pt.jsonl.gz', '2020/pt.jsonl.gz', '2021/pt.jsonl.gz'],
+    "qu": ['2016/qu.jsonl.gz', '2017/qu.jsonl.gz', '2018/qu.jsonl.gz', '2019/qu.jsonl.gz', '2020/qu.jsonl.gz', '2021/qu.jsonl.gz'],
+    "rm": ['2016/rm.jsonl.gz', '2017/rm.jsonl.gz', '2018/rm.jsonl.gz', '2019/rm.jsonl.gz', '2020/rm.jsonl.gz', '2021/rm.jsonl.gz'],
+    "ro": ['2016/ro.jsonl.gz', '2017/ro.jsonl.gz', '2018/ro.jsonl.gz', '2019/ro.jsonl.gz', '2020/ro.jsonl.gz', '2021/ro.jsonl.gz'],
+    "ru": ['2016/ru.jsonl.gz', '2017/ru.jsonl.gz', '2018/ru.jsonl.gz', '2019/ru.jsonl.gz', '2020/ru.jsonl.gz', '2021/ru.jsonl.gz'],
+    "sa": ['2016/sa.jsonl.gz', '2017/sa.jsonl.gz', '2018/sa.jsonl.gz', '2019/sa.jsonl.gz', '2020/sa.jsonl.gz', '2021/sa.jsonl.gz'],
+    "sah": ['2016/sah.jsonl.gz', '2017/sah.jsonl.gz', '2018/sah.jsonl.gz', '2019/sah.jsonl.gz', '2020/sah.jsonl.gz', '2021/sah.jsonl.gz'],
+    "sc": ['2017/sc.jsonl.gz', '2018/sc.jsonl.gz', '2019/sc.jsonl.gz', '2020/sc.jsonl.gz', '2021/sc.jsonl.gz'],
+    "scn": ['2017/scn.jsonl.gz', '2018/scn.jsonl.gz', '2019/scn.jsonl.gz', '2020/scn.jsonl.gz', '2021/scn.jsonl.gz'],
+    "sco": ['2017/sco.jsonl.gz', '2018/sco.jsonl.gz', '2019/sco.jsonl.gz', '2020/sco.jsonl.gz', '2021/sco.jsonl.gz'],
+    "sd": ['2016/sd.jsonl.gz', '2017/sd.jsonl.gz', '2018/sd.jsonl.gz', '2019/sd.jsonl.gz', '2020/sd.jsonl.gz', '2021/sd.jsonl.gz'],
+    "sh": ['2016/sh.jsonl.gz', '2017/sh.jsonl.gz', '2018/sh.jsonl.gz', '2019/sh.jsonl.gz', '2020/sh.jsonl.gz', '2021/sh.jsonl.gz'],
+    "si": ['2016/si.jsonl.gz', '2017/si.jsonl.gz', '2018/si.jsonl.gz', '2019/si.jsonl.gz', '2020/si.jsonl.gz', '2021/si.jsonl.gz'],
+    "sk": ['2016/sk.jsonl.gz', '2017/sk.jsonl.gz', '2018/sk.jsonl.gz', '2019/sk.jsonl.gz', '2020/sk.jsonl.gz', '2021/sk.jsonl.gz'],
+    "sl": ['2016/sl.jsonl.gz', '2017/sl.jsonl.gz', '2018/sl.jsonl.gz', '2019/sl.jsonl.gz', '2020/sl.jsonl.gz', '2021/sl.jsonl.gz'],
+    "so": ['2016/so.jsonl.gz', '2017/so.jsonl.gz', '2018/so.jsonl.gz', '2019/so.jsonl.gz', '2020/so.jsonl.gz', '2021/so.jsonl.gz'],
+    "sq": ['2016/sq.jsonl.gz', '2017/sq.jsonl.gz', '2018/sq.jsonl.gz', '2019/sq.jsonl.gz', '2020/sq.jsonl.gz', '2021/sq.jsonl.gz'],
+    "sr": ['2016/sr.jsonl.gz', '2017/sr.jsonl.gz', '2018/sr.jsonl.gz', '2019/sr.jsonl.gz', '2020/sr.jsonl.gz', '2021/sr.jsonl.gz'],
+    "su": ['2016/su.jsonl.gz', '2017/su.jsonl.gz', '2018/su.jsonl.gz', '2019/su.jsonl.gz', '2020/su.jsonl.gz', '2021/su.jsonl.gz'],
+    "sv": ['2016/sv.jsonl.gz', '2017/sv.jsonl.gz', '2018/sv.jsonl.gz', '2019/sv.jsonl.gz', '2020/sv.jsonl.gz', '2021/sv.jsonl.gz'],
+    "sw": ['2016/sw.jsonl.gz', '2017/sw.jsonl.gz', '2018/sw.jsonl.gz', '2019/sw.jsonl.gz', '2020/sw.jsonl.gz', '2021/sw.jsonl.gz'],
+    "ta": ['2016/ta.jsonl.gz', '2017/ta.jsonl.gz', '2018/ta.jsonl.gz', '2019/ta.jsonl.gz', '2020/ta.jsonl.gz', '2021/ta.jsonl.gz'],
+    "te": ['2016/te.jsonl.gz', '2017/te.jsonl.gz', '2018/te.jsonl.gz', '2019/te.jsonl.gz', '2020/te.jsonl.gz', '2021/te.jsonl.gz'],
+    "tg": ['2016/tg.jsonl.gz', '2017/tg.jsonl.gz', '2018/tg.jsonl.gz', '2019/tg.jsonl.gz', '2020/tg.jsonl.gz', '2021/tg.jsonl.gz'],
+    "th": ['2016/th.jsonl.gz', '2017/th.jsonl.gz', '2018/th.jsonl.gz', '2019/th.jsonl.gz', '2020/th.jsonl.gz', '2021/th.jsonl.gz'],
+    "tk": ['2016/tk.jsonl.gz', '2017/tk.jsonl.gz', '2019/tk.jsonl.gz', '2020/tk.jsonl.gz', '2021/tk.jsonl.gz'],
+    "tl": ['2016/tl.jsonl.gz', '2017/tl.jsonl.gz', '2018/tl.jsonl.gz', '2019/tl.jsonl.gz', '2020/tl.jsonl.gz', '2021/tl.jsonl.gz'],
+    "tr": ['2016/tr.jsonl.gz', '2017/tr.jsonl.gz', '2018/tr.jsonl.gz', '2019/tr.jsonl.gz', '2020/tr.jsonl.gz', '2021/tr.jsonl.gz'],
+    "tt": ['2016/tt.jsonl.gz', '2017/tt.jsonl.gz', '2018/tt.jsonl.gz', '2019/tt.jsonl.gz', '2020/tt.jsonl.gz', '2021/tt.jsonl.gz'],
+    "tyv": ['2018/tyv.jsonl.gz'],
+    "ug": ['2017/ug.jsonl.gz', '2019/ug.jsonl.gz', '2020/ug.jsonl.gz', '2021/ug.jsonl.gz'],
+    "uk": ['2016/uk.jsonl.gz', '2017/uk.jsonl.gz', '2018/uk.jsonl.gz', '2019/uk.jsonl.gz', '2020/uk.jsonl.gz', '2021/uk.jsonl.gz'],
+    "ur": ['2016/ur.jsonl.gz', '2017/ur.jsonl.gz', '2018/ur.jsonl.gz', '2019/ur.jsonl.gz', '2020/ur.jsonl.gz', '2021/ur.jsonl.gz'],
+    "uz": ['2016/uz.jsonl.gz', '2017/uz.jsonl.gz', '2018/uz.jsonl.gz', '2019/uz.jsonl.gz', '2020/uz.jsonl.gz', '2021/uz.jsonl.gz'],
+    "vec": ['2016/vec.jsonl.gz', '2017/vec.jsonl.gz', '2018/vec.jsonl.gz', '2019/vec.jsonl.gz', '2020/vec.jsonl.gz', '2021/vec.jsonl.gz'],
+    "vep": ['2018/vep.jsonl.gz', '2019/vep.jsonl.gz', '2020/vep.jsonl.gz', '2021/vep.jsonl.gz'],
+    "vi": ['2016/vi.jsonl.gz', '2017/vi.jsonl.gz', '2018/vi.jsonl.gz', '2019/vi.jsonl.gz', '2020/vi.jsonl.gz', '2021/vi.jsonl.gz'],
+    "vls": ['2017/vls.jsonl.gz', '2018/vls.jsonl.gz'],
+    "vo": ['2016/vo.jsonl.gz', '2017/vo.jsonl.gz', '2018/vo.jsonl.gz', '2019/vo.jsonl.gz', '2020/vo.jsonl.gz', '2021/vo.jsonl.gz'],
+    "wa": ['2017/wa.jsonl.gz', '2018/wa.jsonl.gz', '2019/wa.jsonl.gz', '2020/wa.jsonl.gz', '2021/wa.jsonl.gz'],
+    "war": ['2016/war.jsonl.gz', '2017/war.jsonl.gz', '2018/war.jsonl.gz', '2019/war.jsonl.gz', '2020/war.jsonl.gz', '2021/war.jsonl.gz'],
+    "wuu": ['2017/wuu.jsonl.gz', '2018/wuu.jsonl.gz', '2019/wuu.jsonl.gz', '2020/wuu.jsonl.gz', '2021/wuu.jsonl.gz'],
+    "xal": ['2018/xal.jsonl.gz', '2019/xal.jsonl.gz', '2020/xal.jsonl.gz', '2021/xal.jsonl.gz'],
+    "xmf": ['2021/xmf.jsonl.gz'],
+    "yi": ['2017/yi.jsonl.gz', '2018/yi.jsonl.gz', '2019/yi.jsonl.gz', '2020/yi.jsonl.gz', '2021/yi.jsonl.gz'],
+    "yo": ['2017/yo.jsonl.gz', '2018/yo.jsonl.gz', '2019/yo.jsonl.gz', '2020/yo.jsonl.gz', '2021/yo.jsonl.gz'],
+    "yue": ['2016/yue.jsonl.gz', '2017/yue.jsonl.gz', '2018/yue.jsonl.gz', '2019/yue.jsonl.gz', '2020/yue.jsonl.gz', '2021/yue.jsonl.gz'],
+    "zh": ['2016/zh.jsonl.gz', '2017/zh.jsonl.gz', '2018/zh.jsonl.gz', '2019/zh.jsonl.gz', '2020/zh.jsonl.gz', '2021/zh.jsonl.gz'],
+}
+
+
+class CCNewsConfig(datasets.BuilderConfig):
+
+    def __init__(self, *args, languages, **kwargs):
+        """BuilderConfig for CC-News.
+        Args:
+            languages (:obj:`List[str]`): list of languages to load
+            **kwargs: keyword arguments forwarded to super.
+        """
+        super().__init__(
+            *args,
+            name="+".join(languages),
+            **kwargs,
+        )
+        self.languages = languages
+
+
+class Mc4(datasets.GeneratorBasedBuilder):
+    VERSION = datasets.Version("0.1.0")
+    BUILDER_CONFIGS = [CCNewsConfig(languages=[lang]) for lang in _LANGUAGE_TO_PATH_LIST]
+    BUILDER_CONFIG_CLASS = CCNewsConfig
+
+    def _info(self):
+        return datasets.DatasetInfo(
+            description=_DESCRIPTION,
+            features=datasets.Features(
+                {
+                    "title": datasets.Value("string"),
+                    "maintext": datasets.Value("string"),
+                    "url": datasets.Value("string"),
+                    "date_publish": datasets.Value("string"),
+                }
+            ),
+            supervised_keys=None,
+        )
+
+    def _split_generators(self, dl_manager):
+        data_urls = ["{}/{}".format(_DATA_URL, path) for lang in self.config.languages for path in _LANGUAGE_TO_PATH_LIST[lang]]
+        downloaded_files = dl_manager.download(data_urls)
+        return [
+            datasets.SplitGenerator(name=datasets.Split.TRAIN, gen_kwargs={"filepaths": downloaded_files}),
+        ]
+
+    def _generate_examples(self, filepaths):
+        """This function returns the examples in the raw (text) form by iterating on all the files."""
+        id_ = 0
+        for filepath in filepaths:
+            logger.info("generating examples from = %s", filepath)
+            with gzip.open(open(filepath, "rb"), "rt", encoding="utf-8") as f:
+                for line in f:
+                    if line:
+                        example = json.loads(line)
+                        yield id_, {
+                            "title": example["title"] or "",
+                            "maintext": example["maintext"] or "",
+                            "url": example["url"] or "",
+                            "date_publish": example["date_publish"] or "",
+                        }
+                        id_ += 1