https://github.com/AI-Hobbyist/Genshin_Datasets/blob/main/README_CN.md n_shards.json "ja": { "train": 1 } # "train": 1 对应 ja_train_0.tar 中的 0, 既 shard_idx。train 数据集分了多少个压缩包,这里就填多少 common_voice_17_0.py _AUDIO_URL = _BASE_URL + "audio/{lang}/{split}/{lang}_{split}_{shard_idx}.tar" _TRANSCRIPT_URL = _BASE_URL + "transcript/{lang}/{split}_{shard_idx}.jsonl" # 拼出 huggingface 上的下载地址 # lang 从配置得来 # split 对应 上面 json 中的 train 等 for split in splits: meta_urls = {split: _TRANSCRIPT_URL.format(lang=lang, split=split, shard_idx=i) for i in range(n_shards[lang][split]) } # 根据上面的 n_shards.json 配置遍历所有要下载的文件 meta_url