Qi28 commited on
Commit
3de9df6
·
verified ·
1 Parent(s): bc81231

Update main.py

Browse files
Files changed (1) hide show
  1. main.py +9 -3
main.py CHANGED
@@ -79,11 +79,12 @@ def download_openi(datasets):
79
  """
80
  下载多个数据集到不同目录,如果保存路径不存在则不下载,如果配置文件中已存在则不下载
81
  """
82
- for dataset in datasets:
83
  dataset_name = dataset["dataset_name"]
84
  file_name = dataset["file_name"]
85
  save_path = os.path.join(".", dataset["save_path"])
86
 
 
87
  if not os.path.exists(save_path):
88
  print(f"保存路径 {save_path} 不存在,跳过下载 {file_name}。")
89
  continue
@@ -93,17 +94,22 @@ def download_openi(datasets):
93
  config.read(os.path.join(save_path, 'time.ini'))
94
 
95
  # 检查 time.ini 配置文件中是否已存在该文件
96
- if config.has_option(os.path.splitext(file_name)[0], file_name):
97
  print(f"配置文件中已存在 {file_name},跳过下载。")
98
  continue
99
 
 
100
  os.system(f'openi dataset download {dataset_name} {file_name} --cluster NPU --save_path {save_path}')
101
  print(f"数据集 {file_name} 已下载到 {save_path} 目录。")
102
 
103
- config.set(os.path.splitext(file_name)[0], file_name, 'True')
 
 
 
104
  with open(os.path.join(save_path, 'time.ini'), 'w') as configfile:
105
  config.write(configfile)
106
 
 
107
  extract_path = os.path.join(save_path, os.path.splitext(file_name)[0])
108
  if not os.path.exists(extract_path):
109
  os.makedirs(extract_path)
 
79
  """
80
  下载多个数据集到不同目录,如果保存路径不存在则不下载,如果配置文件中已存在则不下载
81
  """
82
+ for dataset in openi_datasets:
83
  dataset_name = dataset["dataset_name"]
84
  file_name = dataset["file_name"]
85
  save_path = os.path.join(".", dataset["save_path"])
86
 
87
+ # 检查保存路径是否存在
88
  if not os.path.exists(save_path):
89
  print(f"保存路径 {save_path} 不存在,跳过下载 {file_name}。")
90
  continue
 
94
  config.read(os.path.join(save_path, 'time.ini'))
95
 
96
  # 检查 time.ini 配置文件中是否已存在该文件
97
+ if config.has_option('downloaded_files', file_name):
98
  print(f"配置文件中已存在 {file_name},跳过下载。")
99
  continue
100
 
101
+ # 下载数据集
102
  os.system(f'openi dataset download {dataset_name} {file_name} --cluster NPU --save_path {save_path}')
103
  print(f"数据集 {file_name} 已下载到 {save_path} 目录。")
104
 
105
+ # 更新对应数据集的 time.ini 配置文件
106
+ if not config.has_section('downloaded_files'):
107
+ config.add_section('downloaded_files')
108
+ config.set('downloaded_files', file_name, 'True')
109
  with open(os.path.join(save_path, 'time.ini'), 'w') as configfile:
110
  config.write(configfile)
111
 
112
+ # 解压文件
113
  extract_path = os.path.join(save_path, os.path.splitext(file_name)[0])
114
  if not os.path.exists(extract_path):
115
  os.makedirs(extract_path)