init

download_audio.py

@@ -1,3 +1,42 @@
+"""
+enA-jaA: 718_606
+
+LINE_NO_START=10000
+LINE_NO_END=20000
+LINE_NO_START=20000
+LINE_NO_END=30000
+LINE_NO_START=30000
+LINE_NO_END=40000
+LINE_NO_START=40000
+LINE_NO_END=50000
+LINE_NO_START=50000
+LINE_NO_END=60000
+LINE_NO_START=60000
+LINE_NO_END=70000
+LINE_NO_START=70000
+LINE_NO_END=80000
+LINE_NO_START=80000
+LINE_NO_END=90000
+LINE_NO_START=90000
+LINE_NO_END=100000
+
+
+LINE_NO_START=100000
+LINE_NO_END=120000
+
+LINE_NO_START=120000
+LINE_NO_END=140000
+
+LINE_NO_START=140000
+LINE_NO_END=160000
+
+LINE_NO_START=160000
+LINE_NO_END=180000
+
+LINE_NO_START=180000
+LINE_NO_END=200000
+
+"""
 import json
 import os
 import tarfile
@@ -32,7 +71,6 @@ line_no_end = int(os.getenv("LINE_NO_END", 10000))
 
 def wget(url: str, output_file: Optional[str] = None):
     os.makedirs(os.path.dirname(output_file), exist_ok=True)
-    filename = os.path.basename(url) if not output_file else output_file
     subprocess.run(["wget", url, "-O", output_file, "--tries", wget_max_retry, "--timeout", wget_timeout])
     if not os.path.exists(output_file):
         return False
@@ -41,7 +79,7 @@ def wget(url: str, output_file: Optional[str] = None):
             tar = tarfile.open(output_file)
         else:
             tar = tarfile.open(output_file, "r:gz")
-        tar.extractall(os.path.dirname(filename))
+        tar.extractall(os.path.dirname(output_file))
         tar.close()
         os.remove(output_file)
     elif output_file.endswith('.gz'):