init

download_audio.py

@@ -1,40 +1,37 @@
 """
 enA-jaA: 718_606
+# server 1
+export LINE_NO_START=0
+export LINE_NO_END=30000
 
-LINE_NO_START=10000
-LINE_NO_END=20000
-LINE_NO_START=20000
-LINE_NO_END=30000
-LINE_NO_START=30000
-LINE_NO_END=40000
-LINE_NO_START=40000
-LINE_NO_END=50000
-LINE_NO_START=50000
-LINE_NO_END=60000
-LINE_NO_START=60000
-LINE_NO_END=70000
-LINE_NO_START=70000
-LINE_NO_END=80000
-LINE_NO_START=80000
-LINE_NO_END=90000
-LINE_NO_START=90000
-LINE_NO_END=100000
-
-
-LINE_NO_START=100000
-LINE_NO_END=120000
-
-LINE_NO_START=120000
-LINE_NO_END=140000
-
-LINE_NO_START=140000
-LINE_NO_END=160000
-
-LINE_NO_START=160000
-LINE_NO_END=180000
-
-LINE_NO_START=180000
-LINE_NO_END=200000
+export LINE_NO_START=30000
+export LINE_NO_END=60000
+
+export LINE_NO_START=60000
+export LINE_NO_END=90000
+
+export LINE_NO_START=90000
+export LINE_NO_END=120000
+
+export LINE_NO_START=120000
+export LINE_NO_END=150000
+
+
+# server 2
+export LINE_NO_START=100000
+export LINE_NO_END=120000
+
+export LINE_NO_START=120000
+export LINE_NO_END=140000
+
+export LINE_NO_START=140000
+export LINE_NO_END=160000
+
+export LINE_NO_START=160000
+export LINE_NO_END=180000
+
+export LINE_NO_START=180000
+export LINE_NO_END=200000
 
 """
 import json
@@ -131,7 +128,7 @@ def get_audio(dataframe: pd.DataFrame):
 
 def process_dataset():
     df_metadata = get_metadata()
-    print(f"metadata: {len(df_metadata)}")
+    print(f"metadata: {len(df_metadata)}, {line_no_start} --> {line_no_start}")
     inputs = [g for line_no, g in df_metadata.groupby("line_no") if line_no_start <= line_no < line_no_end]
     print(f"filtered unique lines: {len(inputs)}")
     inputs = [g for g in inputs if len(g) == 2]