Update svea.txt

svea.txt

@@ -1,240 +1,55 @@
-job;download_done;htrflow_done
-A0068654;0;0
-A0068655;0;0
-A0068656;0;0
-A0068657;0;0
-A0068658;0;0
-A0068659;0;0
-A0068660;0;0
-A0068661;0;0
-A0068662;0;0
-A0068663;0;0
-A0068664;0;0
-A0068665;0;0
-A0068666;0;0
-A0068667;0;0
-A0068668;0;0
-A0068669;0;0
-A0068670;0;0
-A0068671;0;0
-A0068672;0;0
-A0068673;0;0
-A0068674;0;0
-A0068675;0;0
-A0068676;0;0
-A0068677;0;0
-A0068678;0;0
-A0068679;0;0
-A0068680;0;0
-A0068681;0;0
-A0068682;0;0
-A0068683;0;0
-A0068684;0;0
-A0068685;0;0
-A0068686;0;0
-A0068687;0;0
-A0068688;0;0
-A0068689;0;0
-A0068690;0;0
-A0068691;0;0
-A0068692;0;0
-A0068693;0;0
-A0068694;0;0
-A0068695;0;0
-A0068696;0;0
-A0068697;0;0
-A0068698;0;0
-A0068699;0;0
-A0068700;0;0
-A0068702;0;0
-A0068703;0;0
-A0068705;0;0
-A0068706;0;0
-A0068707;0;0
-A0068708;0;0
-A0068709;0;0
-A0068710;0;0
-A0068711;0;0
-A0068712;0;0
-A0068713;0;0
-A0068714;0;0
-A0068715;0;0
-A0068716;0;0
-A0068717;0;0
-A0068718;0;0
-A0068719;0;0
-A0068720;0;0
-A0068721;0;0
-A0068722;0;0
-A0068723;0;0
-A0068724;0;0
-A0068725;0;0
-A0068726;0;0
-A0068727;0;0
-A0068728;0;0
-A0068729;0;0
-A0068730;0;0
-A0068731;0;0
-A0068732;0;0
-A0068733;0;0
-A0068734;0;0
-A0068735;0;0
-A0068736;0;0
-A0068737;0;0
-A0068738;0;0
-A0068739;0;0
-A0068740;0;0
-A0068741;0;0
-A0068742;0;0
-A0068743;0;0
-A0068744;0;0
-A0068745;0;0
-A0068746;0;0
-A0068747;0;0
-A0068748;0;0
-A0068749;0;0
-A0068750;0;0
-A0068751;0;0
-A0068752;0;0
-A0068753;0;0
-A0068754;0;0
-A0068755;0;0
-A0068756;0;0
-A0068757;0;0
-A0068758;0;0
-A0068759;0;0
-A0068760;0;0
-A0068761;0;0
-A0068762;0;0
-A0068763;0;0
-A0068764;0;0
-A0068765;0;0
-A0068766;0;0
-A0068767;0;0
-A0068768;0;0
-A0068769;0;0
-A0068770;0;0
-A0068771;0;0
-A0068772;0;0
-A0068773;0;0
-A0068774;0;0
-A0068775;0;0
-A0068776;0;0
-A0068777;0;0
-A0068778;0;0
-A0068779;0;0
-A0068780;0;0
-A0068781;0;0
-A0068782;0;0
-A0068783;0;0
-A0068784;0;0
-A0068785;0;0
-A0068786;0;0
-A0068787;0;0
-A0068788;0;0
-A0068789;0;0
-A0068790;0;0
-A0068791;0;0
-A0068792;0;0
-A0068793;0;0
-A0068794;0;0
-A0068795;0;0
-A0068796;0;0
-A0068797;0;0
-A0068798;0;0
-A0068799;0;0
-A0068801;0;0
-A0068802;0;0
-A0068803;0;0
-A0068804;0;0
-A0068805;0;0
-A0068806;0;0
-A0068807;0;0
-A0068808;0;0
-A0068809;0;0
-A0068810;0;0
-A0068811;0;0
-A0068812;0;0
-A0068813;0;0
-A0068814;0;0
-A0068815;0;0
-A0068816;0;0
-A0068817;0;0
-A0068818;0;0
-A0068819;0;0
-A0068820;0;0
-A0068821;0;0
-A0068822;0;0
-A0068823;0;0
-A0068824;0;0
-A0068825;0;0
-A0068826;0;0
-A0068827;0;0
-A0068828;0;0
-A0068832;0;0
-A0068833;0;0
-A0068834;0;0
-A0068835;0;0
-A0068836;0;0
-A0068837;0;0
-A0068838;0;0
-A0068839;0;0
-A0068840;0;0
-A0068841;0;0
-A0068842;0;0
-A0068843;0;0
-A0068844;0;0
-A0068845;0;0
-A0068846;0;0
-A0068847;0;0
-A0068848;0;0
-A0068849;0;0
-A0068850;0;0
-A0068851;0;0
-A0068852;0;0
-A0068853;0;0
-A0068854;0;0
-A0068855;0;0
-A0068856;0;0
-A0068857;0;0
-A0068858;0;0
-A0068859;0;0
-A0068860;0;0
-A0068861;0;0
-A0068862;0;0
-A0068863;0;0
-A0068864;0;0
-A0068865;0;0
-A0068866;0;0
-A0068867;0;0
-A0068868;0;0
-A0068869;0;0
-A0068870;0;0
-A0068871;0;0
-A0068872;0;0
-30003365;0;0
-30003366;0;0
-30003367;0;0
-30003368;0;0
-A0068632;0;0
-A0068633;0;0
-A0068634;0;0
-A0068635;0;0
-A0068636;0;0
-A0068637;0;0
-A0068638;0;0
-A0068639;0;0
-A0068640;0;0
-A0068641;0;0
-A0068642;0;0
-A0068643;0;0
-A0068644;0;0
-A0068645;0;0
-A0068646;0;0
-A0068647;0;0
-A0068648;0;0
-A0068649;0;0
-A0068650;0;0
-A0068651;0;0
-A0068652;0;0
-A0068653;0;0
+import argparse
+from concurrent.futures import ThreadPoolExecutor
+import os
+import requests
+import shutil
+from tqdm import tqdm
+
+
+def get_image_ids(batch_id: str) -> list[str]:
+    """A list of image IDs in the given batch"""
+    response = requests.get(f"https://iiifintern.ra.se/arkis!{batch_id}/manifest")
+    response.raise_for_status()
+    response = response.json()
+    return [item["id"].split("!")[1][:14] for item in response["items"]]
+
+
+def download_image(url: str, dest: str) -> None:
+    """
+    Download an image
+
+    Arguments:
+        url: Image url
+        dest: Destination file name
+    """
+    response = requests.get(url, stream=True)
+    with open(dest, "wb") as out_file:
+        shutil.copyfileobj(response.raw, out_file)
+    del response
+
+
+def download_image_by_image_id(image_id: str):
+    """
+    Download the image with the given image ID
+
+    Creates a directory named after the batch ID and saves the image in
+    that directory.
+    """
+    batch_id = image_id[:8]
+    os.makedirs(batch_id, exist_ok=True)
+    url = f"https://iiifintern.ra.se/arkis!{image_id}/full/max/0/default.jpg"
+    dest = os.path.join(batch_id, image_id + ".jpg")
+    download_image(url, dest)
+
+
+if __name__ == "__main__":
+
+    parser = argparse.ArgumentParser(description="Download a batch of images by its batch ID")
+    parser.add_argument("batch_id", help="batch ID of batch to download")
+    parser.add_argument("--workers", default=5, help="number of concurrent workers")
+    args = parser.parse_args()
+
+    image_ids = get_image_ids(args.batch_id)
+
+    with ThreadPoolExecutor(max_workers=args.workers) as executor:
+        list(tqdm(executor.map(download_image_by_image_id, image_ids), total=len(image_ids), desc=f"Downloading {args.batch_id}"))