main.py

# SD 插件路径 /tmp/code/sd/stable-diffusion-webui/extensions
# SD embeddings路径 /tmp/code/sd/stable-diffusion-webui/embeddings
# SD VAE路径 /tmp/code/sd/stable-diffusion-webui/models/VAE
# SD Lora路径 /tmp/code/sd/stable-diffusion-webui/models/Lora
# SD 模型路径 /tmp/code/sd/stable-diffusion-webui/models/Stable-diffusion

#comfyui 模型、VAE、Lora由SD文件路径共享
# comfyui 插件路径 /tmp/code/sd/ComfyUI/custom_nodes

## 为更改文件内容后就能被执行，本py文件会每30秒调用执行一次，做好判断
print('--------------远程执行PY---------------------')
 
import os
import subprocess
import configparser
import shutil

def install_aria2():
    try:
        # 检查 aria2c 是否已安装
        subprocess.run(['which', 'aria2c'], check=True, stdout=subprocess.DEVNULL, stderr=subprocess.DEVNULL)
        print("aria2c 已安装")
    except subprocess.CalledProcessError:
        # aria2c 未安装,尝试自动安装
        print("aria2c 未安装,正在尝试自动安装...")
        if 'ubuntu' in subprocess.check_output(['lsb_release', '-i']).decode().lower():
            os.system('apt install aria2 -y')
            print("aria2c 安装成功")
        else:
            print("无法自动检测您的操作系统,请手动安装 aria2。")
install_aria2()
print('--------------开始---------------------')


#SD插件下载
git_sd = [
    # 'https://github.com/2575044704/stable-diffusion-webui-localization-zh_CN2.git', #汉化
    'https://github.com/AlUlkesh/stable-diffusion-webui-images-browser', #图库浏览器
]
#comfyui插件下载
git_comfyui = [
    'https://github.com/AIGODLIKE/AIGODLIKE-COMFYUI-TRANSLATION',#中文插件
    'https://github.com/talesofai/comfyui-browser'#查看器
]

# 包含文件名和下载 URL 的列表,格式为 ['文件名:下载URL', ...]
#Lora下载

Lora_url = [
    
]
#embeddings下载
embeddings_url = [
    
]
#VAE下载
VAE_url = [
    
]
#模型下载
mode_url = [
    #'[动漫]noobaiXLNAIXL_epsilonPred075.safetensors:https://civitai.work/api/download/models/998979'#国内无法访问下载
    # '动漫-NoobAIXLv1.safetensors:https://prod-vod.miyoushe.com/ogp5ANsBjwtHuQMzLhPtqM7ml8G5vnZpNjjZbH/noobaiXLNAIXL_epsilonPred10Version.safetensors',
    # '动漫-NoobAIXLv1.jpeg:https://image.civitai.work/xG1nkqKTMzGDvpLrqFT7WA/c5f2b34d-2890-4f76-b7d4-475d27ee59a0/width=450/azuuru,%20%7Btorino%20aqua%7D,%20%7B%7B%7Balternate%20costume%20%7D%7D%7D,momoko_(momopoco)%20,mana_(remana)%20s-1818306228%20(6).jpeg',
    # '动漫-NoobAIXL-VPv0.6.safetensors:https://civitai.work/api/download/models/1070239?token=51cb08c8db76338ef7ed18bc5f0954c0',
    # '动漫-NoobAIXL-VPv0.6.jpeg:https://image.civitai.work/xG1nkqKTMzGDvpLrqFT7WA/ad9b8b4a-f0df-489e-8dab-91c22d930224/width=450/ComfyUI_temp_bybod_00001_.jpeg',
    
]
# openi 数据下载 数据集必须为公开数据集
openi_datasets = [
        # {
        #     "dataset_name": "qilan2/SD-QL",# 数据集路径
        #     "file_name": "SD模型3.zip",# 数据集名
        #     "save_path": "/tmp/code/sd/stable-diffusion-webui/models/Stable-diffusion/",# 解压路径结尾带/
        #     "extract": True, # 是否解压文件 True  False
        #     "use_unzip": True # unzip解压 True 7z解压 False
        # },
    {
            "dataset_name": "qilan/sd",
            "file_name": "sd模型.zip",
            "save_path": "/tmp/code/sd/stable-diffusion-webui/models/Stable-diffusion/",
            "extract": True,
            "use_unzip": False 
        }
    ]



def download_openi(datasets):
    """
    下载多个数据集到不同目录,如果保存路径不存在则不下载,如果配置文件中已存在则不下载
    根据 dataset 中的 extract 和 use_unzip 参数控制是否解压以及使用何种解压工具
    """
    for dataset in datasets:
        dataset_name = dataset["dataset_name"]
        file_name = dataset["file_name"]
        save_path = os.path.join(".", dataset["save_path"])
        extract = dataset.get("extract", True)
        use_unzip = dataset.get("use_unzip", True)

        # 检查保存路径是否存在
        if not os.path.exists(save_path):
            print(f"保存路径 {save_path} 不存在,跳过下载 {file_name}。")
            continue

        # 读取对应数据集的 time.ini 配置文件
        config = configparser.ConfigParser()
        config.read(os.path.join(save_path, 'time.ini'))

        # 检查 time.ini 配置文件中是否已存在该文件
        if config.has_option('downloaded_files', file_name):
            print(f"配置文件中已存在 {file_name},跳过下载。")
            continue

        # 下载数据集
        os.system(f'openi dataset download {dataset_name} {file_name}  --cluster NPU --save_path {save_path}')
        print(f"数据集 {file_name} 已下载到 {save_path} 目录。")

        # 更新对应数据集的 time.ini 配置文件
        if not config.has_section('downloaded_files'):
            config.add_section('downloaded_files')
        config.set('downloaded_files', file_name, 'True')
        with open(os.path.join(save_path, 'time.ini'), 'w') as configfile:
            config.write(configfile)

        # 解压文件
        if extract:
            extract_path = os.path.join(save_path, os.path.splitext(file_name)[0])
            if not os.path.exists(extract_path):
                os.makedirs(extract_path)
            if use_unzip:
                os.system(f'unzip -j {os.path.join(save_path, file_name)} -d {extract_path}')
            else:
                os.system(f'7z x {os.path.join(save_path, file_name)} -o{extract_path} -aoa')

            # 将解压后的文件移动到指定的路径
            for root, dirs, files in os.walk(extract_path):
                for file in files:
                    src_path = os.path.join(root, file)
                    dst_path = os.path.join(save_path, file)
                    shutil.move(src_path, dst_path)
                for dir in dirs:
                    src_path = os.path.join(root, dir)
                    dst_path = os.path.join(save_path, dir)
                    shutil.move(src_path, dst_path)
            # 删除解压后创建的文件夹
            shutil.rmtree(extract_path)
            print(f"数据集 {file_name} 已解压到 {save_path} 目录。")

        # 删除压缩包文件
        os.remove(os.path.join(save_path, file_name))
        print(f"已删除压缩包文件 {file_name}。")


def download_aria2(file_name, download_dir, url):
    download_path = os.path.join(download_dir, file_name)
    aria2_path = download_path + ".aria2"
    
    # 检查文件是否已经下载完成
    if os.path.exists(download_path) and not os.path.exists(aria2_path):
        print(f'文件 {file_name} 已存在, URL: {url}')
        return
    
    # 如果存在 .aria2 文件, 继续断点下载
    if os.path.exists(aria2_path):
        print(f'文件 {file_name} 正在下载, 继续断点下载, URL: {url}')
        aria2_args = (
            f'aria2c --dir {download_dir} --out {file_name} '
            '--continue=true'
            '--summary-interval=15 '#--console-log-level=error  
            '--header="Referer: https://www.liblib.art/modelinfo/0079e26dfd8a447fbb5553bda66758a8?from=search"'
            '-c -x 16 -s 16 '
            '{url}'
        )
        try:
            os.system(aria2_args.format(url=url))
            print(f'已成功下载: {file_name}')
            # os.system(f'rm -r {aria2_path}')
        except Exception as e:
            print(f'下载 {url} 失败: {e}')
        return
    
    # 如果没有 .aria2 文件且没有下载完成的文件, 则开始新的下载
    aria2_args = (
        f'aria2c --dir {download_dir} --out {file_name} '
        '--continue=true'
        '--summary-interval=15 '#--console-log-level=error  
        '--header="Referer: https://www.liblib.art/modelinfo/0079e26dfd8a447fbb5553bda66758a8?from=search"'
        '-c -x 16 -s 16 '
        '{url}'
    )
    try:
        # print(f'aria2c --dir {download_dir} --out {file_name} --max-connection-per-server=10 --split=10 --min-split-size=1M --max-overall-download-limit=0 --max-download-limit=0 --continue=true {url}')
        os.system(aria2_args.format(url=url))
        print(f'已成功下载: {file_name}')
        # os.system(f'rm -r {aria2_path}')
    except Exception as e:
        print(f'下载 {url} 失败: {e}')

def download_Lora(file_urls, download_dir='/tmp/code/sd/stable-diffusion-webui/models/Lora'):
    """
    下载文件到指定目录,并支持替换文件名。如果文件已存在,则不进行下载。
    
    参数:
    file_urls (list): 包含文件名和下载 URL 的列表,格式为 ['文件名:下载URL', ...]
    download_dir (str): 下载文件的目标目录
    """
    # 创建目标目录
    os.makedirs(download_dir, exist_ok=True)
    # 下载文件
    for file_url in file_urls:
        try:
            file_name, url = file_url.split(':', 1)
            download_aria2(file_name, download_dir, url)
        except ValueError:
            print(f'无效的文件 URL 格式: {file_url}')
def download_embeddings(file_urls, download_dir='/tmp/code/sd/stable-diffusion-webui/embeddings'):
    os.makedirs(download_dir, exist_ok=True)
    for file_url in file_urls:
        try:
            file_name, url = file_url.split(':', 1)
            download_aria2(file_name, download_dir, url)
        except ValueError:
            print(f'无效的文件 URL 格式: {file_url}')
def download_VAE(file_urls, download_dir='/tmp/code/sd/stable-diffusion-webui/models/VAE'):
    os.makedirs(download_dir, exist_ok=True)
    for file_url in file_urls:
        try:
            file_name, url = file_url.split(':', 1)
            download_aria2(file_name, download_dir, url)
        except ValueError:
            print(f'无效的文件 URL 格式: {file_url}')
def download_mode(file_urls, download_dir='/tmp/code/sd/stable-diffusion-webui/models/Stable-diffusion'):
    os.makedirs(download_dir, exist_ok=True)
    for file_url in file_urls:
        try:
            file_name, url = file_url.split(':', 1)
            download_aria2(file_name, download_dir, url)
        except ValueError:
            print(f'无效的文件 URL 格式: {file_url}')
def clone_repos_sd(repo_urls, clone_dir='/tmp/code/sd/stable-diffusion-webui/extensions'):
    """
    克隆 GitHub 仓库到指定目录
    参数:
    repo_urls (list): GitHub 仓库 URL 列表
    clone_dir (str): 克隆仓库的目标目录
    """
    # 创建目标目录
    os.makedirs(clone_dir, exist_ok=True, mode=0o755)
    for repo_url in repo_urls:
        try:
            repo_name = repo_url.rstrip('/').split('/')[-1]
            clone_path = os.path.join(clone_dir, repo_name)
            if os.path.exists(clone_path):
                print(f'仓库 {repo_name} 已存在, URL: {repo_url}')
                continue
            os.system(f'git clone {repo_url} {clone_path}')
            print(f'已成功克隆仓库: {repo_name}')
        except Exception as e:
            print(f'克隆 {repo_url} 失败: {e}')
def clone_repos_comfyui(repo_urls, clone_dir='/tmp/code/sd/ComfyUI/custom_nodes'):
    os.makedirs(clone_dir, exist_ok=True, mode=0o755)
    for repo_url in repo_urls:
        try:
            repo_name = repo_url.rstrip('/').split('/')[-1]
            clone_path = os.path.join(clone_dir, repo_name)
            if os.path.exists(clone_path):
                print(f'仓库 {repo_name} 已存在, URL: {repo_url}')
                continue
            os.system(f'git clone {repo_url} {clone_path}')
            print(f'已成功克隆仓库: {repo_name}')
        except Exception as e:
            print(f'克隆 {repo_url} 失败: {e}')

clone_repos_sd(git_sd)
clone_repos_comfyui(git_comfyui)
download_openi(openi_datasets)
download_Lora(Lora_url)
download_embeddings(embeddings_url)
download_VAE(VAE_url)
download_mode(mode_url)