修改启动命令为 Uvicorn，调整 Gunicorn 配置中的工作进程数；添加懒加载机制以优化模型和tokenizer的加载，确保线程安全 7c28043 parkerjj commited on Dec 21, 2024
优化应用初始化逻辑，使用异步上下文管理器处理生命周期；改进模型加载机制，添加线程锁以确保线程安全；更新 Gunicorn 配置以提高性能和稳定性 068fdbc parkerjj commited on Dec 21, 2024
修改启动命令为 Gunicorn，添加 Gunicorn 配置文件，移除 Uvicorn 启动逻辑，更新依赖项以支持 Gunicorn 000bfd1 parkerjj commited on Dec 21, 2024
