config.json

{
    //设置默认模型
    "default_model": "azure-gpt-35", // 默认模型

    //设置UI界面语言
    "language": "zh_CN",

    // 设置 OpenaAI API
    "openai_api_key": "",
    "usage_limit": 120, // API Key的当月限额，单位：美元    
    "multi_api_key": false, // 是否多个API Key轮换使用
    "api_key_list": [],

    //设置 Azure OpenaAI API
    //"azure_openai_key":"99a7b96752af40f692469e30cd9cd06c",
    "azure_openai_endpoint":"https://ttchatbot.openai.azure.com/",
    "azure_openai_version":"2023-05-15",
    "azure_openai_engine":"ttchatbot",

    //设置 ChatGLM 模型路径    
    "chatglm-6b":"E:\\OPENSOURCE LLM\\chatglm-6b",
    
    //设置模型列表
    "ONLINE_MODELS" : ["azure-gpt-35","gpt-3.5-turbo"],    
    "LOCAL_MODELS" : ["chatglm-6b"],     
    
    // 设置显示
    "render_latex": true,
    "hide_history_when_not_logged_in": false, //未登录情况下是否不展示对话历史
    
    //设置本地文档
    "local_embedding": false, //是否在本地编制索引  
    "advance_docs": {
        "pdf": {
            // 是否认为PDF是双栏的
            "two_column": false,
            // 是否使用OCR识别PDF中的公式
            "formula_ocr": true
        }
    },
    "REPLY_LANGUAGES" : ["简体中文","English"]    
       
    // 自定义 gradio 端口
    // "server_name": "0.0.0.0",
    // "server_port": 7860,
    // 如果要share到gradio，设置为true
    // "share": false,

    // 设置代理
    // "https_proxy": "http://127.0.0.1:1079",
    // "http_proxy": "http://127.0.0.1:1079",
}