quant_config.json

{
    "w_bit": 8,
    "version": "MIX",
    "q_group_size": 128
}