---
license: apache-2.0
---
# Android手机运行ChatGLM2-6B

## 硬件
小米手机8: 高通骁龙845 + 6G + 128G

## 思路
1. 通过fastllm将ChatGLM2-6B模型(int4)转换为model.flm格式
2. 手机推理