在 Android 设备上运行 Llama-3.2-3B 模型

1. 下载 ChatterUI 作为图形界面；
2. 下载模型文件 Llama-3.2-3B-Instruct-Q4_0_4_4.gguf；
3. 在 ChatterUI 的 Instruct 选项中，点击 Alpaca，将其修改为Llama 3；
4. 在 ChatterUI 的 API 选项中，点击 Import Model，选择下载的模型文件，再点击 Load 载入模型；
5. 现在即可与默认的 AI Bot 角色进行对话。还可以使用自定义的设定描述词，创建新的角色。

---

使用截屏：

视频链接：（3.9 MB）

---

因为 Llama 3.2 模型本身并不支持中文，所以它的中文对话能力不太好，有时回答可能会夹杂外语。