基于 MNN + llama.cpp 双引擎,无需联网即可在手机本地运行大模型推理(支持.mnn与.gguf格式),支持深度思考模型、流式输出、联网搜索、多会话历史记录。
双引擎架构 / Dual-Engine Architecture
| 特性 Features | 说明 Description |
|---|---|
| 双引擎推理 Dual-Engine | 自动识别模型目录:含 .gguf 走 llama.cpp,含 config.json + .mnn 走 MNN,兼顾性能与通用性 |
| 流式输出 Streaming | 逐 token 增量渲染,实时显示思考与正文 |
| 深度思考模型 Deep-Thinking | 支持带思考过程的模型(如深度思考类 GGUF) |
| 联网搜索 Web Search | 可选开启,自动带上搜索结果作为上下文 |
| 多会话历史 Multi-Session History | 每次对话按时间戳分组,历史记录侧边栏分组展示、可恢复 |
| 推理统计 Stats | 每条回复固化输入/输出 token 数与生成速度 |
| 会话管理 Session Tools | 置顶、重命名、批量删除、清空全部 |
| 隐私模式 Privacy Mode | 开启后不保存任何聊天记录 |
| 极简风格 UI | 极简界面,支持深浅色模式 |