MNN Chat 是一款支持完全离线运行的轻量级大模型应用,可在手机端加载多种语言模型并作为聊天工具使用。它整合魔道搭、魔乐、HuggingFace 等模型来源,覆盖深度思考、图像理解、文生图、音频理解与音频生成等能力,用户可按需筛选、测试和管理可用模型。
模型文件存放位置
在 Android 手机中,MNN Chat 默认把下载或手动拷贝的模型放在以下路径:/sdcard/MNN/chat/

模型转换方法
1. 先下载需要使用的目标模型。

2. 接着进入“我的模型”,选择想要转换的模型即可。

使用方法
1. 根据自己的需求选择 AI 模型,打开 MNN Chat 软件。

2. 选择目标文件,点击下载。

3. 也可以在搜索框中输入关键词,查找后下载。

应用亮点
- 可在手机端运行多种大型模型,随时体验本地深度学习,效率较高。
- 可根据机型特点灵活选择模型,兼容性较强。
- 界面简洁,点击即可快速下载安装;无需联网也能离线使用。
功能特色
- 基于 MNN LLM 技术,处理速度快,运算效率高,可完成较复杂的任务。
- 设计友好直观,容易上手,使用体验智能便利。
- 开发团队定期推出新版本,持续引入新功能并优化性能。
技术优势
- 核心模型推理功能支持 CPU 与 GPU,独立无依赖,代码精简,适合移动设备和嵌入式系统部署。
- 支持 iOS 平台,提供 MNN 静态库,兼容 armv7 及 arm64 架构,库文件约 12MB,集成后增加可执行文件约 2MB。
- 支持 Android 平台,提供 armv7a 架构的 c++_shared 动态库,约 800KB。
- 支持 Mini 编辑选项,可缩减包体积,较基础库减少约 25%。
- 具备模型压缩与量化功能,支持 FP16/Int8 格式,模型体积减少 50% 至 75%。
更新日志
v0.7.5
- 新增 Qwen3-VL 支持(4B、8B、30B-A3B)。
- 支持 smolvlm-video 系列的视频输入。