MNN Chat v0.8.3 —— 阿里巴巴开源端侧 AI 框架体验工具
影音娱乐
2026-06-07
9 次浏览
应用简介
MNN Chat 是基于阿里巴巴 MNN 端侧深度学习框架的本地 AI 推理应用，支持在手机上离线运行大语言模型进行对话。
应用信息
MNN 是阿里巴巴开源的高效轻量级深度学习推理框架，已被淘宝、天猫、优酷、钉钉等 30 多个 App 集成，覆盖直播、短视频、搜索推荐等 70 多个场景。MNN Chat 则是这个框架面向普通用户的对话体验入口，让你在手机上感受端侧 AI 推理的能力。
软件简介
MNN Chat 是一款利用 MNN 框架在本地设备上运行 AI 对话推理的应用。它将 MNN 在端侧推理性能方面的优势封装为一个可交互的聊天界面，用户无需联网调用云端 API，即可在手机上体验大语言模型的对话能力。对于关注隐私、追求低延迟响应或网络条件有限的用户来说，端侧推理是一种值得关注的方案。
功能特色
- 端侧本地推理：所有 AI 推理在设备本地完成，不依赖云端服务器，保障对话隐私
- MNN 框架驱动：基于阿里巴巴 MNN 引擎，在移动设备上具备行业领先的推理性能表现
- 多场景验证：MNN 框架已在淘宝、钉钉等 30 多个 App 中稳定运行，可靠性经过大规模验证
- 离线可用：无需网络连接即可进行 AI 对话，适合飞行模式或弱网环境使用
- 轻量级设计：推理框架本身对资源占用较低，适配不同性能层级的 Android 设备
