当前位置:首页 → 手机软件 → 系统工具 → 本机(本地AI助手) v0.8.3 本地模型运行

本机(本地AI助手)

本机让本地AI在手机上跑起来,离线对话不怕隐私外泄,导入模型就能用,想找靠谱本机下载的可以看看这篇实测。 发表评论
  • 软件类别:系统工具
  • 软件大小:16.0M
  • 更新时间:2026-11-16 11:22
  • 软件版本:v0.8.3 本地模型运行
  • 软件语言:简体中文
  • 软件等级:
  • 软件厂商:
  • 官方网址:暂无
  • 备案号:
  • 相关标签:
评分
好评:1 差评:1
应用介绍

最近不少人在找能在手机上离线跑AI模型的工具,本机算是被问得比较多的一个。它不联网也能对话、做总结、写点小文案,数据全留在自己设备里。这对担心聊天记录被上传的朋友来说,确实是个实在的选择。装上之后不需要注册账号,打开就能用,模型文件需要自己导入或者按提示下载,第一次折腾会花点时间。小编实测在骁龙778G的机器上加载7B量化模型大约要二十来秒,之后响应就顺畅了。它和那些云端AI最大的不同是断网可用,地铁里、飞行模式下都能接着聊。当然代价也明显,手机发热和内存占用比在线版高不少,低配机型跑起来会有点吃力。下面把安装、导入模型、权限设置这些容易卡住的地方都捋一遍,顺带说说它到底适合哪些人用。

本机AI助手怎么安装?安卓手机导入模型完整步骤

1. 在本站下载本机的APK安装包,文件不大,点击下载后等进度条走完,注意别中途切后台断掉。

本机下载安装包

2. 打开手机「设置」→「应用管理」→「特殊权限」→「安装未知应用」,找到你用的浏览器或文件管理器,把开关打开,不然点APK会提示禁止安装。

开启未知来源安装权限

3. 回到文件管理器点安装包,安装完成后首次启动会申请存储权限,选「允许」,因为模型文件要读写本地目录。

授予存储权限

4. 进入主界面后点右上角「+」→「导入模型」,从手机文件夹里选中提前放好的gguf格式模型文件,路径建议放内部存储根目录,别放太深的子文件夹,部分机型读不到。

导入本地模型文件

5. 导入后等进度条加载完,回到对话页随便发一句测试,能正常回复就说明配置好了。如果卡在加载界面,先清后台再重进一次。

模型加载完成测试对话

6. 想省内存的话,进「设置」→「推理参数」,把上下文长度从4096调到2048,显存占用能降一截,回复质量差别不大。

调整上下文长度参数

本机AI助手离线使用安全吗?权限与隐私实测说明

1. 先说结论:本机的核心对话逻辑不依赖服务器,断网状态下发消息依然有回复,这点小编用飞行模式反复验过三次,确实成立。

2. 但它并非完全零联网,首次启动会请求一次网络做版本校验,另外应用内下载模型库的时候也要联网,这两处绕不开。

3. 权限方面只申请了存储读写和网络,没有读取通讯录、短信、定位这些,安装时可以在权限列表里自己核对一遍。

4. 对话记录默认保存在应用私有目录,卸载即清除,不过它没有单独的「加密存储」开关,介意的话建议自己定期手动清理会话。

5. 负面一点说,模型文件本身是第三方来源,应用只负责加载不负责校验来源,所以下载模型时最好走官方推荐渠道,别随便抓来路不明的gguf文件。

玩家点评:用了一周,最大的感受是「踏实」。写会议纪要、改简历这种不想往外传的内容,扔给它处理完全没心理负担。缺点是7B模型在手机上跑,连续聊十几轮后机身明显发烫,夏天得摘壳用。

本机不同模型版本怎么选?量化规格对比表

模型不是越大越好,手机内存有限,选错规格要么加载失败要么卡成幻灯片。下面这张表把常见规格的实际表现整理了一下,方便对照自己的机型挑。

模型规格建议内存加载耗时适合场景
1.5B Q44GB起约5秒日常问答、短文本润色
7B Q48GB起约20秒长文总结、代码片段
7B Q812GB起约35秒质量优先,旗舰机尝鲜

小编的建议是:6GB内存的机器老老实实上1.5B,别硬撑7B,加载到一半闪退的情况很常见。8GB以上再考虑7B Q4,这是体验和资源比较平衡的一档。

本机AI助手基础操作教程:从新建对话到参数微调

很多人装完就懵在首页,其实它的操作路径挺直白的,这里挑「新建对话并调参」这个高频动作拆开讲。

操作步骤具体路径要点提示
新建会话首页右下角悬浮「+」按钮每次新建会清空上下文,省内存
切换模型顶部标题栏点模型名→选择已导入模型切换后需重新加载,等进度条
调温度值菜单→设置→推理参数→Temperature写文案调0.8,查资料调0.3
导出记录长按某条对话→更多→导出为txt存到本地,方便二次整理

实测下来,温度值这个参数对输出风格影响最大,默认的0.7偏中庸,想要更有创意的回答就往上拉,想要稳定复现就往下压。上下文长度别贪多,2048够应付大多数单轮任务,开太大反而拖慢首字响应。

心得分享:我习惯把常用提示词存成模板,每次新建对话直接粘贴,比反复打字快得多。另外导出功能挺实用,把修改过的简历文本导出来再同步到电脑,省得来回传。

本机常见问题答疑专区

导入模型后一直转圈加载不出来怎么办?

先确认模型是gguf格式,safetensors的它读不了。再检查文件是不是放在内部存储而非SD卡,部分机型对外置存储读取有限制。还不行就清应用缓存重进。

手机上跑本机,发热严重正常吗?

正常,本地推理吃CPU和内存,连续用十几分钟发烫是普遍现象。建议别边充电边跑,摘掉手机壳,夏天可以垫个散热背夹。

为什么回答到一半突然断了?

八成是内存不够被系统杀了后台。进设置把上下文长度调小,或者换更小规格的模型。后台别开太多应用。

对话记录会不会被上传?

离线对话不会。但应用内下载模型库那一步需要联网,其余时间可以全程飞行模式使用,记录只存在本机。

同类本地AI工具精选推荐

软件名称一句话看点评分
在线对话助手云端响应快,无需本地算力★★★★
模型管理器一键下载多规格模型文件★★★★
文本摘要工具长文压缩提炼,离线可用★★★☆
语音转文字录音本地识别,不上传云端★★★★
本地笔记纯离线存储,配合AI整理★★★☆

这几款各有侧重,装本机的同时可以配一个模型管理器,找模型文件会省事不少。摘要工具适合经常处理长文档的朋友,离线识别也稳。

应用信息
  • 包名:com.benji.localai
  • 名称:本机
  • 版本:0.8.3
  • MD5值:c801d1e6dfb99b12a80185777db516f8
热门专题

网友评论
评分
★
★
★
★
★
力荐
选择头像:
10
999+人评分
★★★★★
★★★★
★★★
★★
★
查看更多 >