当前位置：首页应用软件PocketPal AI
大小：50.95M 类型：生活实用
版本：v1.6.7 时间：2025-05-13 09:27
小编点评：开源离线的AI互动智能助手。
PocketPal AI软件是一款简单好用的开源离线AI助手，支持多个系统。基于语言模型进行运行，用户能够在手机中与AI进行互动，无需联网即可轻松操作。支持多种模型，置强大智能的内存管理功能，能够自动卸载和加载模型以节省更多空间。自定义模型的参数进行操作，更有强大的功能，能够实时提示系统内容，查看性能指标。所有对话均能够在本地进行操作处理，更好确保数据安全。欢迎大家前来本站下载体验。
打开软件点击Models，点+，点Hugging Face搜索大模型
尽量下载名字带Q4_NL（4bit量化 normal 压缩）的模型，回答比较精准
解释一下部分量化标识命名规则：NL 平衡精度与速度（Normal）、M 中等优化（middle）、 XS 极致压缩（Extra Small）、K 极限压缩（K-special）、Qx 量化位数（手机上运行 Q4 最佳）
在加载好模型后在Settings中把N PREDICT设置为4096
下载模型
点击汉堡菜单
导航到 “Models” 页面
选择您想要的型号并点击下载
加载模型
下载后，点击 Load 将模型导入内存。现在您可以聊天了
技巧
在 iOS 设备上，Apple 的 GPU API （Metal） 默认处于激活状态。如果您遇到任何问题，请尝试停用它。
iOS 金属
自动卸载/加载
为了保持设备平稳运行，PocketPal AI 可以自动管理内存使用情况：
在模型页面上启用 “Auto Offload/Load” （默认情况下是）
该应用程序将在后台卸载模型
当您返回时，它会重新加载（对于较大的模型，请等待几秒钟）
高级设置
单击 V 形图标可访问高级 LLM 设置，例如：
温度
BOS 代币
聊天模板选项等
最后，让我们聊聊吧
加载模型后，前往 “聊天” 页面并开始与加载的模型交谈！
此时还会显示 generation performance （生成性能） 指标。如果有兴趣，请观察聊天气泡以获取实时性能指标：每秒令牌数和每个令牌的毫秒数
重要提示：截至目前，我还没有找到一种简单的方法来从生成的响应中选择和复制文本，同时保留文本格式，尤其是 Markdown 支持
同时，以下是当前用于复制文本的选项：
段落级复制：长按特定段落可复制其内容
完整响应复制：使用文本气泡底部的复制图标复制 AI 生成的整个响应
离线人工智能助手：直接在您的设备上运行语言模型，无需互联网连接
机型灵活性：下载并在多个SLM之间交换，包括Danube 2和3、Phi、Gemma 2和Qwen
自动卸载/加载：当应用处于后台时，通过卸载模型自动管理内存
推理设置：自定义模型参数，如系统提示，温度，BOS令牌和聊天模板
实时性能分析：在AI响应生成期间查看每秒令牌和每个令牌的毫秒数
能够在手机上直接运行，无需依赖互联网连接，确保了使用的便捷性和隐私性
下载和切换多种语言模型，包括Danube、Phi、Gemma等，满足不同需求
在AI生成响应的过程中，实时查看生成性能指标，如每秒令牌数和每个令牌的毫秒数，了解AI的工作状态
DeepSeek本地部署详细教程
DeepSeek是国产的免费功能强大的开源AI大模型，自该AI上线后获得了极大的关注度，用户量更是与日俱增，但由于DeepSeek频繁遭受网络攻击与访问量过大的缘故，用户在与DeepSeek对话时会出现“服务器繁忙，请稍后再试。”的情况，今天这篇教程就着重于解决这个问题，通过用户本地部署DeepSeek大模型，然而此方法较为吃电脑配置，普通用户最多本地部署个“残血版”DeepSeek模型，使用体验并没有官网“满血版”那么好，不过你的使用要求、对信息的时效性没有那么高也是能够勉强使用的。
谷歌Google账号注册教程
今天带来的是谷歌Google账号的详细注册教程，本篇提供手机端的谷歌账号注册流程，大家根据以下方法便可以注册账号，希望对大家有所帮助！
zliabary图书馆最新登陆方法以及镜像地址
zliabary图书馆最新登陆方法以及镜像地址，zliabary作为一款深受抖音、B站、C站、绿江文学爱好者们的阅读软件，目前已经拥有全新的网页版本，打开官网地址就可以直接登录到其中，一起来看看吧。
碧蓝档案国际服官方网站2025
今日带来的是碧蓝档案手游国际服的官方网址，有需求的玩家可以保存地址。此外碧蓝档案国服的地址也添加在了本页面哦。
星陨计划官网地址2025
星陨计划Ark Re:Code是一款高人气的美少女RPG养成手游。玩家将在末日的世界中，率领魅力与实力兼具的少女部队，在拯救世界、与她们建立深厚的羁绊的同时了解背后的残酷真相。今日带来的是星陨计划的官网地址。
电子包浆生成器在线制作怎么进入
电子包浆生成器是什么？电子包浆生成器是一个可以将高清图片一键制作成怀旧渣画质的工具，通过这个工具做的包浆图片很适合做表情包，选择一张适合的图片，变成包浆画质，再配上文字，做表情包简直完美！有了这个工具之后大家可以自己来制作，超简单！
无限暖暖手游地址是什么？
无限暖暖是一款由叠纸游戏开发的暖暖系列第五代作品，定档2024年12月5日全球公测上线，国服，国际服，港台服同步上线！游戏支持多平台运行，包括PC、PS5、XSX/S以及移动端（Android及iOS），玩家可以根据自己的喜好选择合适的平台进行游戏，一起来看看无限暖暖手游地址是什么？
软天空官方网站地址是什么从哪儿可以进入？
软天空官方网站地址是什么从哪儿可以进入？让下么小编来为你解答，看看到底软天空的官网地址是什么？直接登录网页版，无需下载安装官方安装包，简单实用，对手机的配置要求也不高，满足大家的需求，一起来看看软天空官方网站地址吧！
小红书网页版从哪儿进入
还有人不知道小红书可以在网页上刷了吗？小红书网页版从哪儿进入？让用户在电脑端也可以轻松刷新鲜事，赶紧一起看看吧！
开罗游戏官方网站地址大全2025
说到开罗游戏大家都不陌生，这家致力于制作各种优质像素风模拟经营游戏的公司多年来推出了许多的人气作品，2024年9月推出的《哆啦A梦的铜锣烧店物语》更是深受玩家喜爱。今日带来的是开罗游戏的官网地址，在这里可以看到官方的所有资讯以及已推出的游戏哦。
