地理教师下载网

雨晴LLM怎么用

1、打开软件进入主控台界面，点击去授权，依照提示授予存储、后台悬浮窗以及后台运行等相关权限。

2、权限授予完毕之后，点选底部模型栏目，跳转到大模型管理页面。

3、挑选Gemma系列模型等待下载结束;也可以点右上角导入模型，读取手机本地保存的模型文件，导入完成即可使用。

4、打开右下角设置页面，填写端口并且完成模型各项配置，核对参数无误后启动本地API服务。

雨晴LLM功能

1、本地离线运行：模型下载或者导入之后，脱离网络就可以完成推理运算，全部对话内容保存在本机设备当中。

2、第三方客户端对接：能够对接Open WebUI等第三方AI工具，可以按照个人习惯选用交互界面。

3、双推理后端：配备cpu、GPU两套推理运行方案，可以依据手机硬件性能选用合适的运行模式。

4、模型自主导入：除在线获取Gemma系列模型以外，还能够读取本地模型文件，模型管理更加灵活。

5、API服务支持：填写端口并完成模型配置之后开启本地API服务，为第三方AI客户端提供调用接口。

6、悬浮窗管理：后台悬浮窗口可以查看模型生成进度，快速切换模型以及启停推理服务。

雨晴LLM优势

1、【本地数据处理】模型直接在本机完成运算，对话资料无需上传远端服务器，适合看重本地隐私处理的场景。

2、【开源免费使用】整套项目开源免费，没有付费解锁项目，整体软件界面简洁干净。

3、【灵活模型管理】既能够在线下载Gemma系列模型，又可以导入本地权重文件，模型来源选择多样。

4、【多端客户端连接】对接多款第三方AI客户端，可以使用熟悉的交互界面开展本地大模型对话。

5、【硬件模式切换】 CPU以及GPU推理后端自由切换，适配不同性能档次的安卓手机设备。

雨晴LLM下载理由

1、开源免费项目，降低手机端本地部署大模型的上手门槛。

2、支持Gemma系列模型，既可在线下载，也可以读取本地模型文件。

3、实现离线本地推理，全部聊天对话记录保存于手机本机。

4、适配、Open WebUI等第三方客户端，交互形式更为自由。

5、CPU与GPU两种推理后端可供切换，适配不同硬件设备。

6、悬浮窗口管控模型运行状态，随时查看生成进度，快捷启停推理服务。

雨晴LLM常见问题

1、雨晴LLM是免费的吗?

软件本体完全免费开源，不存在付费解锁的功能项目。

2、运行雨晴LLM需要什么手机配置?

建议运行设备内存不低于8GB，预留足够存储空间存放模型文件。

3、雨晴LLM自带大模型文件吗?

软件内部没有预置模型，需要自行下载或者导入本地模型资源。

4、启动API服务后连接失败怎么办?

核查API地址与端口填写是否正确;确认存储、悬浮窗、后台运行权限全部开启。

5、可以同时运行多个大模型吗?

同一时刻只能加载一款模型，不支持多模型同时运行。